Подбери модель под задачу
- Чат, черновики и короткие вопросы. Начни с небольшого варианта, например Qwen3.5 2B.
- Фотографии и скриншоты. В каталоге моделей включи фильтр «Изображения» и проверь поддержку у выбранного варианта.
- Задачи агента и поиск в интернете. Ищи модель с поддержкой инструментов. В каталоге для этого есть отдельный фильтр.
Сравни размер файла и контекст
Размер в карточке показывает, сколько места займёт загрузка. Для работы модели нужна дополнительная память. Чем длиннее контекст, тем больше памяти может понадобиться.
У одной модели бывают версии с разной точностью весов. Метки вроде
Q4_K_M и Q8_0 обозначают варианты
сжатия. Среди вариантов одной модели Q4 обычно занимает меньше
места, чем Q8. Сравни фактический размер файлов и попробуй меньший
вариант, если важна скорость.
Если модель запускается, но долго отвечает, уменьши «Размер контекста» в «Настройки → Модели и API». На странице модели указан предел варианта, когда он известен.
Установи через Ollama или Hugging Face
- Ollama. На странице модели скопируй имя варианта Ollama. В codef открой «Модели и загрузки → Установленные → Установить по имени Ollama» и вставь его.
- Hugging Face. Открой вкладку «Hugging Face», введи имя репозитория или вставь ссылку, затем выбери файл GGUF и нажми «Скачать».
- Файл уже на диске. На вкладке «Установленные» нажми «Импортировать свой GGUF» и выбери файл.
На Windows и Linux сначала установи и запусти Ollama. Для некоторых моделей нужна более новая версия Ollama. Требуемая версия указана в варианте запуска, когда она известна.
Следи за загрузкой и начни чат
Вкладка «Загрузки» показывает задания отдельно. Здесь видны прогресс, скорость при активной загрузке и этап импорта. Можно отменить загрузку или повторить неудачную.
Когда модель появится на вкладке «Установленные», нажми «Использовать» и отправь короткое сообщение. Если загрузка не завершается, проверь место на диске и доступ к репозиторию.