Выбирайте модель под задачу и доступную память, а не только по числу параметров. Проверка ПК оценивает пригодность по памяти; она не гарантирует скорость и работу каждой функции. В таблице приведены точные размеры файлов из каталога этой версии. ГБ указаны в десятичной системе; память для расчётов и временное место нужны дополнительно.
| Модель | Всего скачать | Файлов | Источник |
|---|---|---|---|
| Huihui Qwen3.8 Coder 27B · IQ3_S3 | 13.07 GB | 2 | Hugging Face ↗ |
| Qwen3.5 4B · Q4_K_M | 2.74 GB | 1 | Hugging Face ↗ |
| Qwen3.5 0.8B · Q4_K_M | 0.53 GB | 1 | Hugging Face ↗ |
| Qwen Image 2.1 Turbo · Q5_K_M | 11.21 GB | 3 | Hugging Face ↗ |
| Wan 2.1 T2V 1.3B · экспериментальная | 6.75 GB | 3 | Hugging Face ↗ |
Чем отличаются RAM и VRAM?
RAM — оперативная память компьютера, VRAM — память видеокарты. Место занимают веса модели, кэш контекста и рабочие буферы. Если файл помещается на SSD, это ещё не значит, что он поместится в VRAM. Частичная загрузка на CPU позволяет запустить некоторые большие модели, но может снизить скорость. Дополнительная RAM помогает при нехватке ёмкости, но не ускоряет автоматически задачу, ограниченную видеокартой.
С чего начать
- На компьютере с небольшой памятью сначала проверьте модель 0.8B или 4B. У неё более ограниченные возможности рассуждения, программирования и работы с инструментами.
- Ориентир для стандартного Huihui Coder: около 32 ГБ системной RAM и 16 ГБ NVIDIA VRAM. Оставьте от 35 ГБ на SSD для приложения, комплектов моделей и запаса. Длинный контекст требует дополнительной памяти.
- Для рисования скачивается весь комплект из трёх файлов. Переключение между кодом и изображениями помогает не держать обе тяжёлые задачи в VRAM одновременно. Нужны совместимые драйверы и поддерживаемая видеокарта.
Что даёт квантование?
Квантование GGUF уменьшает размер весов. Более низкая точность может позволить вместить большую модель ценой части качества. Названия Q4 и IQ3 не означают одинаковое качество у разных моделей. Сравнивайте ответы на своих задачах и изучайте карточку модели и её лицензию.
Контекст и токены в секунду
Длинный контекст потребляет больше памяти и может замедлить обработку. Заметки о проекте и сжатие истории помогают управлять окном, но не гарантируют сохранение каждой детали. В опубликованном тесте длинного кодового ответа на Windows 11 с RTX 4080 получено 100,85 токена/с. Это результат конкретной настройки, а не обещание для любого ПК и полного диалога на 65К.
Картинки, анализ фото и экспериментальное видео
Для генерации изображений и анализа фото нужны разные совместимые компоненты. Нельзя определять поддержку зрения только по слову Coder. Видеостудия Wan экспериментальная: на Windows с RTX 4080 проверен ролик 512×288, 33 кадра, 20 шагов за 52,68 секунды с возвратом модели кода. Другие видеокарты и ОС пока не проверены.
Откуда взяты данные
Размеры и контрольные суммы — из опубликованного каталога. Перед рабочим внедрением прочитайте результаты проверок и ограничения. Модели скачиваются из репозиториев издателей и сохраняют собственные лицензии.