Начало работы

Выбор модели

Какая модель поместится в вашу видеокарту и единственное число, которое это решает.

Draggy спрашивает у Ollama, что умеет каждая установленная модель, вместо того чтобы угадывать по названию. Облачные модели скрыты; модели эмбеддингов показаны, но отвечать не умеют.

Windows и Linux

Сначала выбирается по памяти видеокарты. Машина с малым объёмом или без него всё равно получает модель размером под то, что выдержит оперативная память, а не самую маленькую из всех.

ВидеопамятьМодель
меньше 4 ГБQwen 3.5 0.8B
4 ГБQwen 3.5 2B
5 ГБGemma 4 E4B
6 ГБMistral 7B
8 ГБQwen 3.5 9B
10 ГБGemma 4 12B
12 ГБPhi-4 14B
16 ГБGPT-OSS 20B MoE
20 ГБQwen 3.5 27B MoE
22 ГБGLM 4.7 Flash MoE
24 ГБGemma 4 31B
32 ГБQwen 3.5 35B MoE
96 ГБQwen 3.5 122B MoE

Все модели, которые он способен назвать, с параметрами, назначением и поддержкой, перечислены в полной таблице моделей.

Apple Silicon

Ollama 0.19+ запускает модели через MLX, поэтому Draggy берёт сборку -mlx. На Mac нет отдельной видеопамяти, поэтому размеры ниже: это целое, не урезанное число, с которым Mac продавался. Базовый чип или Pro получает модель из левого столбца; Max или Ultra, с намного большей пропускной способностью памяти, получает ту, что рядом.

Единая памятьBase или ProMax или Ultra
8 ГБQwen 3.5 2B (MLX)Qwen 3.5 4B (MLX)
16 ГБQwen 3.5 4B (MLX)Qwen 3.5 9B (MLX)
24 ГБQwen 3.5 9B (MLX)Qwen 3.5 27B MoE (MLX)
32 ГБQwen 3.5 27B MoE (MLX)Gemma 4 31B (MLX)
48 ГБGemma 4 31B (MLX)Qwen 3.5 35B MoE (MLX)
64 ГБQwen 3.5 35B MoE (MLX)GLM 4.7 Flash (MLX)
96 ГБGLM 4.7 Flash (MLX)Qwen 3.5 122B MoE (MLX)
128 ГБ и большеQwen 3.5 122B MoE (MLX)Qwen 3.5 122B MoE (MLX)

Каждый Mac, способный запускать свои модели, начиная с первого в 2020 году:

MacГодыЧипЕдиная память
MacBook Air2020–2025M1, M2, M3, M48–32 ГБ
MacBook Pro 13"2020M18–16 ГБ
MacBook Pro 14"/16"2021–2025От M1 до M4, Pro или Max16–128 ГБ
Mac mini2020–2024M1, M2 или M2 Pro, M4 или M4 Pro8–64 ГБ
iMac2021–2025M1, M3, M48–24 ГБ
Mac Studio2022–2025M1/M2 Max или Ultra, M3 Ultra, M4 Max32–512 ГБ
Mac Pro2023M2 Ultra64–192 ГБ

Mac 2019 года или старше это Intel: у него настоящая, отдельная видеокарта, и он читает таблицу Windows и Linux выше.

Та же таблица, но по единой памяти вместо видеопамяти, это полная таблица моделей для Mac.

Число, которое важно

Настройки → Модели показывают, какая часть каждой модели помещается в видеопамять. На 100 % на GPU ответ идёт со скоростью чтения. На 60 % работает, но в несколько раз медленнее. Ниже этого берите размер меньше.

У загруженной модели там появляется кнопка Выгрузить модель, которая освобождает видеопамять, ничего не удаляя.

Модель для разговора

Голосовой режим использует свою, меньшую модель, задаётся в Настройки → Chat → Разговор. Здесь быстрый ответ важнее хорошего, так что держите модель маленькой.