Локальная нейросеть на ПК: как запустить через Ollama в 2026 году

Обновлено 13 октября 2026 года.

Локальная нейросеть — языковая модель, которая работает на вашем компьютере: после загрузки она обходится без интернета, и запросы не уходят на чужие серверы. Проще всего запустить её через Ollama, бесплатную программу для Windows, macOS и Linux. Что именно пойдёт, решает объём памяти: на ноутбуке с 16 ГБ оперативной памяти работают модели на 4–12 млрд параметров (файлы 3–8 ГБ), видеокарте с 24 ГБ по силам модели на 26–31 млрд (файлы 16–20 ГБ). Открытые модели уровня облачных флагманов весят сотни гигабайт, на домашнем ПК их не запустить.

Коротко:

• Ollama бесплатна (лицензия MIT) и работает на Windows 10 22H2 и новее, macOS 14 Sonoma и новее и Linux. На Windows и macOS у неё есть окно чата, на Linux — командная строка;
• правило подбора модели: файл плюс запас под контекст должен поместиться в видеопамять, а если видеокарты нет — в оперативную память;
• для русского языка подходят Qwen 3.5 и Gemma 4, а также российские открытые модели T-lite от Т-Банка и YandexGPT 5 Lite — обе ставятся из библиотеки Ollama одной командой;
• если загрузка модели висит на 0%, вероятная причина — замедление Cloudflare: через него Ollama раздаёт файлы моделей. Модель можно взять в формате GGUF с Hugging Face;
• круглосуточная работа, доступ для команды и боты — задача для сервера, её мы разобрали отдельно: как развернуть LLM на сервере.

Локальная нейросеть или облачная: что вы получаете и чем платите

Локальная модель выигрывает в приватности и цене, облачная — в качестве ответов и длине контекста.

В Ollama есть и облачные модели с пометкой cloud — например, deepseek-v4-pro или kimi-k3. Они работают на серверах Ollama, поэтому локальными не считаются. Бесплатный тариф даёт стартовый запас кредитов на них, Pro стоит $20 в месяц, Max — $100 (цены с ollama.com/pricing на 13 октября 2026 года). Для локальных моделей ни аккаунт, ни подписка не нужны. Если важно, чтобы программа вообще не обращалась к облаку, его отключают переменной окружения OLLAMA_NO_CLOUD=1 или строкой "disable_ollama_cloud": true в файле ~/.ollama/server.json.

Какие модели пойдут на вашем компьютере

Смотрите на объём памяти, а не на частоту процессора: модель целиком загружается в видеопамять, а без видеокарты — в оперативную. Размеры файлов ниже взяты из библиотеки Ollama на 13 октября 2026 года. Столбец «Память» — наш ориентир по правилу «файл модели плюс запас на контекст и систему».

Где указан диапазон, в библиотеке лежит несколько сборок одной модели. Подобрать модель под свою память удобнее всего на ollama.com/search: там есть фильтр Download size с порогами 8, 16, 32 и 64 ГБ.

Почему памяти нужно больше, чем весит файл

Сверх весов память занимает контекст: переписка и документы, которые модель держит в работе. Google в документации Gemma 4 приводит объём памяти только под веса в 4-битном варианте: 6,7 ГБ для 12B, 14,4 ГБ для 26B A4B и 17,5 ГБ для 31B. Там же сказано, что длинный контекст добавляет память сверху. Из той же документации видно, почему модели с пометками a3b и a4b (архитектура MoE) не экономят память: в ней держат все параметры, хотя на каждый токен работают только 3–4 млрд из них.

Длину контекста Ollama выбирает сама по объёму видеопамяти: 4 тыс. токенов при видеопамяти меньше 24 ГБ, 32 тыс. при 24–48 ГБ и 256 тыс. от 48 ГБ. Для агентов, поиска и работы с кодом документация советует не меньше 64 тыс. токенов, и это поднимает требования к памяти. Длину меняют ползунком в настройках приложения или переменной OLLAMA_CONTEXT_LENGTH.

Нужна ли видеокарта

Нет, Ollama считает и на процессоре, только медленнее. Если модель не поместилась в видеопамять целиком, часть слоёв уходит на процессор, и документация Ollama советует этого избегать. Проверить раскладку можно командой ollama ps: в колонке PROCESSOR должно стоять «100% GPU».

Поддерживаются видеокарты NVIDIA с compute capability 5.0 и выше (от GTX 750) с драйвером 550 и новее, для карт с compute capability 5.0–6.2 (GTX 750, серии GTX 900 и GTX 10xx) нужен драйвер 570 и новее. Карты AMD Radeon работают через ROCm или Vulkan. На Mac модель считает видеоядро чипов Apple M-серии, на Mac с процессором Intel — только процессор.

Модели для русского языка: Qwen, Gemma и российские открытые

Из больших семейств в библиотеке Ollama разработчики заявляют широкую языковую поддержку у двух:

• Qwen 3.5 — по данным разработчика, 201 язык и диалект, лицензия Apache 2.0; в библиотеке Ollama — версии от 0,8 до 122 млрд параметров. Команда: ollama run qwen3.5:9b.
• Gemma 4 от Google — обучена на 140+ языках, 35+ поддерживает без дообучения, понимает изображения, лицензия Apache 2.0. Команда: ollama run gemma4:12b.

Российские открытые модели тоже запускаются локально:

• T-lite-it 2.1 от Т-Банка — русскоязычная модель на архитектуре Qwen 3 с поддержкой вызова инструментов, лицензия Apache 2.0. Команда: ollama run t-tech/T-lite-it-2.1:q4_K_M (5,0 ГБ, контекст 40 тыс. токенов).
• YandexGPT 5 Lite 8B — команда ollama run yandex/YandexGPT-5-Lite-8B-instruct-GGUF (4,9 ГБ, контекст 32 тыс. токенов). Яндекс советует интерактивный режим только для знакомства с моделью: у неё нестандартный шаблон диалога. Лицензия бесплатная, в том числе для коммерческого использования, но после 10 млн выходных токенов в месяц нужно договориться с Яндексом.
• GigaChat 3.1 Lightning от Сбера — модель на 10 млрд параметров (1,8 млрд активных), лицензия MIT, 4-битный GGUF-файл весит 6,5 ГБ. Официальная инструкция описывает запуск через llama.cpp; в библиотеке Ollama есть только сборки сторонних пользователей.

Без установки из России работают облачные GigaChat и YandexGPT (в чате с Алисой). Обзоры семейств — в статьях о российских нейросетях и китайских моделях.

Как установить Ollama и запустить первую модель

• Windows — Windows 10 22H2 или новее, Home или Pro. Установщик с ollama.com ставит программу в домашнюю папку без прав администратора. Под саму программу нужно не меньше 4 ГБ, под модели — от единиц до сотен гигабайт.
• macOS — macOS 14 Sonoma или новее. Приложение перетаскивают в папку «Программы», при первом запуске оно предложит добавить команду ollama в терминал.
• Linux — установка одной командой: curl -fsSL https://ollama.com/install.sh | sh.

Модель скачается при первом запуске:

ollama run qwen3.5:9b

В приложении на Windows и macOS то же делается мышкой: выбираете модель в списке и пишете в чат. Туда можно перетащить текстовый файл или PDF, картинку — если модель понимает изображения. Если системный диск маленький, модели переносят на другой диск переменной окружения OLLAMA_MODELS с путём к новой папке. После установки Ollama работает в фоне и отвечает по адресу http://localhost:11434.

Базовые команды

ollama run qwen3.5:9b    # запустить чат с моделью
ollama pull gemma4:12b   # скачать модель без запуска
ollama ls                # список скачанных моделей
ollama ps                # какие модели сейчас в памяти и на чём считаются
ollama stop qwen3.5:9b   # выгрузить модель из памяти
ollama rm gemma4:12b     # удалить модель с диска

Модель не скачивается и висит на 0%: что делать

Ollama раздаёт файлы моделей из хранилища Cloudflare R2. С 9 июня 2025 года российские провайдеры замедляют сервисы за Cloudflare: по данным самой Cloudflare, у пользователей из России загружаются только первые 16 КБ каждого файла (это данные Cloudflare на конец июня 2025 года). Для модели на несколько гигабайт это выглядит как загрузка, застывшая на нуле. Сама программа ставится с другого адреса: кнопка скачивания для Windows ведёт на страницу релизов Ollama на GitHub.

Модель можно взять из другого источника:

1. С Hugging Face напрямую. Ollama запускает GGUF-файлы оттуда одной командой, по умолчанию берёт 4-битный вариант Q4_K_M: ollama run hf.co/t-tech/T-lite-it-2.1-GGUF:Q4_K_M. Hugging Face отдаёт файлы через Amazon CloudFront, а не через Cloudflare.
2. Скачать GGUF-файл отдельно и подключить его: создайте рядом с файлом текстовый файл Modelfile со строкой FROM ./model.gguf, затем выполните ollama create my-model -f Modelfile и ollama run my-model.
3. Попробовать LM Studio — она ищет и скачивает модели с Hugging Face сама.

Скорость загрузки всё равно зависит от провайдера. Загрузка разовая: скачанная модель работает без сети.

Программы с окном вместо командной строки

Ollama — не единственный способ. Если командная строка не нужна совсем, подойдут программы с графическим интерфейсом:

Как поднять Open WebUI на сервере и закрыть его паролем, мы описали в статье про LLM на сервере.

Картинки и видео на своём компьютере

Ollama умеет генерировать изображения в экспериментальном режиме и пока только на macOS: модели x/z-image-turbo (13 ГБ) и x/flux2-klein (5,7 ГБ; у версии на 9 млрд параметров некоммерческая лицензия). На Windows и Linux картинки и видео запускают в других программах, например в ComfyUI. Её настольная версия есть для Windows 10 и новее (рекомендуется видеокарта NVIDIA или AMD), для macOS на Apple M и для Linux. Облачные сервисы для тех же задач собраны в подборках нейросетей для изображений и для видео.

Когда локальная модель не заменит облачную

• Нужен уровень флагманов. Самые сильные открытые модели в домашний ПК не помещаются: deepseek-r1:671b весит 404 ГБ, qwen3:235b — 142 ГБ, gpt-oss:120b — 65 ГБ, и OpenAI рассчитывает её на одну видеокарту с 80 ГБ памяти. Новые Kimi K3, DeepSeek V4 Pro и Mistral Large 4 (1,05 трлн параметров) доступны в Ollama только как облачные модели.
• Нужно разобрать длинный документ. На видеокарте меньше 24 ГБ контекст по умолчанию — 4 тыс. токенов. Расширить можно, но за счёт памяти, которой на ноутбуке и так мало.
• Нужны свежие данные. Локальная модель знает только то, что было в обучающих данных. Поиск в интернете в Ollama — облачная функция, для неё нужен аккаунт на ollama.com и API-ключ.
• Слабое железо. Когда модель частично считается на процессоре, ответы идут заметно медленнее, и для работы с кодом или длинными текстами это неудобно.

Рабочая схема — гибрид. Простые тексты и всё, что нельзя отдавать наружу, остаются на локальной модели, а сложные задачи уходят в облако. Без зарубежной карты это GigaChat (веб-версия бесплатна после входа по Сбер ID) и агрегаторы с оплатой в рублях вроде AITUNNEL и VseGPT; обзор таких сервисов — в статье об агрегаторах нейросетей. Если модель нужна круглосуточно или нескольким людям, переносите её на сервер: развёртывание LLM на сервере, аренда GPU в России.

Ollama как движок для других программ

Локальный API на http://localhost:11434 совместим с форматами OpenAI и Anthropic, поэтому к Ollama подключаются редакторы кода и агенты. Агентов для кода Ollama запускает сама: ollama launch claude, ollama launch codex или ollama launch opencode откроют Claude Code, Codex CLI или OpenCode с выбранной локальной моделью. Для таких задач нужна модель с поддержкой инструментов и контекст от 64 тыс. токенов. Подробнее — в гайдах по Codex, OpenCode и n8n с нейросетями.

FAQ

Сколько оперативной памяти нужно для локальной нейросети?

8 ГБ хватит на модели до 4 млрд параметров (файлы 2–4 ГБ), 16 ГБ — на модели 8–12 млрд (5–8 ГБ), 24–32 ГБ — на 26–31 млрд (16–20 ГБ). Файл должен помещаться в память с запасом под контекст, иначе модель не запустится или будет работать очень медленно.

Ollama бесплатная?

Да, Ollama распространяется под лицензией MIT, модели из библиотеки скачиваются бесплатно. У каждой модели своя лицензия: например, у YandexGPT 5 Lite есть порог в 10 млн выходных токенов в месяц для коммерции. Платные только облачные тарифы Ollama, для локальной работы они не нужны.

Нужна ли видеокарта?

Нет, Ollama работает и на процессоре, но медленнее. С видеокартой NVIDIA, AMD или на Mac с чипом Apple M модель считается на видеоядре, быстрее всего — когда целиком помещается в видеопамять.

Почему ollama pull зависает на 0%?

Файлы моделей Ollama лежат в хранилище Cloudflare, а российские провайдеры с июня 2025 года, по данным Cloudflare, ограничивают загрузку с неё первыми 16 КБ каждого файла. Возьмите модель в формате GGUF с Hugging Face командой ollama run hf.co/автор/репозиторий или скачайте файл отдельно и подключите через Modelfile.

Какую модель взять для русского языка?

Начните с qwen3.5:9b или gemma4:12b, если памяти 16 ГБ, и сравните их с русскоязычными T-lite-it-2.1 и YandexGPT 5 Lite на своих задачах. Все четыре помещаются в 16 ГБ памяти.

Можно ли бесплатно пользоваться облачными моделями в Ollama?

Да, бесплатный тариф даёт стартовый запас кредитов и доступ к стартовым облачным моделям, дальше нужно пополнять баланс или брать Pro за $20 в месяц. Облачные модели работают на серверах Ollama: по заявлению компании, запросы там не хранятся и не используются для обучения, но с вашего компьютера они уходят.

Ollama пишет, что нужен Node.js. Почему?

В системных требованиях Ollama Node.js нет. Он нужен программам, которые вы подключаете к Ollama и ставите через npm, — например, Codex CLI ставится командой npm install -g @openai/codex. Установите Node.js с nodejs.org или выберите агента со своим установщиком.

Сергей Васильев

Редактор каталога нейросетей ailist.ru. Пишет про AI-инструменты: генерацию текста, изображений и видео, автоматизацию, чат-ботов и доступ к зарубежным сервисам из России. Тестирует новые сервисы и помогает выбирать рабочие инструменты под конкретные задачи. В AI с 2023 года — помнит времена, когда на сгенерированных нейросетью фотографиях у людей было по шесть пальцев.