Локальный ИИ-агент без облака: как запустить на ПК в 2026

Локальный ИИ-агент запускает нейросеть на вашем компьютере и выполняет шаги сам: читает файлы, правит их, запускает команды. Для запуска без облака и подписки нужны бесплатная программа Ollama или LM Studio, модель с открытыми весами под объём памяти и агентская обвязка, которая даст модели инструменты и права на действия.

Локальная модель и локальный агент это разные вещи

Локальная модель отвечает текстом, а агент ещё и выполняет действия с помощью инструментов. Модель хранится в файле с весами, обычно .gguf или .safetensors; программа-движок Ollama или LM Studio загружает этот файл в память и по вашему тексту достраивает ответ. Скачали модель, запустили движок, получили чат в окне терминала или приложения.

К модели агент добавляет три вещи: инструменты (доступ к папке с файлами, к терминалу, к поиску), цикл выполнения (модель делает шаг, видит результат, решает, что дальше) и права, которые вы ей выдали. Без этой обвязки нейросеть напишет вам, какую команду выполнить, но не выполнит её. От обычного чат-бота агент отличается возможностью действовать.

Чтобы получить агента, к скачанной через Ollama модели подключают отдельную программу. Поэтому модель и обвязку придётся выбирать отдельно.

Зачем держать агента у себя, а не в облаке

• Приватность. Текст запроса, содержимое файлов и код остаются на компьютере, пока модель и инструменты локальные. Это главный аргумент для медицинских, юридических и бухгалтерских документов, договоров и внутренних баз. У Ollama модели с окончанием :cloud работают на серверах сервиса, а веб-поиск Ollama отправляет запрос на ollama.com.
• Работа без интернета. После того как модель скачана, она отвечает в самолёте, на даче и при упавшем провайдере. В LM Studio чат, работа с документами и локальный сервер работают офлайн. Сеть нужна для поиска и скачивания новых моделей, обновления моделей и самих программ, веб-поиска и подключения облачных моделей.
• Нет подписки и оплаты картой. Оплата зарубежных сервисов из России отдельная задача, а локальный запуск её просто снимает: программы бесплатные, платите вы только электричеством и железом.
• Нет квоты и оплаты за токены. Можно гонять модель хоть сутки, пока хватает вашего терпения.
• Свобода эксперимента. Можно менять модели, дообучать под себя, встраивать в свои скрипты и не ждать, пока сервис добавит нужную функцию.

Что реально требуется от железа

Модель должна поместиться в память, а для быстрого ответа лучше целиком загрузить её в видеопамять. Размер скачиваемого файла задаёт нижнюю границу, сверху добавляется место под контекст (историю диалога) и под саму систему, обычно ещё пара гигабайт.

Ориентиры по реальным весам моделей из каталога Ollama на октябрь 2026:

• 8 ГБ памяти. Работают только небольшие модели: Gemma 3 на 4 млрд параметров весит 3,3 ГБ, Qwen3 на 4 млрд весит 2,5 ГБ. Для коротких ответов, черновиков и разбора текста годится, для агента со сложной задачей нет.
• 16 ГБ памяти. Рабочий минимум. Сюда влезает qwen3:8b (5,2 ГБ) и qwen3:14b (9,3 ГБ), а также gpt-oss:20b от OpenAI: файл 14 ГБ, и разработчики прямо пишут, что модель рассчитана на системы с 16 ГБ памяти.
• 24-32 ГБ памяти. Открывается gemma3:27b (17 ГБ) и qwen3:30b (19 ГБ).
• 80 ГБ видеопамяти. OpenAI рассчитала старшую gpt-oss:120b (65 ГБ) на одну видеокарту с 80 ГБ памяти. Для неё нужна серверная карта, аренда или компьютер с очень большим объёмом общей памяти, например старшая конфигурация Mac на Apple Silicon.

В каталоге Ollama уже есть Gemma 4 (gemma4:12b 7,7-8 ГБ, gemma4:26b 16-19 ГБ, gemma4:31b 19-20 ГБ) и Qwen 3.5 (qwen3.5:4b 3,3-4 ГБ, qwen3.5:27b 17-20 ГБ, qwen3.5:35b 22 ГБ); у старших версий обоих семейств окно до 256K, а подбирать модель по-прежнему нужно под объём памяти.

У чипов Apple Silicon память общая для процессора и графики, поэтому MacBook с 16 или 24 ГБ тянет модели, для которых на Windows понадобилась бы дискретная видеокарта такого же объёма, чтобы модель целиком считалась на ней. На Windows и Linux ориентируйтесь на видеопамять карты: запуск на процессоре и смешанный режим возможны, но скорость заметно упадёт. Ollama советует избегать выгрузки модели на процессор; распределение показывает колонка PROCESSOR команды ollama ps.

Начинайте с модели на размер меньше, чем позволяет память. Модель, которая едва влезла, оставляет ноль места под длинный контекст, и агент начинает забывать начало задачи ровно там, где становится интересно.

Ollama выбирает окно контекста по объёму видеопамяти: при видеопамяти меньше 24 ГиБ это 4 тысячи токенов, от 24 до 48 ГиБ 32 тысячи, от 48 ГиБ 256 тысяч. Для агентов, веб-поиска и кодовых инструментов документация рекомендует не меньше 64000 токенов; увеличить окно можно ползунком в настройках приложения Ollama или при запуске сервера командой OLLAMA_CONTEXT_LENGTH=64000 ollama serve. Большее окно требует больше памяти, а установленное значение показывает колонка CONTEXT команды ollama ps.

Чем запускают модели: Ollama и LM Studio

Два инструмента закрывают почти все бытовые сценарии, и оба бесплатные.

Ollama работает как движок с командной строкой и локальным API. У него есть и обычное приложение для macOS и Windows с чатом и перетаскиванием файлов. Для подключения других программ Ollama поднимает у вас сервер на порту 11434. Ставится одним установщиком, модели качаются командой ollama pull.

LM Studio предлагает графический интерфейс: каталог моделей с поиском, чат, настройки и встроенный сервер API. Терминал для чата не нужен: во вкладке Discover найдите и скачайте модель, затем во вкладке Chat откройте загрузчик моделей и загрузите скачанную модель в память, как в инструкции LM Studio. После этого можно общаться.

По системным требованиям LM Studio на Mac нужен Apple Silicon и macOS 14 или новее, Mac на Intel не поддерживаются, рекомендуются от 16 ГБ памяти, а на Mac с 8 ГБ работают только небольшие модели с умеренным контекстом. На Windows x64 процессор должен поддерживать AVX2, рекомендуются от 16 ГБ оперативной памяти и от 4 ГБ видеопамяти.

1. Скачайте установщик Ollama с официального сайта и поставьте как обычную программу.
2. Откройте терминал (в Windows это PowerShell) и проверьте установку командой ollama --version.
3. Скачайте первую модель под свою память, например ollama pull qwen3:8b для машины с 16 ГБ.
4. Запустите чат командой ollama run qwen3:8b и задайте пару вопросов, чтобы оценить скорость ответа.
5. Если скорость устраивает, попробуйте модель на ступень больше. Если модель отвечает по слову в секунду, берите меньше.

По теме: Ollama и Codex: локальная модель, запуск и проверка 2026

Как из локальной модели получить именно агента

К запущенной модели подключают готовое агентское приложение, Codex CLI или свою обвязку.

Готовое агентское приложение. 16 июля 2026 года команда LM Studio выпустила Bionic, отдельную программу для macOS, Windows и Linux: она разбирает документы, PDF и таблицы в песочнице, работает с папкой проекта, показывает каждую правку кода диффом и делает автоматические контрольные точки, чтобы изменения можно было откатить. При локальной модели и локальных инструментах файлы остаются на компьютере. Кроме локальных моделей, Bionic поддерживает облачные открытые модели LM Studio Secure Cloud; для них нужен аккаунт LM Studio с настроенной оплатой.

Кодовый агент на локальной модели. Codex CLI от OpenAI умеет работать с вашим Ollama. По инструкции Ollama флаг --oss подключает Codex к локальному серверу, а -m задаёт модель; значение по умолчанию gpt-oss:20b задано в самом Codex. Инструкция рекомендует окно контекста не меньше 64 тысяч токенов. Для быстрой настройки используйте ollama launch codex: Ollama обновит каталог моделей и запустит Codex с отдельным профилем. Основные команды и режимы Codex те же, но облачные функции Codex без интернета не работают, а качество работы зависит от модели.

Своя обвязка. Ollama реализует только часть OpenAI API. Скрипт или бот, написанный под облачную модель, можно переключить на локальную сменой адреса на http://localhost:11434/v1/ и имени модели, если он использует поддерживаемую часть API. Это способ для тех, кто уже собирает что-то своё.

# 1. скачать и попробовать модель
ollama pull qwen3:8b
ollama run qwen3:8b

# 2. поднять агента (до запуска окно контекста от 64000 в настройках Ollama)
npm install -g @openai/codex
ollama pull gpt-oss:20b
codex --oss -m gpt-oss:20b

Что локальный агент делает хуже и когда он не нужен

Локальный агент чаще сбивается на длинных задачах, а на слабом железе медленно отвечает и ограничивает размер контекста.

• Качество на сложных задачах. Модель на 8-20 млрд параметров уверенно пересказывает, сортирует и пишет простой код, но на длинной многошаговой задаче чаще сбивается и придумывает несуществующие функции. Проверять её приходится плотнее.
• Скорость. На процессоре без нормальной видеокарты ответ печатается заметно медленнее, чем в браузере, и разница особенно чувствуется в агентском режиме, где модель делает десятки шагов подряд.
• Короткий контекст. Большое окно контекста занимает память так же, как сама модель, поэтому «закинуть весь проект целиком» на домашнем железе обычно не выйдет.
• Возня с обслуживанием. Модели обновляются, форматы меняются, диск занимают десятки гигабайт, а ноутбук во время работы греется и быстрее садится.
• Не всё есть локально. Веса флагманских GPT и Claude закрыты, локально их не поставить.

Локальный вариант не окупает возню, если у машины 8 ГБ памяти и нет видеокарты, если задача разовая, если вы работаете с открытыми данными, где приватность не критична, или если вам нужен максимум качества по коду. В последнем случае логичнее выбирать облачные инструменты под задачу и бюджет. Рабочий компромисс: маленькая локальная модель на чувствительные документы и рутину, облачный агент на сложные проекты.

Частые вопросы

Нужна ли видеокарта или хватит процессора?

Хватит процессора, Ollama и LM Studio умеют считать на нём. Но скорость будет заметно ниже, и чем крупнее модель, тем сильнее разница. Видеокарта нужна не для того, чтобы «получилось», а для того, чтобы было комфортно.

Сколько это стоит?

Сами программы бесплатны, модели с открытыми весами тоже. Платите вы за железо и электричество. Именно поэтому локальный запуск часто выбирают в России: не нужна зарубежная карта и подписка.

Точно работает без интернета?

Да, после того как модель скачана: в LM Studio чат, работа с документами и локальный сервер работают офлайн. Интернет понадобится для поиска и скачивания новых моделей, обновления моделей и самих программ, веб-поиска или подключения облачной модели как запасной.

Можно ли запустить локально Claude, GPT или Gemini?

Нет, у флагманских Claude, GPT и Gemini веса закрыты. Локально запускают модели с открытыми весами: gpt-oss от OpenAI, Qwen, Gemma, DeepSeek и другие. Названия похожи на облачные, но это разные модели. Оговорка касается Gemini Nano в браузере Chrome: эта маленькая модель работает на устройстве, после скачивания не требует сети и не отправляет данные Google или третьим лицам, но отдельно через Ollama или LM Studio её не поставить.

С какой модели начать?

На 16 ГБ памяти возьмите qwen3:8b для общих задач или gpt-oss:20b, если планируете агентский режим. У qwen3:8b максимальное окно 40K, меньше рекомендованных для Codex 64K, а у gpt-oss:20b окно 128K, поэтому для агентского режима логичнее второй вариант, если хватает памяти на модель и выбранный контекст. На слабой машине начните с gemma3:4b: она весит 3,3 ГБ и запустится почти везде.