Рабочая установка — это всегда три отдельные вещи. Путаница между ними и есть главная причина, почему у людей «не работает».
| Слой | Что это | Примеры | Цена |
|---|---|---|---|
| 1. Движок | Программа, которая запускает модель на вашем железе и отдаёт её по сети внутри компьютера | Ollama, LM Studio, llama.cpp | Бесплатно |
| 2. Модель | Файл с весами. Собственно «мозг». Скачивается один раз, лежит на диске | Qwen, Llama, Gemma, Mistral, Phi, DeepSeek | Бесплатно, но гигабайты |
| 3. Агент | Программа, которая даёт модели инструменты и крутит цикл из главы 01 | Open Interpreter, Aider, Cline, Goose | Бесплатно, открытый код |
Три слоя ставятся отдельно и меняются отдельно. Можно оставить движок и поменять модель. Можно оставить модель и попробовать другого агента. Это удобно — и это же источник путаницы, когда человек ставит «ИИ» и не понимает, какой именно кусок у него не работает.
Когда что-то не работает, вопрос всегда один: на каком слое? Движок не запущен? Модель не скачана? Агент не видит движок? Глава 08 — проверка первых двух слоёв по отдельности, и она избавит вас от 90% будущих мучений.
Его задача проста: взять файл модели, загрузить в память, использовать видеокарту или процессор и отвечать на запросы. Почти все движки поднимают локальный веб-адрес, к которому потом подключается агент.
| Движок | Кому | Плюс | Минус |
|---|---|---|---|
| Ollama | Почти всем | Одна команда на установку, одна на запуск модели. Всё дальнейшее в книге рассчитано на него | Управление через терминал |
| LM Studio | Тем, кто не хочет терминал | Окно с кнопками, поиск моделей внутри, видно скорость и память | Тяжелее, меньше автоматизируется |
| llama.cpp | Тем, кто любит копаться | Максимум контроля и скорости | Собирать и настраивать руками |
В этой книге основной путь — Ollama, потому что к нему подключается каждый агент из глав 12–17 без дополнительных плясок. LM Studio описан в главе 07 как альтернатива: он умеет то же самое и тоже отдаёт совместимый адрес.
Файл на диске размером от одного до сорока гигабайт. Скачивается один раз и работает без интернета. Ключевые слова, которые вы будете видеть постоянно:
Модель можно бесплатно скачать и запустить у себя, но лицензии у семейств разные: часть под свободными лицензиями, часть — под собственными условиями разработчика, иногда с ограничениями на коммерческое использование. Для личных задач это почти никогда не мешает. Если собираетесь строить на этом бизнес — прочитайте лицензию конкретной модели.
Здесь начинается разница между «поговорить с моделью» и «заставить её работать». Агент добавляет инструменты и цикл. Подробно — главы 12–17, коротко для ориентира:
| Агент | Для чего | Где живёт |
|---|---|---|
| Open Interpreter | Пишет и выполняет код прямо у вас: файлы, конвертация, скрипты | Терминал |
| Aider | Правит ваши файлы в проекте и делает коммиты в git | Терминал |
| Cline | То же плюс терминал и браузер, с наглядными подтверждениями | Расширение VS Code |
| Goose | Универсальный агент с подключаемыми расширениями | Терминал и отдельное окно |
| MCP-серверы | Не агент, а «переходники»: файлы, браузер, база, почта | Подключаются к агентам |
| Что | Цена | Честная оговорка |
|---|---|---|
| Движки | 0 | Открытый код, без регистрации |
| Модели с открытыми весами | 0 | Занимают диск: типично 5–25 ГБ на модель |
| Агенты из глав 12–17 | 0 | Открытый код |
| Электричество и износ | Небольшая, но не ноль | Ноутбук под нагрузкой греется и ест батарею заметно |
| Бесплатные тарифы облаков | 0 до лимита | Лимиты есть и меняются. Глава 23 |
| Платные модели через API | Платно | Вне темы книги, но упомянуто честно в главе 23 |
Настоящая цена локальной установки — это качество модели. Бесплатная модель на вашем ноутбуке слабее лучших платных, особенно в многошаговых задачах. Книга устроена так, чтобы вы получили максимум из бесплатного и понимали, где проходит граница.
Поставить сразу три агента, пять моделей и два движка, получить мешанину и решить, что «локальный ИИ не работает». Ставьте по одному слою и проверяйте каждый отдельно.
Прежде чем что-то скачивать — трезвая оценка вашего компьютера, потому что от неё зависит вообще всё остальное.
Бесплатная книга · tariel.ge · команды и версии проверяйте в официальной документации проектов
Книга бесплатна для чтения. Автор — Тариел Бежанидзе, компьютерный мастер в Батуми · tariel.ge · все бесплатные книги. Копировать текст целиком на другие сайты — только со ссылкой на источник.