Ollama

Какую задачу решает

Скачивает открытые языковые модели и запускает их на вашем компьютере или сервере. С локальной моделью агент разбирает счета, заявки и письма, и текст не уходит в чужое облако. Облачные модели Ollama работают на её серверах, поэтому в прогоне мы отключали их переменной OLLAMA_NO_CLOUD=1.

• Скачивает открытую модель из библиотеки ollama.com или файлом GGUF с Hugging Face и показывает, сколько она весит.
• Отвечает на вопрос одной командой ollama run, ответ агент забирает из терминала.
• Через свой адрес 127.0.0.1:11434 возвращает ответ строго по JSON-схеме, так агент складывает данные из текстов в таблицу.
• Работает без видеокарты: в нашем прогоне модель на 0,5 млрд параметров шла на процессоре.
• С переменной OLLAMA_NO_CLOUD=1 отключает облачные модели Ollama, в журнале сервера это видно строкой «Ollama cloud disabled: true».

Пример результата

Установить агентом

Установи программу «Ollama». Работай по шагам и после каждого коротко говори, что сделал.

Что это за программа (каталог smyslokod.ru, официальные источники сверены 09.10.2026):
- официальный сайт: https://ollama.com/
- исходный код: https://github.com/ollama/ollama
- инструкция по установке: https://docs.ollama.com/linux
- актуальная версия на 09.10.2026: 0.40.2
- лицензия: MIT
- для работы нужно (обязательно): zstd - на Linux пакет программы упакован в .tar.zst, скрипт установки без zstd останавливается. В нашем контейнере мы ставили его через apt
- для работы нужно (обязательно): Место под модели - маленькая модель весит сотни мегабайт, по документации большие занимают десятки и сотни гигабайт
- для работы нужно (в отдельных случаях): Homebrew - на Mac Ollama можно поставить через него
- для работы нужно (в отдельных случаях): Видеокарта NVIDIA или AMD, Apple M - с ней модель отвечает быстрее, без неё работает на процессоре

Правила:
1. Ничего не устанавливай и не меняй, пока я не скажу «да» на твой план.
2. Ставь только способами из этого промпта. Сторонние сборки, скрипты с форумов и из чужих репозиториев не бери.
3. Мои проекты не трогай: не меняй их файлы, виртуальные окружения и списки зависимостей (package.json, requirements.txt, pyproject.toml).
4. Команды с sudo, правку профиля оболочки (~/.zshrc, ~/.bashrc) и переменной PATH делай только после моего отдельного «да» на каждую.
5. Не проси у меня пароли и ключи и не выводи их. Если нужен пароль администратора, дай команду, я выполню её сам.
6. Модель скачивай только после моего «да»: назови её, размер и лицензию. Начинай с самой маленькой, которая подходит под задачу.
7. Перед установкой на Linux проверь, есть ли видеокарта NVIDIA без драйвера: тогда скрипт сам поставит драйвер CUDA. Об этом скажи мне до запуска и жди отдельного «да».
8. Запускай сервер с OLLAMA_NO_CLOUD=1. Не входи в аккаунт Ollama (ollama signin) и не бери облачные модели с припиской cloud без моего «да».
9. Порт 11434 оставь только для 127.0.0.1: OLLAMA_HOST=0.0.0.0 и открытие порта наружу - только с моего «да».
10. Ответы модели сверяй с исходным текстом и показывай мне спорные места.

Шаги:
0. Определи, где ты работаешь: мой компьютер, сервер или контейнер. Какая система и процессор, какие менеджеры пакетов есть (Homebrew, apt, winget, uv, pipx). Ставить нужно туда, где ты сам запускаешь команды.
   - на компьютере: на Mac и Windows ставится приложение, оно запускает сервер само и по документации добавляет себя в автозапуск при входе.
   - на сервере: если в системе есть systemctl, скрипт создаёт пользователя ollama и файл службы, а при работающем systemd включает службу с автозапуском и запускает её. Сервер слушает только 127.0.0.1:11434. Видеокарта не обязательна, но на процессоре большие модели отвечают медленно.
   - в контейнере: мы проверяли в контейнере Ubuntu 24.04 без systemd: службы там нет, сервер запускали командой ollama serve. В README проекта назван официальный образ Docker ollama/ollama на Docker Hub, его мы не запускали.
1. Проверь, не стоит ли программа уже: command -v ollama ; ollama --version. Если стоит и запускается, ничего не ставь и переходи к шагу 5.
2. Проверь, что есть всё нужное для работы: zstd, Место под модели. Чего нет, внеси в план отдельным пунктом. Проверь свободное место на диске: нужно Пакет 0.40.2 для Linux x86_64 весит 1 436 368 794 байта. После установки папка /usr/local/lib/ollama заняла в нашем прогоне 2 222 783 764 байта (там библиотеки CUDA и Vulkan для видеокарт), файл ollama ещё 29 872 208 байт. Модель qwen2.5:0.5b заняла 397 827 426 байт, она же файлом GGUF с Hugging Face показала в ollama list 491 MB. По документации для Windows нужно не меньше 4 ГБ под программу. Модели занимают от сотен мегабайт до сотен гигабайт..
3. Составь план: каким одним способом из списка ниже будешь ставить, что появится на диске и сколько места займёт, что поменяется в системе и как потом удалить. Покажи план и жди моего «да».
   Способы из официальных источников:
   - macOS, Homebrew: brew install ollama (на 09.10.2026 формула ставит 0.40.2. Сервер запускают командой ollama serve или brew services start ollama. Приложение с окном ставится отдельно: файл Ollama.dmg с ollama.com или brew install --cask ollama-app. На Mac мы не проверяли)
   - Windows, скрипт ollama.com: $env:OLLAMA_VERSION="0.40.2"; irm https://ollama.com/install.ps1 | iex (скрипт скачивает OllamaSetup.exe нужной версии и ставит его без вопросов в папку вашей учётной записи. Готовый установщик есть и на странице выпуска. На Windows мы не проверяли)
   - Linux, скрипт ollama.com: curl -fsSL https://ollama.com/install.sh | OLLAMA_VERSION=0.40.2 sh (так мы ставили в прогоне. Скрипт кладёт программу в первую из папок /usr/local/bin, /usr/bin и /bin, которая есть в PATH, а библиотеки рядом в lib/ollama. В нашем контейнере это была /usr/local. Если в системе есть systemctl, скрипт создаёт пользователя ollama и файл службы, а при работающем systemd включает службу с автозапуском и запускает её. Если найдёт видеокарту NVIDIA без драйвера, он сам подключает репозиторий NVIDIA и ставит драйвер CUDA, для AMD докачивает пакет ROCm. Контрольная сумма install.sh есть в файле sha256sum.txt выпуска на GitHub, скачанный нами скрипт с ней совпал)
4. Установи по согласованному плану. Если что-то идёт не так, как в плане, остановись и спроси.
5. Проверь результат:
   - ollama --version: программа запускается без ошибки;
   - Запусти ollama serve с OLLAMA_NO_CLOUD=1 и с моего «да» скачай маленькую модель qwen2.5:0.5b. Во временной папке создай три коротких тестовых счёта текстом. Отправь каждый на 127.0.0.1:11434/api/chat с JSON-схемой в поле format (номер, дата, покупатель, итог) и temperature 0. Сверь ответы с тем, что написано в счетах, и проверь, что во время задачи не было внешних соединений. Потом удали модель командой ollama rm. Делай это во временной папке и не трогай мои файлы.
     curl -fsSL https://ollama.com/install.sh -o install.sh
     sha256sum install.sh
     OLLAMA_VERSION=0.40.2 sh install.sh
     ollama serve
     ollama --version
     ollama pull qwen2.5:0.5b
     ollama list
     curl -s -X POST http://127.0.0.1:11434/api/pull -d '{"model":"hf.co/Qwen/Qwen2.5-0.5B-Instruct-GGUF:Q4_K_M","stream":false}'
     ollama run hf.co/Qwen/Qwen2.5-0.5B-Instruct-GGUF:Q4_K_M "Ответь одним словом: какого цвета трава летом?"
     ollama rm hf.co/Qwen/Qwen2.5-0.5B-Instruct-GGUF:Q4_K_M
     OLLAMA_NO_CLOUD=1 ollama serve
     ollama run qwen2.5:0.5b "Ответь одним словом: какого цвета небо днём в ясную погоду?"
     python3 extract.py notes/note1.txt notes/note2.txt notes/note3.txt
     ollama ps
     ollama rm qwen2.5:0.5b
   - если ты работаешь в папке моего проекта, покажи git status: от установки в проекте не должно появиться изменений.
6. Итог одним сообщением: что установлено, какой версии и куда, сколько места заняло, что поменялось в системе и как всё удалить (macOS, Homebrew: brew uninstall ollama; macOS, модели и настройки: rm -rf ~/.ollama; Windows, скрипт ollama.com: $env:OLLAMA_UNINSTALL=1; irm https://ollama.com/install.ps1 | iex; Linux, служба systemd (если скрипт её завёл): sudo systemctl stop ollama && sudo systemctl disable ollama && sudo rm /etc/systemd/system/ollama.service; Linux, скрипт ollama.com, пути из нашего прогона (сначала сверить с command -v ollama): sudo rm -r /usr/local/lib/ollama /usr/local/bin/ollama; Linux, модели и пользователь службы: sudo userdel ollama; sudo groupdel ollama; sudo rm -r /usr/share/ollama; Linux, модели и ключи, если сервер запускали от себя: rm -rf ~/.ollama).

Если на любом шаге ошибка, не чини наугад: покажи текст ошибки и скажи, что, по-твоему, случилось. Частые проблемы: https://smyslokod.ru/cli/ollama#problemy

Промпт собран из официальных инструкций, сверенных 09.10.2026. Агент сначала проверит, что уже стоит, покажет план с местом на диске и способом удаления и без твоего «да» ничего не поставит.

Как ставят вручную

Способы из официальных источников, у каждого ссылка на первоисточник.

• macOS · Homebrew · источник

  brew install ollama

  на 09.10.2026 формула ставит 0.40.2. Сервер запускают командой ollama serve или brew services start ollama. Приложение с окном ставится отдельно: файл Ollama.dmg с ollama.com или brew install --cask ollama-app. На Mac мы не проверяли

• Windows · скрипт ollama.com · источник

  $env:OLLAMA_VERSION="0.40.2"; irm https://ollama.com/install.ps1 | iex

  скрипт скачивает OllamaSetup.exe нужной версии и ставит его без вопросов в папку вашей учётной записи. Готовый установщик есть и на странице выпуска. На Windows мы не проверяли

• Linux · скрипт ollama.com · источник

  curl -fsSL https://ollama.com/install.sh | OLLAMA_VERSION=0.40.2 sh

  так мы ставили в прогоне. Скрипт кладёт программу в первую из папок /usr/local/bin, /usr/bin и /bin, которая есть в PATH, а библиотеки рядом в lib/ollama. В нашем контейнере это была /usr/local. Если в системе есть systemctl, скрипт создаёт пользователя ollama и файл службы, а при работающем systemd включает службу с автозапуском и запускает её. Если найдёт видеокарту NVIDIA без драйвера, он сам подключает репозиторий NVIDIA и ставит драйвер CUDA, для AMD докачивает пакет ROCm. Контрольная сумма install.sh есть в файле sha256sum.txt выпуска на GitHub, скачанный нами скрипт с ней совпал

Как удалить

• macOS, Homebrew: brew uninstall ollama
• macOS, модели и настройки: rm -rf ~/.ollama
• Windows, скрипт ollama.com: $env:OLLAMA_UNINSTALL=1; irm https://ollama.com/install.ps1 | iex
• Linux, служба systemd (если скрипт её завёл): sudo systemctl stop ollama && sudo systemctl disable ollama && sudo rm /etc/systemd/system/ollama.service
• Linux, скрипт ollama.com, пути из нашего прогона (сначала сверить с command -v ollama): sudo rm -r /usr/local/lib/ollama /usr/local/bin/ollama
• Linux, модели и пользователь службы: sudo userdel ollama; sudo groupdel ollama; sudo rm -r /usr/share/ollama
• Linux, модели и ключи, если сервер запускали от себя: rm -rf ~/.ollama

Что нужно для работы

• zstd (обязательно) - на Linux пакет программы упакован в .tar.zst, скрипт установки без zstd останавливается. В нашем контейнере мы ставили его через apt
• Место под модели (обязательно) - маленькая модель весит сотни мегабайт, по документации большие занимают десятки и сотни гигабайт
• Homebrew (в отдельных случаях) - на Mac Ollama можно поставить через него
• Видеокарта NVIDIA или AMD, Apple M (в отдельных случаях) - с ней модель отвечает быстрее, без неё работает на процессоре

Системы

• macOS - по документации нужна macOS 14 Sonoma или новее. На Apple M модель считает процессор и видеоядро, на Mac с Intel только процессор. На Mac мы не проверяли.
• Windows - по документации нужна Windows 10 22H2 или новее, программа ставится в папку вашей учётной записи без прав администратора. На Windows мы не проверяли.
• Linux - мы проверяли Ubuntu 24.04 на x86_64. Скрипту установки нужны права root или sudo и программа zstd, без неё он останавливается. В выпуске есть пакет и для arm64.

Где запускать

Ставить нужно туда, где работает агент: на твой компьютер, сервер или в контейнер.

• На компьютере - на Mac и Windows ставится приложение, оно запускает сервер само и по документации добавляет себя в автозапуск при входе.
• На сервере - если в системе есть systemctl, скрипт создаёт пользователя ollama и файл службы, а при работающем systemd включает службу с автозапуском и запускает её. Сервер слушает только 127.0.0.1:11434. Видеокарта не обязательна, но на процессоре большие модели отвечают медленно.
• В контейнере - мы проверяли в контейнере Ubuntu 24.04 без systemd: службы там нет, сервер запускали командой ollama serve. В README проекта назван официальный образ Docker ollama/ollama на Docker Hub, его мы не запускали.

Сколько ресурсов нужно

Место на диске

Пакет 0.40.2 для Linux x86_64 весит 1 436 368 794 байта. После установки папка /usr/local/lib/ollama заняла в нашем прогоне 2 222 783 764 байта (там библиотеки CUDA и Vulkan для видеокарт), файл ollama ещё 29 872 208 байт. Модель qwen2.5:0.5b заняла 397 827 426 байт, она же файлом GGUF с Hugging Face показала в ollama list 491 MB. По документации для Windows нужно не меньше 4 ГБ под программу. Модели занимают от сотен мегабайт до сотен гигабайт.

Память

В нашем прогоне qwen2.5:0.5b с контекстом 4096 занимала в памяти 484 MB по ollama ps. Модели крупнее требуют больше. По документации модель остаётся загруженной 5 минут после ответа.

Видеокарта

Видеокарта не обязательна: в нашем прогоне её не было, ollama ps показал 100% CPU. По документации поддерживаются NVIDIA, AMD через ROCm и Vulkan, а на Mac видеоядро Apple M.

Сеть

Скрипт установки скачивал программу с ollama.com и github.com (release-assets.githubusercontent.com), zstd ставился через apt с archive.ubuntu.com и security.ubuntu.com, адреса разрешал внутренний DNS-сервер контейнера 127.0.0.11. deb.nodesource.com в журнале соединений - источник Node.js в образе нашей песочницы, к Ollama он не относится. Модели из библиотеки скачивались из реестра моделей Ollama через сеть Cloudflare, модель с Hugging Face - с huggingface.co, hf.co и us.aws.cdn.hf.co. В журнале скачивания есть и внешние адреса с портом 53. Это те же серверы, которые вернул DNS: Ollama написана на Go, а Go перед соединением проверяет маршрут к каждому адресу через UDP-сокет на порт 53 без отправки пакетов (функция srcAddrs в исходниках Go). Задача открыла соединения только на адреса внутри контейнера 127.0.0.1 и ::1, внешних соединений не было.

Установка скриптом заняла 56 секунд, скачивание qwen2.5:0.5b 10 секунд, но это на сервере во Франции. У вас время зависит от сети.

Лицензия и платные замены

Лицензия MIT. Сама программа свободная, MIT. У каждой модели своя лицензия: у qwen2.5:0.5b из нашего прогона это Apache 2.0, а у моделей Qwen2.5 на 3B и 72B параметров своя лицензия Qwen. Перед тем как брать модель в работу, агент смотрит её лицензию на странице модели. Текст лицензии

Цена: Есть бесплатный вариант. Программа и запуск моделей у себя бесплатные. У облака Ollama на 09.10.2026 тариф Free без абонентской платы, где облачные запросы оплачиваются кредитами по расходу, и тарифы Pro за $20 в месяц, Max за $100 и Team за $500. Облаку нужен вход в аккаунт, а текст запросов тогда уходит на серверы Ollama.

Платные замены

Платную программу для запуска моделей у себя мы для этой карточки не подбирали. Платные тарифы есть у самой Ollama, но там модель работает на серверах Ollama, и текст уходит к ним.

Бесплатные замены

• llama.cpp - Бесплатный движок на C++ с лицензией MIT. В нашем прогоне Ollama 0.40.2 запускала модель через встроенный в неё llama-server из llama.cpp. Отдельно llama.cpp мы не ставили и не сравнивали.

О чём помнить

• Безопасность. Агент запускает ollama в терминале сам (exec). Скрипт установки работает с правами root и кладёт программу в /usr/local, /usr или в корень системы, смотря какая из папок /usr/local/bin, /usr/bin и /bin первой по этому порядку найдётся в PATH. Если есть systemctl, он создаёт пользователя ollama, добавляет вас в его группу и пишет файл службы, а при работающем systemd включает её: служба стартует вместе с системой и перезапускается при падении. Если найдёт видеокарту NVIDIA без драйвера, он подключает репозиторий NVIDIA, ставит драйвер CUDA и заголовки ядра, а на Debian ещё дописывает источники apt (exec). Модель читает только то, что агент ей передал: текст запроса или файл картинки, путь к которому стоит в команде (read). Модели и ключи программа пишет в ~/.ollama, у службы в /usr/share/ollama/.ollama, при первом запуске сервер сам создаёт пару ключей id_ed25519 (write). Скрипт удаляет старую папку lib/ollama при обновлении, на Mac останавливает запущенную Ollama и удаляет прежнее приложение из папки Applications, а команда ollama rm стирает модель с диска (acts). Сервер слушает 127.0.0.1:11434 и по документации пускает без пароля, поэтому OLLAMA_HOST=0.0.0.0 открывает модель всем в сети. По документации вход в аккаунт Ollama (ollama signin) нужен для облачных моделей, публикации своих моделей и скачивания закрытых. Запросы к облачной модели уходят на серверы Ollama, локальная отвечает у вас.
• Модели из библиотеки ollama.com скачиваются из реестра моделей Ollama, а он работает через сеть Cloudflare. С 09.06.2025 российские провайдеры ограничивают доступ к сайтам за Cloudflare, поэтому из России скачивание может обрываться. Из России мы не проверяли, наша песочница во Франции. Ту же модель Qwen мы скачали и файлом GGUF из репозитория Qwen на Hugging Face, этот источник работает через Amazon CloudFront.
• Маленькая модель ошибается. В прогоне qwen2.5:0.5b на вопрос про цвет неба ответила «Светло-зеленого», а с JSON-схемой и temperature 0 извлекла все поля трёх счетов верно. В прогоне ответы сначала легли в тестовый invoices.json, потом скрипт сверил их со счетами. Прежде чем пускать результат в работу, агент так же проверяет его по исходнику.
• Лицензии моделей разные и не совпадают с лицензией программы. Перед работой агент смотрит лицензию на странице модели в библиотеке ollama.com или на Hugging Face.
• Мы проверили 0.40.2. Скрипт без OLLAMA_VERSION и brew ставят текущую версию, а приложения для Mac и Windows обновляются сами.

Частые проблемы

Проверка

✓ Проверено 09.10.2026: Ubuntu 24.04 (x86_64) в одноразовом контейнере Docker на сервере, 8 ядер и 32 ГБ памяти без видеокарты: Ollama 0.40.2 скриптом с ollama.com, zstd из apt, модель qwen2.5:0.5b.

«Проверено» ставим, только когда сами поставили программу и прогнали её на задаче. Сверка ссылок и вывод версии так не называются.

Похожие программы

• WhisperПереводит речь в текст на твоём компьютере или сервере: запись эфира, созвона, голосовое. Понимает русский, звук обрабатывает у тебя.