Open WebUI + Ollama — свой ИИ-чат на локальных моделях

Команде нужен ИИ-ассистент, но отправлять договоры, код и данные клиентов во внешний сервис нельзя. Или просто хочется не платить за каждого пользователя.

Open WebUI — интерфейс как у ChatGPT: чаты, загрузка документов и вопросы по ним, свои ассистенты с инструкциями, пользователи и роли. Ollama запускает открытые модели прямо на сервере — Qwen, Llama, Gemma, Mistral, DeepSeek. Можно подключить и облачные модели по OpenAI-совместимому API — всё в одном окне.

Что получаете

• Open WebUI 0.12.3 и Ollama — последние стабильные версии, связанные между собой. Ollama не торчит наружу: его API без пароля, поэтому он доступен только Open WebUI.
• Модель скачивается сразу — по умолчанию qwen3:4b (хорошо понимает русский, работает на обычном CPU). Другие — одной командой: rs open-webui pull qwen3:8b.
• Видеокарта NVIDIA — по желанию: ответьте nvidia, и Ollama получит доступ к GPU.
• Свой адрес с HTTPS — сертификат Let's Encrypt выпускается и продлевается сам.
• Регистрация под контролем: первый аккаунт — администратор, после него регистрация закрывается — коллег добавляете вы.
• Бэкапы одной командой — пользователи, чаты, документы и настройки; модели можно скачать заново.
• Доступ только с ваших IP — офис, VPN.

Кому подойдёт

• Командам, которым нельзя отдавать документы и код во внешние ИИ-сервисы.
• Тем, кто хочет один чат для локальных и облачных моделей без подписки на каждого.
• Для экспериментов с открытыми моделями: сравнить, настроить, подключить к своим данным.

Как установить

1. Подготовьте сервер с Ubuntu или Debian. Направьте A-запись домена, например ai.example.com, на IP сервера.
2. Скопируйте команду из блока «Скачать» — он появится после входа. В команде ваш личный токен, он действует 12 часов.
3. Выполните её на сервере и ответьте на вопросы:

Language / Язык (en / ru) [en]: ru
Версия Open WebUI (последняя стабильная: 0.12.3) [0.12.3]:
Каталог установки (данные, настройки, бэкапы) [/opt/open-webui]:
Режим: public — свой домен с HTTPS (Let's Encrypt), local — порт на этом сервере для вашего прокси (public / local) [local]: public
Домен (A-запись должна указывать на этот сервер): ai.example.com
Email для Let's Encrypt: admin@example.com
Пускать только с этих IP/подсетей:
Модель, которую скачать сейчас (ollama.com/library; пусто — позже: rs open-webui pull <модель>) [qwen3:4b]:
Видеокарта для моделей (none / nvidia) [none]:

4. Сразу зарегистрируйтесь: откройте https://ai.example.com. Первый аккаунт станет администратором — пока его нет, им станет первый, кто откроет страницу.
5. Выберите модель в списке над чатом и задайте вопрос. Коллег добавляйте в Admin Panel → Users.

Системные требования

Официальных требований к железу у Open WebUI и Ollama нет — цифры наши, минимум установщик проверяет. Ориентир: модель занимает в памяти примерно свой размер плюс 1–2 ГБ — на 4B нужно около 4 ГБ, на 8B — около 8 ГБ. Образы Open WebUI и Ollama вместе занимают около 10 ГБ. На процессоре ответы медленнее, чем в облаке; большим моделям нужна видеокарта.

• Права root (sudo). Docker поставится сам.
• Для режима с доменом: A-запись на сервер и свободные порты 80 и 443.
• Доступ к Docker Hub. Если он заблокирован, добавьте зеркало: RS_REGISTRY_MIRROR=https://mirror.gcr.io.

Управление после установки

rs open-webui status                  адрес, версия и доступное обновление, бэкапы
rs open-webui pull qwen3:8b           скачать модель (каталог: ollama.com/library)
rs open-webui models                  скачанные и загруженные в память модели
rs open-webui backup                  бэкап в /opt/open-webui/backups (хранятся 14)
rs open-webui upgrade [версия]        бэкап → новая версия
rs open-webui access "203.0.113.10"   пускать только эти IP (off — снять)
rs open-webui stop | start            остановить / запустить
rs open-webui down                    удалить контейнеры, данные остаются
rs open-webui purge                   полное удаление по шагам, бэкапы не трогаются

Повторный запуск установки безопасен: данные, ключи и версия сохраняются. Все команды и частые ошибки — в вики.

Вопросы

Сколько стоит? Установка сейчас бесплатная. Open WebUI распространяется под своей лицензией на основе BSD-3: менять название и логотип можно только при ≤50 пользователях в месяц или с разрешения автора. Ollama — MIT. У каждой модели своя лицензия — смотрите на её странице.

Насколько умны локальные модели? Модели на 4–8B хорошо справляются с текстами, переводом, письмами, кодом попроще. До облачных флагманов им далеко — для сложных задач подключите облачную модель по API в том же интерфейсе.

Можно спрашивать по своим документам? Да: загрузите файлы в чат или создайте базу знаний (Workspace → Knowledge) — Open WebUI найдёт нужные фрагменты и передаст их модели.

Официальные ресурсы

• Документация Open WebUI
• Open WebUI на GitHub
• Ollama на GitHub
• Каталог моделей Ollama
• Лицензия Open WebUI