Абстрактная технологичная иллюстрация ioblog.ru

Локальный ИИ на Windows 11: устанавливаем Ollama и Open WebUI

Пошагово устанавливаем локальный ИИ на Windows 11: запускаем языковую модель через Ollama, подключаем удобный Open WebUI и разбираемся, сколько оперативной памяти понадобится. Без отправки переписки в облако и без обязательной подписки.

Чтобы пользоваться нейросетью, необязательно отправлять документы и переписку в облако. Современные языковые модели можно запустить прямо на компьютере с Windows 11: Ollama возьмёт на себя загрузку и работу модели, а Open WebUI добавит привычный интерфейс в браузере.

В этой инструкции мы соберём локальный ИИ с нуля, проверим его через командную строку и при желании подключим красивый веб-интерфейс. Подход подойдёт для черновиков, пересказа текстов, работы с кодом и экспериментов с нейросетями без обязательной подписки.

Что получится в итоге

  • модель работает локально и не требует подключения к облачному API;
  • чат открывается в браузере по адресу http://localhost:3000;
  • можно менять модели под объём памяти и конкретную задачу;
  • история диалогов хранится на вашем компьютере.

Важно: локальная работа повышает приватность, но не превращает модель в эксперта. Проверяйте факты, команды и советы перед использованием в рабочих системах.

Что потребуется

КонфигурацияС чего начатьДля каких задач
8 ГБ ОЗУкомпактная модель 1–3Bкороткие вопросы и простые черновики
16 ГБ ОЗУмодель около 4Bтексты, пересказ, базовая помощь с кодом
32 ГБ ОЗУ и большемодели 7–8B и крупнееболее сложные запросы и длинный контекст
Это практические ориентиры: реальное потребление зависит от модели, квантования и длины контекста.

Дискретная видеокарта ускорит генерацию, но для первого запуска не обязательна: Ollama умеет работать и на процессоре. Заранее освободите несколько гигабайт на диске — файлы моделей заметно крупнее обычных программ.

Шаг 1. Устанавливаем Ollama

Скачайте установщик со страницы Ollama для Windows и запустите его. По официальной документации обычная установка выполняется в профиле пользователя и не требует постоянного запуска от имени администратора.

Откройте PowerShell или командную строку и убедитесь, что команда доступна:

ollama --version

Если терминал не видит Ollama сразу после установки, полностью закройте окно PowerShell и откройте его заново — установщик добавляет программу в пользовательскую переменную PATH.

Шаг 2. Загружаем и запускаем модель

Для первого знакомства удобно начать с компактной Gemma 3 на 4 миллиарда параметров. Она не самая мощная, зато предъявляет умеренные требования к памяти:

ollama run gemma3:4b

При первом запуске Ollama скачает модель, после чего в терминале появится строка ввода. Задайте тестовый вопрос:

Объясни простыми словами, зачем нужен DNS, и приведи пример.

Для выхода нажмите Ctrl + D или введите /bye. Посмотреть уже загруженные модели можно так:

ollama list

Если компьютер начинает активно использовать файл подкачки, выберите модель меньшего размера. Названия и доступные варианты лучше сверять в официальной библиотеке Ollama.

Шаг 3. Проверяем локальный API

Ollama поднимает локальный API на порту 11434. Благодаря этому к модели можно подключать редакторы кода, скрипты и другие приложения. Проверим список моделей из PowerShell:

Invoke-RestMethod http://localhost:11434/api/tags

В ответ должен прийти объект со списком установленных моделей. Если соединение отклонено, запустите Ollama через меню «Пуск» и повторите команду.

Шаг 4. Добавляем Open WebUI

Встроенного чата Ollama достаточно для тестов, но для постоянной работы удобнее Open WebUI: он добавляет историю диалогов, выбор моделей и привычное окно чата. Для установки понадобится Docker Desktop.

Запустите контейнер одной командой:

docker run -d --name open-webui --restart always `
  -p 127.0.0.1:3000:8080 `
  --add-host=host.docker.internal:host-gateway `
  -e OLLAMA_BASE_URL=http://host.docker.internal:11434 `
  -v open-webui:/app/backend/data `
  ghcr.io/open-webui/open-webui:main

Откройте http://localhost:3000, создайте локальную учётную запись и выберите загруженную модель. Данные интерфейса сохраняются в именованном томе open-webui, поэтому история не исчезнет после перезапуска контейнера.

Привязка порта к 127.0.0.1 сделана намеренно: интерфейс доступен только с вашего компьютера. В официальной инструкции Open WebUI есть дополнительные варианты для NVIDIA GPU и установки без Docker.

Как обновлять систему

Ollama для Windows обновляется через приложение. Чтобы обновить модель, повторно выполните её загрузку:

ollama pull gemma3:4b

Open WebUI обновляется заменой контейнера. Том с данными удалять не нужно:

docker pull ghcr.io/open-webui/open-webui:main
docker rm -f open-webui

После этого снова выполните команду запуска из предыдущего раздела. Для рабочего окружения разработчики Open WebUI рекомендуют закреплять конкретную версию образа вместо плавающего тега main.

Приватность и безопасность

  • Не открывайте порты 11434 и 3000 в интернет, если не настроили аутентификацию, HTTPS и сетевые ограничения.
  • Не вставляйте пароли, токены и персональные данные в случайные модели: локальное хранение не гарантирует качество или безопасность сгенерированного ответа.
  • Загружайте модели из доверенных источников и проверяйте их лицензию перед коммерческим использованием.
  • Регулярно обновляйте Ollama, Docker Desktop и Open WebUI.

Типовые проблемы

Open WebUI не видит Ollama

Убедитесь, что Ollama запущена, а команда Invoke-RestMethod http://localhost:11434/api/tags возвращает ответ. Для контейнера адрес сервиса на Windows — http://host.docker.internal:11434, а не localhost.

Модель отвечает слишком медленно

Закройте приложения, которые занимают оперативную память или видеопамять, и попробуйте модель меньшего размера. Первая генерация после запуска обычно медленнее следующих: модели требуется загрузиться в память.

Не хватает места на системном диске

Список моделей показывает команда ollama list, а ненужную модель удаляет команда:

ollama rm ИМЯ_МОДЕЛИ

Частые вопросы

Работает ли локальный ИИ без интернета?

После загрузки модели — да. Интернет понадобится для скачивания установщиков, моделей и обновлений, но обычная генерация выполняется на компьютере.

Нужна ли видеокарта NVIDIA?

Нет. Ollama может работать на процессоре, хотя совместимая видеокарта обычно заметно ускоряет ответы. Для слабого компьютера начните с компактной модели.

Можно ли подключить свои документы?

Open WebUI поддерживает базы знаний и работу с файлами. Для конфиденциальных документов сначала изучите настройки хранения, резервного копирования и права доступа.

Итог

Связка Ollama и Open WebUI превращает компьютер с Windows 11 в собственную площадку для экспериментов с ИИ. Начните с небольшой модели, оцените скорость и качество на своих задачах, а затем подбирайте более крупный вариант под доступную память. Главное преимущество такого подхода — контроль: вы сами выбираете модель, место хранения данных и момент обновления.


Источники: документация Ollama для Windows, Open WebUI Quick Start, Microsoft Learn. Инструкция проверена и актуализирована 18 июля 2026 года.

Предыдущая статья

🚀 Установка Gitea на Ubuntu 24.04 с Docker: Собственный GitHub за 15 минут!

Следующая статья

Пасс-ключи для Google: как войти без пароля и защититься от фишинга

Написать комментарий

Оставить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *

Яндекс Браузер

Яндекс Браузер

Рекомендуем Яндекс Браузер с турбо-режимом, защитой от вирусов и синхронизацией данных.

Скачать браузер
Реклама. Партнёрская ссылка