🚀 AI Server для Ubuntu с RTX 2060

Автоматическое развертывание Ollama + Open WebUI на Ubuntu Server, оптимизированное для NVIDIA RTX 2060.

⚡ Быстрый старт

# Клонирование репозитория
git clone https://github.com/your-repo/api-ai-server.git
cd api-ai-server

# Автоматическая установка (одна команда!)
chmod +x install-ubuntu.sh
sudo ./install-ubuntu.sh

# Управление сервером
ai-start    # Запуск
ai-stop     # Остановка
ai-status   # Подробный статус

Веб-интерфейс: http://YOUR_SERVER_IP:3000

🎯 Оптимизировано для RTX 2060

Рекомендуемые модели:

• llama3.2:3b (2GB VRAM) - лучший баланс ⭐
• llama3.2:1b (1.3GB VRAM) - максимальная скорость
• codellama:7b (3.8GB VRAM) - для программирования
• mistral:7b (4.1GB VRAM) - высокое качество

Управление моделями:

ai-models   # Интерактивное меню управления
ollama pull llama3.2:3b   # Установка модели
ollama list               # Список моделей

📋 Системные требования

• ОС: Ubuntu 20.04/22.04/24.04 LTS
• GPU: RTX 2060 (6GB VRAM) или аналогичная NVIDIA
• RAM: 16GB+ (рекомендуется 32GB)
• Диск: 50GB свободного места
• Права: sudo доступ

🔧 Что устанавливается

• ✅ NVIDIA драйверы + CUDA
• ✅ Docker + NVIDIA Container Toolkit
• ✅ Ollama (локальный AI движок)
• ✅ Open WebUI (ChatGPT-подобный интерфейс)
• ✅ Systemd сервисы (автозапуск)
• ✅ Мониторинг GPU и системы

🛠️ Управление

# Основные команды
ai-start     # Запуск AI сервера
ai-stop      # Остановка AI сервера
ai-status    # Статус с информацией о GPU/VRAM
ai-models    # Управление моделями ИИ

# Системные сервисы
sudo systemctl status ollama           # Статус Ollama
sudo systemctl status ai-server-webui  # Статус Web UI

# Логи
journalctl -u ollama -f               # Логи Ollama
docker compose logs -f                # Логи контейнеров

🔥 Особенности

• GPU мониторинг - отслеживание температуры и VRAM
• Автооптимизация - настройки под RTX 2060
• Безопасность - все работает локально
• Простота - установка одной командой
• Надежность - systemd сервисы с автозапуском

🐛 Устранение неполадок

Ollama сервис не запускается:

# Если видите ошибку "permission denied" для /nonexistent
chmod +x fix-ollama.sh
sudo ./fix-ollama.sh

GPU не найден:

nvidia-smi  # Проверка драйверов
sudo ubuntu-drivers autoinstall  # Установка драйверов
sudo reboot

Нехватка VRAM:

ai-status  # Проверка использования VRAM
ollama pull llama3.2:1b  # Переход на меньшую модель

Перегрев GPU:

• Проверьте ai-status - если температура > 80°C
• Очистите систему охлаждения от пыли
• Используйте меньшие модели

📁 Структура проекта

api-ai-server/
├── install-ubuntu.sh        # Основной установщик
├── docker-compose.yml       # Конфигурация контейнеров
├── ollama.service           # Systemd сервис Ollama
├── ai-server-webui.service  # Systemd сервис Web UI
├── config/
│   └── config.json         # Настройки RTX 2060
└── scripts/
    ├── start.sh           # Запуск
    ├── stop.sh            # Остановка
    ├── status.sh          # Статус
    └── models.sh          # Управление моделями

🔗 Полезные ссылки

• Ollama - Локальный AI движок
• Open WebUI - Веб-интерфейс
• NVIDIA Drivers - Драйверы GPU

---

Готово к работе за 5 минут! 🎉