urbanAI - CLI для керування локальними великими мовними моделями

📋 Зміст

🎯 Про проєкт

Чому urbanAI?

✨ Ключові функції

1. Інтерактивний чат з ШІ

2. Керування моделями

3. Система автоматизації "Плани" 🎯

4. Експорт даних

📦 Встановлення

Крок 1: Встановлення Ollama

curl -fsSL https://ollama.com/install.sh | sh

Крок 2: Завантаження моделі

# Рекомендована легка модель для початку
ollama pull llama3.2:3b
# Або більш потужна модель (потребує більше ОЗП)
ollama pull llama3:8b

Крок 3: Встановлення urbanAI

# Клонування репозиторію (або завантаження файлів)
git clone https://github.com/yourusername/urbanAI.git
cd urbanAI
# Встановлення залежностей
pip install ollama
# Або через requirements.txt
pip install -r requirements.txt

Крок 4: Запуск Ollama

ollama serve

🚀 Використання

Інтерактивний режим (рекомендовано)

python urbanai.py

Командний режим

python urbanai.py --models

python urbanai.py --chat "Поясни, що таке штучний інтелект"

python urbanai.py --model llama3:8b --chat "Привіт!"

python urbanai.py --plan my_plan.json

python urbanai.py --create-sample

🎯 Система "Плани"

Структура плану

{
 "name": "Назва плану",
 "description": "Опис того, що робить план",
 "steps": [
 {
 "type": "file_read",
 "file": "input.txt",
 "output": "text_content"
 },
 {
 "type": "ai_query",
 "model": "llama3.2:3b",
 "prompt": "Проаналізуй цей текст: {text_content}",
 "output": "analysis"
 },
 {
 "type": "file_write",
 "file": "result.txt",
 "content": "{analysis}"
 }
 ]
}

Типи кроків

💡 Приклади

Приклад 1: Простий діалог

python urbanai.py

💬 Ви: Що таке великі мовні моделі?
🤖 llama3.2:3b:
Великі мовні моделі (LLM) - це тип штучного інтелекту...

Приклад 2: Аналіз документа

{
 "name": "Аналіз статті",
 "description": "Читає статтю, виділяє ключові ідеї та створює резюме",
 "steps": [
 {
 "type": "file_read",
 "file": "article.txt",
 "output": "article_text"
 },
 {
 "type": "ai_query",
 "model": "llama3.2:3b",
 "prompt": "Виділи 5 найважливіших ідей з цього тексту:\n\n{article_text}",
 "output": "key_ideas"
 },
 {
 "type": "ai_query",
 "model": "llama3.2:3b",
 "prompt": "На основі цих ідей напиши коротке резюме (3-4 речення):\n\n{key_ideas}",
 "output": "summary"
 },
 {
 "type": "file_write",
 "file": "summary.txt",
 "content": "=== КЛЮЧОВІ ІДЕЇ ===\n\n{key_ideas}\n\n=== РЕЗЮМЕ ===\n\n{summary}"
 }
 ]
}

python urbanai.py --plan analyze_plan.json

Приклад 3: Генерація контенту

{
 "name": "Генератор статей",
 "description": "Створює статтю за темою",
 "steps": [
 {
 "type": "ai_query",
 "model": "llama3.2:3b",
 "prompt": "Створи план статті на тему 'Переваги локального ШІ'. Виведи 5 розділів.",
 "output": "outline"
 },
 {
 "type": "ai_query",
 "model": "llama3.2:3b",
 "prompt": "Напиши повну статтю на основі цього плану:\n\n{outline}",
 "output": "article"
 },
 {
 "type": "file_write",
 "file": "generated_article.md",
 "content": "{article}"
 }
 ]
}

🔧 Технічні вимоги

Мінімальні вимоги

Рекомендовані вимоги

Споживання ресурсів

Сам додаток urbanAI:

З моделями (Ollama + модель):

📚 Додаткова інформація

Популярні моделі

# Легкі моделі (швидкі, підходять для слабких ПК)
ollama pull llama3.2:3b
ollama pull phi3:3.8b
# Середні моделі (баланс швидкості та якості)
ollama pull mistral:7b
ollama pull llama3:8b
# Великі моделі (найкраща якість, потребують потужного ПК)
ollama pull llama3:70b
ollama pull mixtral:8x7b

Корисні посилання

🐛 Усунення проблем

Ollama не запускається

# Перевірте, чи встановлено Ollama
ollama --version
# Запустіть сервер вручну
ollama serve

Модель не знайдено

# Переконайтесь, що модель завантажена
ollama list
# Завантажте потрібну модель
ollama pull llama3.2:3b

Повільна генерація

👨‍💻 Автор

📄 Ліцензія

🙏 Подяки

🔮 Майбутні плани