🔥 🔥 🔥 AI-ассистент с админ-панелью

[shaerware.digital]

AI Secretary System — Open Source админ-панель для управления AI-ассистентами, ботами и голосовыми сервисами

Из коробки умеет в роли:

• Секретарь
• Служба техподдержки
• Специалист калл-центра
• Менеджер по продажам
• смм-щик
• переводчик
• ...

РАБОТАЕТ ТАКЖЕ И С ОБЛАЧНЫМИ ИИ (ПЛАТНЫМИ И БЕСПЛАТНЫМИ)

Репозиторий: https://github.com/ShaerWare/AI_Secretary_System
дoкументация (Wiki): https://github.com/ShaerWare/AI_Secretary_System/wiki
Лицензия: MIT (бесплатно, открытый код)
Кому это нужно
Если вы занимаетесь SEO, работаете с клиентскими сайтами или строите бизнес в digital — вы знаете, что AI-ассистенты на сайте, в Telegram и по телефону уже не роскошь, а необходимость. Но собирать всё из разных сервисов — дорого, неудобно и зависишь от чужих API.
AI Secretary System — это готовая self-hosted платформа, которая объединяет AI-чат, клонирование голоса, Telegram-ботов, виджет для сайта и телефонию в одной админ-панели. Всё на вашем сервере, без ежемесячных платежей за SaaS.
Что внутри
Админ-панель на Vue 3 (PWA, 14 вкладок)
Полноценный дашборд, из которого управляется вся система:

• Dashboard — статусы всех сервисов, GPU-метрики, health-мониторинг в реальном времени
• Chat — встроенный чат с AI, голосовой режим (auto-TTS), голосовой ввод через микрофон (STT), редактирование системных промптов прямо из интерфейса
• LLM — переключение между локальными моделями (Qwen, Llama, DeepSeek через vLLM) и облачными провайдерами (Gemini, OpenAI, Claude, DeepSeek, Kimi, OpenRouter) одним кликом. Тест соединения, настройка параметров генерации
• TTS — 5 голосов (XTTS v2 клонирование, OpenVoice, Piper CPU), пресеты, тестирование синтеза
• FAQ — CRUD-управление быстрыми ответами, hot-reload без перезапуска
• Finetune — полный пайплайн дообучения LoRA: загрузка датасета, обучение, hot-swap адаптеров без остановки системы
• Monitoring — графики GPU/CPU на Chart.js, SSE-метрики, логи ошибок
• Models — управление скачанными моделями HuggingFace
• Widget — мультиинстанс чат-виджетов для разных сайтов/отделов. У каждого виджета свой LLM, свой промпт, свой голос, свой внешний вид
• Telegram — мультиинстанс ботов с независимыми настройками (разные токены, разные модели, разные персоны, изоляция сессий)
• GSM — телефония через SIM7600E-H (голосовые звонки, SMS)
• Audit — логирование всех действий пользователей, фильтрация, экспорт
• Settings — i18n (русский/английский), 3 темы (Light, Dark, Night-Eyes), экспорт/импорт конфигурации

Фишки админ-панели

• PWA — устанавливается как приложение на телефон/десктоп
• JWT-аутентификация с ролями (admin, operator, viewer)
• Command Palette (Ctrl+K) — быстрый поиск по всему интерфейсу
• Responsive — mobile-first, collapsible sidebar
• Real-time — SSE-стриминг метрик и логов

Чем полезно SEO-шникам и вебмастерам
1. Виджет для клиентских сайтов
Встраивается одной строкой:

Код Выделить Развернуть

<script src="https://your-server.com/widget.js?instance=sales"></script>

Для каждого клиента/сайта — свой инстанс виджета со своим промптом, своей моделью, своим голосом. Whitelist доменов. Streaming-ответы через SSE.
2. Telegram-боты для лидогенерации
Несколько ботов с разными персонами — для разных ниш/клиентов. Каждый бот помнит историю диалога, работает на своей модели, имеет свой системный промпт.
3. Полный контроль над данными
Self-hosted. Никакие данные клиентов не уходят на сторону (если используете локальные модели). Для SEO-агентств с NDA — критически важно.
4. Экономия на AI-сервисах
Локальные модели (Qwen 7B, Llama 8B) крутятся на вашем GPU (RTX 3060 12GB достаточно). Никаких ежемесячных платежей за ChatGPT API. Облачный fallback (Gemini, OpenAI) подключается по желанию.
5. Клонирование голоса
XTTS v2 клонирует голос по WAV-сэмплам. Можно сделать AI-секретаря, который отвечает голосом владельца бизнеса. Piper TTS работает на CPU без GPU.
Технический стек

• Backend: Python, FastAPI, ~60 API-эндпоинтов
• Frontend: Vue 3 + Composition API + TypeScript, Vite, Tailwind CSS, Pinia, TanStack Query
• AI: vLLM (Qwen/Llama/DeepSeek), XTTS v2, OpenVoice, Piper, Vosk, Whisper
• БД: SQLite + Redis (опционально)
• Деплой: Docker Compose (GPU и CPU режимы), one-command deployment
• Совместимость: OpenAI-compatible API, интеграция с Open WebUI

Требования
GPU-режим (полный):

• NVIDIA RTX 3060+ (12GB VRAM)
• 16GB RAM (32GB рекомендуется)
• Ubuntu 20.04+ / Debian 11+

CPU-режим (без GPU):

• 8+ ядер
• Piper TTS + облачный LLM (Gemini API key)

Быстрый старт

Код Выделить Развернуть

git clone https://github.com/ShaerWare/AI_Secretary_System
cd AI_Secretary_System
cp .env.docker .env
docker compose up -d

# Админ-панель: http://localhost:8002/admin
# Логин: admin / admin

Ссылки

• GitHub: https://github.com/ShaerWare/AI_Secretary_System
• Wiki (дoкументация): https://github.com/ShaerWare/AI_Secretary_System/wiki
• Сайт разработчика: https://shaerware.digital/ru/
• Telegram: @shaerware_digital_bot

Итого
Open Source, MIT лицензия, self-hosted, полный контроль. 14 вкладок в админке, мультиинстанс ботов и виджетов, клонирование голоса, локальные LLM, fine-tuning из коробки, телефония. Развернуть — одна команда Docker.
Если есть вопросы по внедрению или нужна кастомная доработка — пишите в Telegram @ShaerWare.
Буду рад звёздам на GitHub и обратной связи.

[shaerware.digital]

а, забыл))
демо админки можно посмотреть тут

[kpripper]

А где комментарии? Это форум дохлый или продукт говно?

[shaerware.digital]

а самому оставить коммент слабо?)

[shaerware.digital]

асситент настраивается как на локальных моделях (максимальная приватность, например для медицина, право, финансов - там, где данные нельзя отдавать наружу) так и на облачных (клод, грок, гемини, чат гопоты, китайцы, опенсорсные ллама и прочие - как платные, так и бесплатные модели). 
дообучение проходит на уровне системный промт + файлы контекста + RAG векторной базы, настраеваются все тонкие настройки начиная от температуры и заканчивая карой за лишние токены 
вот вики проекта https://github.com/ShaerWare/AI_Secretary_System/wiki

[semant1k]

Специалист калл-центра

Прям таки "калл центра"? 

NVIDIA RTX 3060+ (12GB VRAM)

блин, печалька, надо видяху обновлять на своём серваке, чтоб затестить весь этот движ. В целом прикольно, но это для компаний у которых входящий трафик заявок заоблачный, явно не для одного филиала стоматологии на 5 врачей, которые жопят бабки на колл-трекинг  Будет время, прoтестирую забавы ради. Звучит вкусно

Это форум дохлый или продукт говно?

Как думаешь, если в профиле можно оставить номер аськи, дохлый ли форум? Даже алмаз в корявых руках, может оказаться говном 





Post Merge: Сегодня в 04:08:45 Самое главное забыл спросить. Эта штуковина дружит ли с метрикой и гугл аналитикой? Данные о конверсиях и передает ли clientId от Яши и Google? Или это не предусмотрено? а то я чет сегодня не осилю описание на гите

[shaerware.digital]

Прям таки "калл центра"? 

если настроить агента и обучить его на твоих базах - то не только колл-центр, но и техподдержка всех 4 уровней + менеджер по впариванию товаров и услуг + секретарь -переводчик +..

блин, печалька, надо видяху обновлять на своём серваке, чтоб затестить весь этот движ.

я тестил на 12 гигах видяхе, но никто не мешает юзать только облачные модели - тогда хватит обычного сервака на 1-2 ядра и столько же памяти

дохлый ли форум

не столько дохлый сколько древний)) я уже лет 10 тут тусуюсь - не сказать чтоб раньше сильно больше народа тут было

Эта штуковина дружит ли с метрикой и гугл аналитикой?

никто не мешает подключать метрики, только зачем? меряй своих ботов и сайты, ассистента надо мерять другими способами (те же воронки продаж из амо вполне подойдут)