ProtoLLM: фреймворк быстрого прототипирования приложений на основе БЯМ
Предназначен для быстрого создания прототипов многофункциональных приложений на основе больших языковых моделей (БЯМ) методом генерации с дополненной выборкой (RAG). Обеспечивает подключение внешних сервисов и моделей через систему плагинов; оптимизацию производительности БЯМ путем реализации ансамблевых методов и мультиагентных подходов; генерацию сложных синтетических данных для дальнейшего обучения и улучшения БЯМ; ускорение процесса разработки и внедрения основанных на БЯМ систем в различных прикладных областях.
Эффекты от внедрения
- Ускорение разработки систем на базе БЯМ не менее, чем в 5 раз
- Оптимизация вычислительных ресурсов до 20%
Визуализация
Конкурентные преимущества
Типовые шаблоны БЯМ-агентов и мультиагентных систем
Многофункциональный RAG: не только тексты, но базы данных и знаний, а также инженерное ПО
Использование произвольных БЯМ, как напрямую, так и через API
Общая информация
УГТ-7
Прототип системы прошел демонстрацию в эксплуатационных условиях и отражает планируемую штатную систему
Руководитель разработки
к.т.н. Анна Калюжная anna.kalyuzhnaya@itmo.ru
Инициатор
