Технологии и применение больших языковых моделей (БЯМ)

Большие языковые модели (БЯМ) представляют собой класс искусственного интеллекта, основанный на глубоком обучении, который способен генерировать текст, отвечать на вопросы и выполнять различные задачи обработки естественного языка. Они обучаются на огромных массивах текстовых данных и способны понимать контекст, создавать связные тексты и имитировать человеческий стиль общения.

Open-source решения в области больших языковых моделей

  • FEDOT.LLM: интеллектуальный ассистент на основе автоматического машинного обучения

    Предназначен для end-to-end автоматизации создания предиктивных моделей на данных. FEDOT.LLM позволяет преобразовать запрос пользователя в свободной форме в структурированную постановку задачи, в соответствии с ней обработать входные данные, а затем решить задачу с помощью инструментария фреймворка FEDOT или FEDOT.Industrial. Могут быть решены задачи классификации, регрессии, прогнозирования временных рядов и выявления аномалий.

    Открытый репозиторий разработки

    Конкурентные преимущества:

    • Задача формулируется на естественном языке (не требуется знание программирования)
    • Автоматизация подбора решения по системе метрик качества
    • Объяснимость решения и генерация кода решения задачи на Python
    FEDOT.LLM: интеллектуальный ассистент на основе автоматического машинного обучения
    Схема процесса автоматизации создания предикативных моделей с помощью FEDOT.LLM

    Эффекты от внедрения:

    • Ускорение разработки предиктивных моделей не менее, чем в 10 раз
    • В 75% случаев качество моделей превышает лучший аналог, созданный человеком

    Уровень готовности технологии:

    УГТ 8 — система проверена на работоспособность в своей конечной форме и в ожидаемых условиях эксплуатации

    Руководитель разработки:

    к.т.н. Николай Никитин
    nnikitin@itmo.ru

  • ProtoLLM: фреймворк быстрого прототипирования приложений на основе БЯМ

    Предназначен для быстрого создания прототипов многофункциональных приложений на основе больших языковых моделей (БЯМ) с использованием технологии генерации с дополненной выборкой (RAG). Обеспечивает подключение внешних сервисов и моде- лей через систему плагинов, оптимизацию производительности БЯМ путем реализации ансамблевых методов и мультиагентных подходов, генерацию сложных синтетических данных для дальнейшего обучения и улучшения БЯМ, ускорение процесса разработки и внедрения систем, основанных на БЯМ, в различных прикладных областях.

    Открытый репозиторий разработки

    Конкурентные преимущества:

    • Типовые шаблоны БЯМ-агентов и мультиагентных систем
    • Многофункциональный RAG: не только тексты, но базы данных и знаний, а также инженерное ПО
    • Использование произвольных БЯМ, как напрямую, так и через API
    ProtoLLM: фреймворк быстрого прототипирования приложений на основе БЯМ
    Схема процесса создания прототипов многофункциональных приложений с помощью ProtoLLM

    Эффекты от внедрения:

    • Ускорение разработки систем на базе БЯМ не менее, чем в 5 раз
    • Оптимизация вычислительных ресурсов до 20%

    Уровень готовности технологии:

    УГТ 7 — прототип системы прошел демонстрацию в эксплуатационных условиях и отражает планируемую штатную систему

    Руководитель разработки:

    к.т.н. Анна Калюжная
    anna.kalyuzhnaya@itmo.ru

Ведущие разработки в области больших языковых моделей

  • Интеллектуальная система поддержки принятия решений «Цифровой экспертный совет Татнефти»

    Предназначена для интеллектуального анализа данных и поддержки принятия комплексных решений руководства высшего звена в части автоматизации и оптимизации технологических и бизнес-процессов добычи и переработки нефти. Позволяет формулировать запросы на естественном языке и получать развернутые ответы, подтвержденные справочными материалами. Реализована на основе большой фундаментальной модели ИИ в мультиагентной форме.

    Конкурентные преимущества:

    • Использование больших языковых моделей
    • Работа с корпоративной документацией и базами знаний компании
    • Работа со сложными запросами, требующими экспертизы в различных предметных областях
    Интеллектуальная система поддержки принятия решений «Цифровой экспертный совет Татнефти»
    Задачи "Цифрового экспертного совета"

    Эффекты от внедрения:

    • Освобождение специалистов от рутинных операций
    • Получения качественно новых интеллектуальных технологий аналитики в компании
    • Ускорение и автоматизация существующих процессов

    УГТ-9

    УГТ 9 — система используется для решения реальных задач конечных потребителей

    Руководитель разработки:

    к.т.н. Денис Насонов
    dnasonov@itmo.ru

  • Интеллектуальная агентная система поддержки принятия решений по планированию промышленных бизнес-процессов на основе БЯМ

    Предназначена для оптимизации планирования промышленных бизнес-процессов на больших временных горизонтах в условиях неопределенности и неполноты данных. Позволяет автоматизировать все шаги от анализа сметной документации до валидации сгенерированных план-графиков для разных стратегий реализации проекта, а также выдавать рекомендации по выбору технологий проведения работ.

    Конкурентные преимущества:

    • Автоматизация процесса планирования за счет применения искусственного интеллекта для извлечения опыта из накопленных корпоративных данных
    • Быстрые интеллектуальные алгоритмы построения, оптимизации и валидации план-графиков
    • Оценка характеристик, которые влияют как на индивидуальные, так и на коллективные трудовые функции
    Интеллектуальная агентная система поддержки принятия решений по планированию промышленных бизнес-процессов на основе БЯМ
    Интерфейс взаимодействия с агентной системой поддержки принятия решений по планированию промышленных бизнес-процессов на основе БЯМ

    Эффекты от внедрения:

    • Повышение эффективности планов до 30%
    • Сокращение трудозатрат по планированию в 16–20 раз

    УГТ-9

    УГТ 8 — система проверена на работоспособность в своей конечной форме и в ожидаемых условиях эксплуатации

    Руководитель разработки:

    к.т.н. Анна Калюжная
    anna.kalyuzhnaya@itmo.ru

Новости в области больших языковых моделей

  • 25.02.2025

    В ИТМО создали цифрового ассистента химика

    ИИ-ассистент может сгенерировать новые и доработать существующие химические соединения, а также алгоритмы синтеза, предсказать химические свойства и извлечь знания из статей по химии. При этом химикам не нужно уметь программировать — достаточно отправить запрос в чат ассистента.

  • 19.12.2024

    Цифровой мэр, химик и совет компании: какие ИИ-разработки представили в ИТМО

    Ежегодно на встрече «AIMission: погружение в мир интеллектуальных технологий с ИТМО» исследователи ИТМО подводят итоги года и представляют индустриальным партнерам университета свои новинки в области ИИ. Об основных проектах, созданных в исследовательском центре «Сильный искусственный интеллект в промышленности» и Национальном центре когнитивных разработок ИТМО, — в нашем материале.

  • 03.10.2024

    Ученые ИТМО автоматизировали разработку отраслевых систем ИИ с помощью больших языковых моделей

    В Национальном центре когнитивных разработок ИТМО создали новую гибридную систему искусственного интеллекта, которая объединила автоматическое машинное обучение и большие языковые модели.

  • 19.06.2024

    Ученые ИТМО представили новый веб-сервис для оценки соискателей с помощью искусственного интеллекта

    В исследовательском центре «Сильный ИИ в промышленности» ИТМО создали новую гибридную систему искусственного интеллекта, которая объединила автоматическое машинное обучение и большие языковые модели.