Когда искусственный интеллект уверенно сообщает вымышленные факты, доверие к нему падает. Особенно остро эта проблема стоит в бизнесе, где ошибки ИИ могут стоить репутации и денег. Специалисты Центра практического искусственного интеллекта Сбербанка представили решение — библиотеку SIRIN, которая выявляет такие «галлюцинации» в ответах моделей. Инструмент повышает точность обнаружения ошибок почти на 30% всего за 250 примеров обучения и уже доказал свою эффективность внутри компании. Теперь доступ к нему открыт для всех желающих. «Для повышения надежности работы моделей мы представили библиотеку SIRIN, которая анализирует обоснованность их ответов», — отметил старший управляющий директор, директор по AI-трансформации Сбербанка Сергей Рябов.
Что такое «галлюцинации» ИИ и почему с ними борются
Языковые модели часто генерируют неподтвержденные данные, выдавая их за достоверные факты. В корпоративной среде это приводит к сбоям в сервисах, юридическим рискам и потере клиентского доверия. Проблема становится барьером для внедрения ИИ в критически важные процессы, где важна каждая деталь.
Именно для решения этой задачи Сбербанк разработал собственную библиотеку SIRIN. Как сообщили ТАСС в пресс-службе кредитной организации, инструмент предназначен для проверки обоснованности ответов генеративных моделей и ИИ-агентов. В основе системы лежат собственные исследования компании в области детекции логических несоответствий.
Как библиотека анализирует ответы моделей
Разработка объединяет несколько методов верификации, позволяя разработчикам гибко настраивать проверку под конкретные задачи. SIRIN способна анализировать как полный ответ модели, так и отдельные его фрагменты, подсвечивая участки с потенциальными ошибками или вымыслом.
Ключевая особенность — превентивный подход. Библиотека заранее оценивает, достаточно ли у искусственного интеллекта исходных данных для качественного ответа. Если информации не хватает, система может инициировать запрос дополнительных сведений или вовсе отказаться от формирования сомнительного вывода, предотвращая ошибку до её появления.
Насколько эффективна новая разработка
В основе библиотеки лежат метамодели, созданные командой исполнительного директора по исследованию данных Центра практического ИИ Сбербанка Максима Макаренко. Эти алгоритмы позволяют добиться высокой точности, используя для обучения всего 250 примеров — это значительно ускоряет внедрение инструмента в новые проекты.
По данным компании, такой подход повышает эффективность обнаружения ошибок почти на 30%. Решение уже прошло апробацию во внутренних сервисах Сбера для работы с клиентами и показало свою состоятельность. Теперь компания делает его общедоступным, чтобы способствовать развитию всего рынка доверенных ИИ-решений.
Коротко: главное о библиотеке для проверки ИИ
-
Что за инструмент представил Сбербанк? Библиотека SIRIN для выявления ошибок и вымышленных фактов в ответах искусственного интеллекта.
-
Кто является авторами разработки? Специалисты Центра практического ИИ Сбербанка, ключевые роли у Сергея Рябова и Максима Макаренко.
-
Какую точность обеспечивает библиотека? Повышает эффективность обнаружения ошибок почти на 30% при обучении на малом количестве примеров.
-
Какие функции она выполняет? Анализирует ответы целиком и по частям, оценивает достаточность данных для ответа и предотвращает генерацию ложной информации.
-
Кому доступен инструмент? Библиотека открыта для всех компаний и разработчиков для использования в их проектах.
Резюме
-
Сбербанк открыл публичный доступ к библиотеке SIRIN, выявляющей фактические ошибки в ответах ИИ.
-
Инструмент позволяет анализировать обоснованность ответов и предотвращать генерацию недостоверных данных.
-
Разработанные метамодели повышают точность обнаружения «галлюцинаций» почти на 30% при минимальном объеме обучающей выборки.
-
Библиотека уже прошла успешное тестирование во внутренних сервисах компании и теперь доступна для всех игроков рынка.
Материал подготовлен изданием «Техносуверен» (technosuveren.ru).
Дата публикации: 31 июля 2026 года.
