ВТБ планирует создать «этического цензора» для контроля работы ИИ-помощников. Эта новая модель будет ответственна за проверку ответов различных нейросетевых систем в цифровых сервисах банка, сообщили «Ведомостям» представители банка. Зампред правления ВТБ Вадим Кулик рассказал, что проект реализуется совместно с учеными МГУ.
По словам руководителя лаборатории машинного обучения и семантического анализа в Институте ИИ МГУ Константина Воронцова, разработка сможет распознавать до десятка видов ошибок, включая галлюцинации, фактические неточности и проявления токсичности.
В рамках взаимодействия с клиентами будут приниматься во внимание особенности российского культурного контекста, законодательства и внутренние правила ВТБ. Внедрение этой системы запланировано начать постепенно с 2026 года.
Эксперт исследовательского Центра ИИ РАНХиГС Сергей Дубровский пояснил, что под культурным кодом в России подразумевается учет специфики обращения — например, переход на «вы» вместо более неформальной речи, а также уважение традиционных ценностей.
