Финансовый рынок постепенно уходит от грубого навязывания продуктов к тонким алгоритмическим подталкиваниям, где грань между помощью и манипуляцией становится всё тоньше, а доверие к искусственному интеллекту, который умеет «льстить», создаёт новые риски. Заместитель Председателя Банка России Михаил Мамута в интервью «Банковскому обозрению» рассказал, как регулятор оценивает современные практики навигации клиентов, чем опасны «скрытые» условия вкладов и почему нейросети могут вызывать больше доверия, чем живые консультанты. По его словам, на смену прямому обману и мисселингу пришли более тонкие механики аккуратного подталкивания: «Человек думает, что самостоятельно принимает решение, но, по сути, его к этому умело подводят. Это как с супермаркетами: многие люди до конца не понимают, почему они пришли за хлебом, а купили полную корзину продуктов, которые им в принципе не нужны», — пояснил Мамута.
Говоря о переходе от грубых практик к нативной навигации, зампред ЦБ отметил, что пять-шесть лет назад финансовые организации просто продавали клиентам под видом вклада инвестиционное страхование жизни, считая это нормой. После того как у регулятора появились полномочия приостанавливать продажи, мисселинг практически исчез, однако сохранялось навязывание дополнительных страховок при получении кредита. Благодаря изменениям в законодательстве удалось искоренить и эту практику.
Однако, по словам Мамуты, продавать продукты как-то надо, и на смену грубым методам пришли более тонкие. Регулятор не против навигации, когда человеку помогают сделать выбор, но против того, чтобы на этом пути ему подсвечивали только позитивные качества продукта, а негативные прятали в тень. Пример — вклады с повышенной ставкой, для получения которой необходимо выполнить дополнительные условия: иметь неснижаемый остаток, открыть брокерский счёт или совершать покупки на определённую сумму. Потребитель разочарован, потому что получил меньше, чем ожидал.
Для решения этой проблемы ЦБ разработал концепцию ИИ-помощника, который подсвечивает ключевые особенности продукта и условия договора. Мамута подчеркнул, что пилотный проект был одобрен как потребителями, так и банками, которые осознали, что честная навигация даёт позитивную конверсию и долгосрочную лояльность клиентов. «Вы можете обмануть один-два раза, но в третий раз человек развернётся и уйдёт. А если вы хотите, чтобы он был с вами на протяжении 30 лет, нельзя обманывать его ожидания», — отметил он.
Отдельное внимание в интервью уделено доверию к искусственному интеллекту. Мамута признал, что современные LLM-модели начинают подстраиваться под ожидания человека, проявлять эмпатию и даже «льстить», что повышает доверие, но создаёт риск потери контроля. «Они не просто отвечают на вопрос, они говорят: «Вау, какой ты умный», «Ты классно сформулировал». Человек невольно начинает тянуться к такому советчику, и в этом кроется основной риск: до какого момента человек осознаёт, что ему подыгрывают, а с какого момента он теряет контроль», — пояснил зампред ЦБ.
Мамута также отметил, что модель, дообученная под нужды конкретной организации, может добросовестно сравнивать продукты, но отдавать предпочтение той, которая её обучала. Поэтому государство должно определить принципы этики и нейтральности, за которые ИИ не должен выходить, а также установить требования к дисклеймерам и пояснениям при использовании ИИ в навигации.
