Развитие технологий генеративного ИИ не гарантирует рост достоверности информации — за последний год количество фейковых данных, генерируемых ИИ, почти удвоилось.
Технологии генеративного искусственного интеллекта стремительно развиваются, однако вопрос качества и достоверности предоставляемой ими информации остаётся открытым. NewsGuard провели аудит 10 ведущих инструментов ИИ и выявили тревожную тенденцию: частота публикации ложной информации увеличилась почти в два раза.
В августе 2025 года более трети (35 %) запросов на новостные темы содержали ложные утверждения. Для сравнения: в августе 2024 года этот показатель составлял 18 %. Это означает, что, несмотря на технические достижения в сфере ИИ, инструменты генеративного ИИ стали почти в два раза чаще ошибаться в выполнении одной из самых базовых задач — отличии фактов от вымысла.
Параллельно с ростом доли ложной информации наблюдается другая тенденция: чат-боты практически перестали отказываться отвечать на вопросы. В августе 2024 года доля случаев, когда ИИ не давал ответ, составляла 31 %, а в августе 2025 года она снизилась до 0 %.
Эксперты указывают на то, что большие языковые модели всё чаще опираются на ненадёжные источники информации. Возможность осуществлять веб-поиск в режиме реального времени привела к тому, что ИИ-инструменты начали черпать данные из «загрязнённой» онлайн-экосистемы. В некоторых случаях такие источники создаются намеренно — например, в рамках операций по дезинформации.
Особенно опасно то, что современные модели ИИ не всегда способны отличить достоверные источники от сомнительных. Злоумышленники активно используют эту слабость, распространяя ложную информацию через различные каналы:
- сайты с низким уровнем вовлечённости;
- социальные сети;
- фермы контента, созданные с помощью ИИ.
Ситуация показывает, что усилия отрасли по созданию более безопасных и надёжных систем пока не приносят ожидаемого результата. Проблема дезинформации остаётся актуальной, и для её решения требуются новые подходы и механизмы контроля качества информации, предоставляемой ИИ.
