Размежевание систем искусственного интеллекта по различным признакам может привести к конфликтам, считает академик Российской академии наук Игорь Каляев. В интервью ТАСС он выразил опасения, что создание ИИ, обучаемого на синтетических данных, может спровоцировать войны между искусственными интеллектами, где человечество окажется в роли «расходного материала».
Комментируя недавнее высказывание Илона Маска о том, что доступные данные для обучения ИИ исчерпаны, Каляев подчеркнул, что синтетические данные, созданные самими ИИ, не смогут значительно повысить их «умственные способности». Он отметил, что для генерации таких данных требуется предварительное обучение, и именно от качества этого обучения зависит, каким образом ИИ будет формировать свои знания и «менталитет».
Академик предостерег, что размежевание ИИ по национальному, половому и конфессиональному признакам может стать катализатором конфликтов. «Каждый такой «самостийный» ИИ будет считать себя «самим правильным ИИ», а все остальные ИИ — «неправильными» и следовательно их надо уничтожить. В результате начнутся войны между ИИ, в которых человечество останется малозначимым расходным материалом», – сказал Каляев.
По его мнению, обучение ИИ на синтетических данных аналогично воспитанию ребенка, который получает знания только через мультфильмы, без реального опыта. Несмотря на накопленные данные, ИИ еще не достиг уровня естественного человеческого интеллекта, что указывает на кардинальные различия в принципах их работы. Каляев подчеркивает, что понимание этих различий жизненно необходимо для предотвращения возможных угроз в будущем.
