• Свежее
Этот-ИИ-смог-обнаружить-ловушку,-расставленную-его-создателями-|-new-science.ru

Этот ИИ смог обнаружить ловушку, расставленную его создателями

Алексей Оверчук провел встречу с Премьер-министром Камбоджи Хун Манетом во время Восточноазиатского саммита в Малайзии

В России представили робота-конструктора для операций в трубах нефтепроводов

В России представили робота-конструктора для операций в трубах нефтепроводов

Потребители доверяют сертификатам: россияне чаще проверяют безопасность покупок

Потребители доверяют сертификатам: россияне чаще проверяют безопасность покупок

Правительство Российской Федерации приняло важные решения на заседании 9 октября 2025 года

Художники из разных стран представили выставку, посвящённую 80-летию Победы

Художники из разных стран представили выставку, посвящённую 80-летию Победы

Уникальная коллекция «Страниц истории» пополнила библиотеку ННГУ

Уникальная коллекция «Страниц истории» пополнила библиотеку ННГУ

Антикризисное мышление как залог успешной коммуникации

Антикризисное мышление как залог успешной коммуникации

В российских колледжах запустили обучение по новой специальности в сфере ИИ

Создан ИИ для тренировки произношения русского языка у иностранных студентов

В Ростовской области появилось свыше 260 вакансий, связанных с ИИ

В России появится консорциум компаний для борьбы с кибермошенничеством

В Курске запустили новое роботизированное производство для укрепления технологического суверенитета РФ

В Курске запустили новое роботизированное производство для укрепления технологического суверенитета РФ

Воскресенье, 9 ноября, 2025 - 03:26
  • Технологический суверенитет
    • Все
    • БПЛА
    • Инновации
    • Искусственный интеллект
    • Космос
    • Машиностроение
    • Промышленность
    • Робототехника
    • Судостроение
    • Технологии
    • Энергетика
    • Ядерные технологии
    В России представили робота-конструктора для операций в трубах нефтепроводов

    В России представили робота-конструктора для операций в трубах нефтепроводов

    Потребители доверяют сертификатам: россияне чаще проверяют безопасность покупок

    Потребители доверяют сертификатам: россияне чаще проверяют безопасность покупок

    Антикризисное мышление как залог успешной коммуникации

    Антикризисное мышление как залог успешной коммуникации

    В российских колледжах запустили обучение по новой специальности в сфере ИИ

    Создан ИИ для тренировки произношения русского языка у иностранных студентов

    В Ростовской области появилось свыше 260 вакансий, связанных с ИИ

    В России появится консорциум компаний для борьбы с кибермошенничеством

    В Курске запустили новое роботизированное производство для укрепления технологического суверенитета РФ

    В Курске запустили новое роботизированное производство для укрепления технологического суверенитета РФ

    «Яндекс Маркет» внедрил ИИ-агента для помощи покупателям в выборе товаров и подарков

    «Яндекс Маркет» внедрил ИИ-агента для помощи покупателям в выборе товаров и подарков

    Фальков: ИИ поможет в создании лекарств от трудноизлечимых болезней

    В России завершены доклинические испытания первого клеточного препарата от рака груди

    Российские эксперты представляют в Египте инновационные образовательные технологии

    Российские эксперты представляют в Египте инновационные образовательные технологии

    • Экология
  • Бизнес
    • Стартапы
  • Национальная политика
  • Партнёры
  • Экспертный совет
Результатов нет
Смотреть все результаты
  • Технологический суверенитет
    • Все
    • БПЛА
    • Инновации
    • Искусственный интеллект
    • Космос
    • Машиностроение
    • Промышленность
    • Робототехника
    • Судостроение
    • Технологии
    • Энергетика
    • Ядерные технологии
    В России представили робота-конструктора для операций в трубах нефтепроводов

    В России представили робота-конструктора для операций в трубах нефтепроводов

    Потребители доверяют сертификатам: россияне чаще проверяют безопасность покупок

    Потребители доверяют сертификатам: россияне чаще проверяют безопасность покупок

    Антикризисное мышление как залог успешной коммуникации

    Антикризисное мышление как залог успешной коммуникации

    В российских колледжах запустили обучение по новой специальности в сфере ИИ

    Создан ИИ для тренировки произношения русского языка у иностранных студентов

    В Ростовской области появилось свыше 260 вакансий, связанных с ИИ

    В России появится консорциум компаний для борьбы с кибермошенничеством

    В Курске запустили новое роботизированное производство для укрепления технологического суверенитета РФ

    В Курске запустили новое роботизированное производство для укрепления технологического суверенитета РФ

    «Яндекс Маркет» внедрил ИИ-агента для помощи покупателям в выборе товаров и подарков

    «Яндекс Маркет» внедрил ИИ-агента для помощи покупателям в выборе товаров и подарков

    Фальков: ИИ поможет в создании лекарств от трудноизлечимых болезней

    В России завершены доклинические испытания первого клеточного препарата от рака груди

    Российские эксперты представляют в Египте инновационные образовательные технологии

    Российские эксперты представляют в Египте инновационные образовательные технологии

    • Экология
  • Бизнес
    • Стартапы
  • Национальная политика
  • Партнёры
  • Экспертный совет
Результатов нет
Смотреть все результаты
ТЕХНОСУВЕРЕН
Результатов нет
Смотреть все результаты
Главная Технологический суверенитет Искусственный интеллект
18 марта, 2024 - 13:53

Этот ИИ смог обнаружить ловушку, расставленную его создателями

Этот-ИИ-смог-обнаружить-ловушку,-расставленную-его-создателями-|-new-science.ru
Claude 3, новейший искусственный интеллект от компании Anthropic, настолько силен, что обнаружил ловушку, расставленную его собственными разработчиками. Более того, исследователи заявили, что в ряде тестов их модель превзошла другие ИИ, такие как GPT-4 (OpenAI) и Gemini (Google).

Claude 3: самая интеллектуальная модель на сегодняшний день?

В то время как ChatGPT и GPT-4 часто упоминаются в научной прессе, другие модели также попадают в новости, в том числе Claude 3. Эта недавно выпущенная языковая модель была разработана компанией Anthropic, основанной три года назад бывшими сотрудниками OpenAI. По мнению исследователей, Claude 3 — самая интеллектуальная языковая модель из всех существующих на данный момент. Согласно пресс-релизу, опубликованному на платформе Anthropic 4 марта 2024 года, она даже превзошла своих основных конкурентов, а именно GPT-4 и Gemini. Если говорить точнее, то три различные модели Claude 3 — Haiku, Sonnet и Opus соответственно — превзошли вышеупомянутые модели в ряде тестов в различных областях, включая общие знания, кодирование и математические задачи.

«Каждая последующая модель обладает все более высокой производительностью, позволяя пользователям выбрать оптимальный баланс интеллекта, скорости и затрат для конкретного приложения«, — заявили в Anthropic.

Важно отметить, однако, что самые мощные модели GPT-4 (GPT-4 Turbo) и Gemini (Gemini 1.5) не были включены в эти тесты и поэтому не представлены в результатах.

Тест «иголка в стоге сена»

По словам создателей, Claude 3 настолько умен, что сумел разоблачить своих создателей. Фактически, ИИ понял, что его оценивают, и, более того, указал на это с помощью довольно удивительных аргументов. Тест «иголка в стоге сена» заключался в размещении случайного предложения посреди большого количества несвязанной информации. Затем исследователи спросили Claude 3 о знаменитой фразе и получили неожиданный ответ, о котором рассказал инженер Алекс Альберт в публикации на сайте X (бывшая соцсеть Twitter).

Claude 3 ответил, что данное предложение, возможно, было вставлено в шутку или для того, чтобы проверить уровень его внимания. ИИ обосновал свой ответ, указав, что предложение не имеет отношения к делу и не соответствует остальному содержанию других документов. На самом деле во вторгшемся предложении упоминался рецепт пиццы, в то время как остальная информация касалась языков программирования, стартапов и поиска работы.

В заключение Алекс Альберт отметил, что наблюдать такой уровень метасознания было интересно, но при этом подчеркнул необходимость подвергать ИИ более реалистичным испытаниям, чтобы точно оценить истинные возможности и ограничения моделей.

ПоделитьсяПоделитьсяПоделитьсяСканировать

Решение для бизнеса

Узнать подробности!

Спецпроекты

Потребители доверяют сертификатам: россияне чаще проверяют безопасность покупок
Новости партнеров

Потребители доверяют сертификатам: россияне чаще проверяют безопасность покупок

Художники из разных стран представили выставку, посвящённую 80-летию Победы
Духовная безопасность

Художники из разных стран представили выставку, посвящённую 80-летию Победы

Искусственный интеллект

Создан ИИ для тренировки произношения русского языка у иностранных студентов

«Яндекс Маркет» внедрил ИИ-агента для помощи покупателям в выборе товаров и подарков

В Минцифры обсуждают создание сервиса для определения контента, созданного ИИ

Российская компания построила современное хранилище данных без иностранных решений

Эксперт Аитов: Нейросети действительно можно сделать предвзятыми

В Рособрнадзоре объяснили, почему в России не планируют вводить ЕГЭ по ИИ

Наш проект:

ТЕХНОСУВЕРЕН

Посещая сайт technosuveren.ru, Вы даете согласие на обработку файлов cookie, сбор которых осуществляется ТЕХНОСУВЕРЕН на условиях Пользовательского соглашения обработки файлов cookie. ТЕХНОСУВЕРЕН также может использовать указанные данные для их последующей обработки системами Яндекс.Метрика и др., которая осуществляется с целью функционирования сайта technosuveren.ru


Политика в отношении обработки персональных данных
Согласие на обработку персональных данных

Сетевое издание "ТЕХНОСУВЕРЕН" Свидетельство о регистрации СМИ ЭЛ № ФС 77 - 87047. Выдано Роскомнадзором 05.04.2024.

Информационное агентство "ТЕХНОСУВЕРЕН" Свидетельство о регистрации СМИ ИА № ФС 77 - 87050. Выдано Роскомнадзором 01.04.2024.

Отдельные публикации могут содержать информацию, не предназначенную для пользователей до 18 лет.

Мнения и взгляды авторов не всегда совпадают с точкой зрения редакции.

Поддержать редакцию:

Техносуверен в соцсетях:

  • Контакты
  • Команда
  • Сотрудничество
  • Партнёры

Все права защищены © 2025 Техносуверен - технологический суверенитет РФ info@technosuveren.ru ria@technosuveren.ru
Предложить новость

Результатов нет
Смотреть все результаты
  • ЭКСПЕРТНЫЙ СОВЕТ
  • Технологический суверенитет
  • Бизнес
  • Духовная безопасность
  • ЕАЭС
  • Здоровье нации
  • Креативные индустрии
  • Культура
  • Международные новости
  • Молодежь
  • Национальная политика
  • Новости партнеров
  • Образование
  • Общество
  • Президент РФ
  • Регионы
  • Спецпроекты
  • Стартапы
  • Строительство
  • Искусственный интеллект
  • Машиностроение
  • Промышленность
  • Робототехника
  • Судостроение
  • Энергетика
  • Ядерные технологии
  • Экология
  • Экспертный клуб
  • Экономика
  • От первого лица
  • Наука
  • Экспертный клуб
  • Политика в отношении обработки персональных данных и реализации требований к защите персональных данных
  • Согласие на обработку персональных данных

Все права защищены © 2025 Техносуверен - технологический суверенитет РФ info@technosuveren.ru ria@technosuveren.ru
Предложить новость

Мы используем куки для наилучшего представления нашего сайта. Если Вы продолжите использовать сайт, мы будем считать что Вас это устраивает.

Политика конфиденциальности Согласие на обработку данных