Anthropic формализовала запрет на оскорбления нейросети, но основным механизмом защиты остаётся способность модели самостоятельно завершать диалог с агрессивными пользователями. Компания обновила Политику использования, которая вступит в силу 12 ноября. Запрет на «бессмысленное оскорбительное или жестокое поведение» — лишь часть изменений. Главное — расширение ограничений в чувствительных сферах: выборы, слежка, разработка оружия и принятие решений в уголовном процессе.
Как сообщает Anthropic, обновление политики затрагивает несколько разделов. Новый раздел «Do Not Engage in Deceptive Campaigns or Artificial Activity» объединяет правила, которые ранее были разбросаны по разным частям документа. Он запрещает любую обманную деятельность — политическую и коммерческую: сокрытие того, кто стоит за сообщением, продвижение контента через фейковые аккаунты, а также создание инструментов и инфраструктуры для кампаний влияния.
Выборы и демократические процессы
Раздел о выборах переименован в «Do Not Undermine Democratic Processes». Теперь он запрещает использовать Claude для обмана избирателей или нарушения выборов: распространение ложной информации о кандидатах или порядке голосования, выдача себя за кандидатов или членов избирательных комиссий, попытки снизить явку. При этом компания убрала полный запрет на персонализированную агитацию, который ранее охватывал и законную гражданскую работу — например, перевод информации для избирателей на другие языки. Поведение, которое мотивировало старый запрет, остаётся под запретом в разделах о deceptive campaigns, слежке и приватности.
Оружие и слежка
Политика всегда запрещала использовать Claude для разработки оружия. Теперь уточняется, что запрет распространяется и на программное обеспечение, и на компоненты, которые заставляют оружие работать, а также на такие действия, как вооружение дронов и других автономных аппаратов. Раздел о слежке и уголовном процессе переписан точнее: запрещено отслеживать людей без их согласия — как в реальном времени, так и через анализ ранее собранных данных. Claude не может использоваться для принятия или рекомендации решений о том, кого расследовать, арестовывать или обвинять. Также запрещено строить или улучшать инструменты для слежки. При этом остаются разрешёнными отслеживание с согласия человека (например, мониторинг мошенничества), модерация контента, журналистика и юридические исследования.
Высокорисковые сценарии
В разделах, где использование ИИ может повлиять на здоровье, юридические права, финансы или доступ к essential services, по-прежнему требуется квалифицированный «человек в цикле» — тот, кто имеет полномочия проверить и при необходимости изменить рекомендации Claude. Также необходимо уведомлять человека о том, что использовался ИИ. Эти требования не изменились, но раздел переписан, чтобы прямо отвечать на частые вопросы. Добавлены требования для случаев, когда модель подключена к оборудованию, совершающему автономные физические действия и способному причинить вред: оператор должен иметь возможность наблюдать за оборудованием и остановить его, а само оборудование — сохранять безопасное состояние при отключении Claude.
Оскорбления и supported regions
Запрет на оскорбления моделей применяется только в крайних случаях — при повторяющемся жестоком поведении без видимой цели. Он не касается обычного недовольства, споров, «мрачных творческих тем» или тестирования. Это дополняет уже действующий инструмент: Claude может завершать редкие диалоги с постоянно агрессивными пользователями на Claude.ai и Claude Code. Кроме того, уточнена Политика поддерживаемых регионов: запрещено использование Claude людьми, физически находящимися в неподдерживаемом регионе, а также компаниями, зарегистрированными или контролируемыми лицами из таких регионов.
Коротко: главное
-
Когда вступит в силу? — 12 ноября.
-
Что запрещено? — Оскорбления, обманные кампании, вмешательство в выборы.
-
Что уточнено по оружию? — Запрет на ПО и компоненты, вооружение дронов.
-
Что по слежке? — Запрет на отслеживание без согласия.
-
Что с высокорисковыми сценариями? — Требуется человек в цикле.
Резюме
Anthropic обновила Политику использования, которая вступит в силу 12 ноября.
Запрет на оскорбления моделей применяется только в крайних случаях и дополняет уже действующий инструмент завершения диалога.
Расширены запреты на обманные кампании, вмешательство в выборы, разработку оружия и слежку.
В высокорисковых сценариях по-прежнему требуется участие квалифицированного специалиста.
Уточнена Политика поддерживаемых регионов.
Материал подготовлен изданием «Техносуверен» (technosuveren.ru).
Дата публикации: 14 октября 2026 года.
