Anthropic запретила пользователям оскорблять свой ИИ Claude

Компания Anthropic впервые за год обновила правила использования своих моделей искусственного интеллекта. Главное нововведение - запрет на «систематическое и бессмысленное оскорбительное или жестокое поведение» по отношению к чат-боту Claude.

Если пользователь начнёт грубить, ИИ просто прекратит разговор. При этом в компании не уточнили, последуют ли за этим более жёсткие меры, например блокировка аккаунта.

Новое правило не касается обычного раздражения, споров с моделью, мрачных творческих сюжетов или тестирования - его применят только в «экстремальных случаях».

Одновременно Anthropic существенно ограничила политическое и силовое применение Claude. Теперь нейросеть запрещено использовать для вмешательства в выборы: распространения дезинформации о кандидатах и голосовании, выдачи себя за политиков или сотрудников избиркомов, а также для попыток снизить явку.

Отдельный блок правил касается слежки. Claude нельзя применять для наблюдения за людьми без их согласия, в том числе за политическими диссидентами, и для принятия решений об арестах.

Кроме того, компания ввела ограничения на использование ИИ в сфере здравоохранения и финансов, а также для разработки оружия. Все нововведения вступят в силу 12 ноября.