Anthropic запретила оскорблять Claude

Компания Anthropic внесла изменения в свою политику, запретив оскорбления в адрес нейросети Claude и ее использование для пропаганды и разработки оружия.

Об этом сообщило издание The Verge со ссылкой на источники.

"Anthropic впервые за более чем год вносит изменения в свою политику использования сервиса, чтобы отразить новые и крайне рискованные случаи злоупотребления, включая вмешательство в выборы, разработку оружия, слежку, а также использование в сфере здравоохранения и финансов", - говорится в публикации.

Главным механизмом реагирования на грубое отношение по-прежнему остается завершение нейросетью диалога с пользователем, который ее оскорбил. При этом не уточняется, введут ли новую санкцию в виде блокировки аккаунта.

В компании добавили, что обновленные правила будут применяться только в крайних случаях, когда пользователи неоднократно проявляют жестокость и неуважение к модели.