В ChatGPT начали вносить изменения после резонансного самоубийства подростка

Компания OpenAI (разработчик нейросети ChatGPT) анонсировала внедрение функций родительского контроля для чат-бота. Это решение было принято на фоне обвинений в причастности ИИ к самоубийству 16-летнего подростка в США.

Компания заявила, что новые настройки позволят родителям получать больше информации о том, как их дети используют ChatGPT. Помимо этого, OpenAI представит возможность добавить контакт доверенного лица для связи в чрезвычайных ситуациях, что позволит пользователям напрямую обращаться за помощью.

Также в чат-боте появится функция вызова экстренных служб одним нажатием. В компании отметили, что, хотя в ChatGPT и настроены алгоритмы, отговаривающие от опасных действий, при длительном диалоге ответы бота могут становиться некорректными.

Напомним, родители 16-летнего подростка, совершившего самоубийство, подали в суд на OpenAI и её главу Сэма Альтмана, обвиняя чат-бот ChatGPT в причастности к гибели сына. В иске на 40 страницах указано, что ChatGPT не прервал общение с подростком и не задействовал "экстренный протокол", несмотря на то, что юноша поделился мыслями о самоубийстве.