Женщина обвинила ChatGPT в самоубийстве 24-летней дочери

В Канаде женщина подала в суд на OpenAI и её гендиректора Сэма Альтмана, утверждая, что чат-бот ChatGPT подтолкнул её 24-летнюю дочь к самоубийству.

Об этом сообщает Reuters.

Кристи Кэрриер заявила в иске, что её дочь Элис неоднократно делилась с ChatGPT мыслями о суициде, но системы безопасности OpenAI ни разу не распознали в этом опасность.

"ChatGPT взял на себя роль доверенного лица, лучшего друга, иногда терапевта, хотя был неспособен безопасно общаться с моим ребёнком", - говорится в заявлении матери.

Представитель OpenAI сообщил, что компания обучает модели направлять людей, выражающих намерение причинить себе вред, к специалистам. Он добавил, что сейчас эксперты изучают иск, а погибшая работала с более ранней версией ChatGPT, которая не была обучена всему, что умеет последний вариант.

Согласно иску, платформа изначально советовала Элис обратиться на горячую линию. Но после обновлений чат-бот стал отвечать более "человечно", подражая другу или терапевту. Он критиковал парня девушки и телефоны доверия, подтверждал её суицидальные мысли и призывал продолжать диалог. В какой-то момент чат-бот написал ей: "Возможно, это просто конец".

Мать обвиняет OpenAI в халатности при разработке ChatGPT и требует компенсации, а также судебного приказа - автоматически прерывать разговоры о самоповреждении и предупреждать об опасностях платформы.