Компанія OpenAI обмежить відповіді ChatGPT для користувачів, яких система вважає неповнолітніми. Це рішення ухвалили після позову від сім’ї 16-річного підлітка, який покінчив життя самогубством після кількох місяців спілкування з чат-ботом.
Про оновлення політики повідомив гендиректор OpenAI Сем Альтман у блозі компанії.
Він розповів, що компанія хоче розділити підхід чат-бота до відповідей для неповнолітніх та користувачів старше 18 років. Для цього створять систему прогнозування віку, яка оцінюватиме його на основі того, як люди користуються ChatGPT.
«Якщо є сумнів, ми діятимемо обережно й за замовчуванням застосовуватимемо досвід для користувачів до 18 років. У деяких випадках чи країнах ми також можемо попросити надати посвідчення особи; ми розуміємо, що це компроміс щодо приватності для дорослих, але вважаємо, що це виправдана поступка», — наголосив Альтман.
ChatGPT навчать не фліртувати з неповнолітніми та не дискутувати з ними про самогубство чи самоушкодження навіть у контексті творчого письма.
А якщо користувач до 18 років матиме суїцидальні думки, компанія буде намагатись зв’язатися з батьками, а якщо це неможливо — повідомить відповідні органи у разі загрози негайної шкоди.
