OpenAI представила нову функцію безпеки ChatGPT під назвою «Довірена особа», яка покликана допомагати користувачам у кризових ситуаціях і посилювати реагування на потенційно небезпечні розмови.
Про це розповідає Дніпро24
Як працює механізм оповіщення
Функція дозволяє дорослому користувачу вказати в акаунті одну або кілька довірених контактних осіб — членів родини або близьких друзів. Якщо алгоритми виявлять у діалозі ознаки серйозної психологічної кризи або інших небезпечних сигналів, ChatGPT може порадити звернутися до зазначеної довіреної особи.
У випадках, коли внутрішні механізми оцінять ситуацію як таку, що становить серйозний ризик, система надсилатиме довіреній особі автоматичне сповіщення електронною поштою, SMS або через застосунок. Повідомлення буде коротким і міститиме прохання зв’язатися з користувачем; для захисту приватності вони не міститимуть деталей переписки чи конкретного змісту розмови.
Система виявлення та контекст запровадження
OpenAI застосовує комбіновану систему автоматичного аналізу та перевірки людьми: при виявленні потенційно небезпечних сигналів випадок передається команді безпеки компанії, яка, за даними компанії, проводить перевірку приблизно протягом години. Такий підхід має на меті поєднувати швидке реагування алгоритмів із контролем фахівців.
Нова опція доповнює вже наявні заходи безпеки в ChatGPT, зокрема інструменти батьківського контролю для підліткових акаунтів і автоматичні рекомендації звернутися по професійну допомогу в кризових ситуаціях. Водночас посилення системи відбувається на фоні судових позовів проти OpenAI: деякі родини користувачів, які померли після спілкування з чат-ботом, звинувачують платформу в тому, що вона могла негативно вплинути на психологічний стан людей.
Важливо: функція «Довірена особа» є добровільною — користувач сам вирішує, чи активувати її в своєму акаунті.
Підготував Олексій Ковальчук
фото з відкритих джерел