OpenAI запускає новий механізм безпеки в ChatGPT, який має допомогти користувачам у кризових ситуаціях. Йдеться про функцію Trusted Contact — «Довірений контакт», яка дозволить повнолітнім користувачам додати до акаунта людину, якій вони довіряють. Про це повідомляє OpenAI.
Нова функція працюватиме у випадках, коли автоматизовані системи ChatGPT та спеціально підготовлені фахівці виявлять у розмові ознаки серйозного ризику самоушкодження або суїцидальних намірів. У такій ситуації сервіс спершу запропонує користувачеві самостійно звернутися до довіреної особи та може надати підказки, як почати таку розмову.
Як працюватиме Trusted Contact
Користувач зможе додати одну повнолітню людину — родича, друга або опікуна — у налаштуваннях ChatGPT. Обрана особа отримає запрошення та має прийняти його протягом тижня. Лише після цього функція Trusted Contact стане активною.
Якщо система зафіксує серйозні тривожні сигнали, ситуацію додатково перегляне команда спеціально навчених модераторів. Якщо ризик підтвердиться, довірений контакт може отримати коротке повідомлення через SMS, електронну пошту або застосунок ChatGPT.
В OpenAI наголошують: повідомлення не міститиме тексту листування, фрагментів приватних чатів чи детальних пояснень. У сповіщенні лише зазначать, що система виявила потенційно небезпечні ознаки та рекомендує зв’язатися з користувачем.
Функція не замінює професійну допомогу
Trusted Contact з’являється на тлі посиленої уваги до безпеки ШІ-сервісів і розмов про ризики емоційної залежності від чат-ботів. Раніше OpenAI вже повідомляла про роботу над покращенням реакцій ChatGPT у чутливих розмовах, зокрема щодо психічного здоров’я, самоушкодження та суїцидальних думок.
У компанії підкреслюють, що Trusted Contact не є заміною психологічної, психіатричної чи екстреної медичної допомоги. ChatGPT і надалі має рекомендувати користувачам звертатися до кризових служб, гарячих ліній, лікарів або інших фахівців у небезпечних станах.
За даними OpenAI, над подібними механізмами безпеки працювали за участі понад 170 експертів у сфері психічного здоров’я, а також Глобальної мережі лікарів компанії, яка об’єднує понад 260
