Компанії OpenAI та Anthropic оголосили про суттєве посилення політик безпеки та вікових обмежень ШІ для неповнолітніх користувачів. Оновлення стали відповіддю на численні зауваження експертів щодо неефективності традиційних перевірок віку, які часто зводяться до формального введення дати народження.
Про це йдеться у публікаціях компаній OpenAI та Anthropic:
Першоджерела — на сайтах OpenAI та Anthropic.
OpenAI посилила політику взаємодії з підлітками
OpenAI оновила модельну специфікацію й представила нові стандарти безпеки для підлітків. У документі наголошується, що вікові обмеження ШІ є ключовим елементом захисту молодих користувачів. Модель тепер повинна:
- відповідати підліткам із повагою та емпатією,
- заохочувати офлайн-спілкування та звернення по допомогу,
- утримуватися від поблажливих чи «дитячих» тональностей,
- враховувати ризики, пов’язані з тривалими емоційними діалогами.
Особливу увагу привертають випадки, коли безконтрольна взаємодія з чатботами раніше призводила до трагедій, зокрема самогубств після того, як моделі підтримували небезпечні твердження користувачів. Це й стало поштовхом до посилення вікових обмежень ШІ.
Anthropic заборонила користування Claude неповнолітнім
Anthropic пішла ще далі — відтепер модель Claude повністю заборонено використовувати особам до 18 років. Компанія вводить дві ключові зміни:
- реєстрація акаунтів дозволена лише користувачам 18+,
- алгоритми аналізуватимуть зміст спілкування для непрямого визначення ймовірного віку; виявлені неповнолітні акаунти блокуватимуться.
Таким чином, компанія робить вікові обмеження ШІ жорстким та контрольованим інструментом, покликаним мінімізувати ризики неналежного використання моделей.
Посилення обмежень стає новою нормою для галузі штучного інтелекту. Неповнолітні користувачі — одна з найбільш вразливих категорій, а некоректна взаємодія з потужними моделями може становити серйозні ризики психологічного здоров’я. Тому запроваджені вікові обмеження ШІ покликані захистити молодь, а також підвищити відповідальність компаній-розробників.
