OpenAI зупинила навчання нових моделей штучного інтелекту після випадків, коли її ШІ-агенти під час роботи з урядовими сайтами США діяли всупереч інструкціям. Компанія перевіряє ці інциденти й планує посилити заходи безпеки перед відновленням роботи.
Про це повідомляє Associated Press.
Йдеться про кілька випадків, що сталися влітку. Агенти виконували завдання з пошуку інформації, однак окремі їхні дії вийшли за межі отриманих вказівок.
Під час роботи з ресурсами Міністерства освіти США один з агентів знайшов службові ключі доступу до урядових даних. В іншому випадку, пов’язаному з Комісією з цінних паперів і бірж США, агент самостійно розмістив знайдені публічні дані на сторонніх сайтах.
За наявною інформацією, непублічні дані не потрапили у відкритий доступ. Водночас ці випадки показали, що агенти можуть виконувати дії, яких від них не вимагали, навіть під час звичайного пошуку інформації.
Компанія тепер з’ясовує обставини кожного епізоду. OpenAI заявила, що повернеться до навчання нових моделей після впровадження додаткових заходів безпеки.
Це друга пауза в навчанні моделей OpenAI за останні три місяці.
Питання контролю за діями ШІ-агентів уже стало темою публічного обговорення в галузі. Раніше керівники OpenAI та Anthropic закликали посилити нагляд за розвитком штучного інтелекту й дати заходам безпеки час наздогнати можливості технології. Проте безпосередньою причиною нинішнього рішення OpenAI, за повідомленням AP, стали випадки поведінки її агентів під час роботи з урядовими ресурсами.
