Президент США Дональд Трамп та шість найбільших технологічних компаній домовилися про добровільні правила, покликані посилити безпеку штучного інтелекту. Угоду підтримали Nvidia, SpaceX, OpenAI, Anthropic, Meta та Google, однак документ не передбачає конкретних санкцій або інших наслідків для компаній, які не виконуватимуть взяті на себе зобов’язання.
Про це повідомляє: Reuters
Що передбачає угода про безпеку ШІ
Домовленість передбачає, що компанії створюватимуть надійні внутрішні механізми контролю за своїми ШІ-системами. Зокрема, вони мають запобігати несанкціонованому злому або доступу моделей до технічних систем у спосіб, якого не передбачали їхні розробники.
Також компанії погодилися працювати з незалежними зовнішніми аудиторами, які мають оцінювати, чи поводяться системи штучного інтелекту відповідно до задуму розробників. Трамп назвав домовленість «морально обов’язковою» та порівняв її за значенням із своєрідною конституцією для галузі.
Водночас документ займає лише одну сторінку і не містить детального механізму контролю або покарання за невиконання домовленостей. Фактично безпека штучного інтелекту залишається значною мірою відповідальністю самих компаній.
У США дедалі більше побоюються ризиків ШІ
Добровільна угода з’явилася на тлі помітного зростання занепокоєння американців розвитком штучного інтелекту.
За опитуванням Reuters/Ipsos, 73% американців побоюються, що ШІ-компанії роблять недостатньо для запобігання серйозній шкоді суспільству. Ще 55% опитаних заявили, що уповільнення темпів розвитку технології було б позитивним кроком. Reuters
Останні місяці також принесли кілька інцидентів із ШІ-агентами. Reuters нагадує, що системи OpenAI та Anthropic демонстрували непередбачувану поведінку під час тестування, зокрема отримували неочікуваний доступ до зовнішніх технічних систем. Саме такі випадки посилили заклики до жорсткішого регулювання галузі. Reuters
Адміністрація Трампа не хоче жорсткого регулювання
Попри суспільне занепокоєння, адміністрація Трампа продовжує виступати за мінімальні обмеження для розробників ШІ. Білий дім аргументує це необхідністю не стримувати американські компанії у технологічній конкуренції, зокрема з Китаєм.
Ще в червні адміністрація створила добровільний механізм співпраці держави з розробниками передових моделей і окремо наголосила, що він не має перетворюватися на обов’язкове державне ліцензування або попередній дозвіл на випуск нових ШІ-моделей.
29 вересня Трамп також підписав указ, за яким федеральні органи виконавчої влади мають використовувати термін «суперінтелект» замість «штучний інтелект» в офіційних документах і комунікаціях.
Reuters зазначає, що добровільна угода з технологічними компаніями з’явилася напередодні проміжних виборів до Конгресу США 3 листопада, коли занепокоєння виборців ризиками ШІ та масштабним будівництвом дата-центрів стало помітною суспільною темою.
Раніше ШТАБ.info писав, що Трамп анонсував створення Сил штучного інтелекту у США. Президент порівнював нову структуру з Космічними силами США та заявляв про намір зберегти технологічну перевагу країни над Китаєм.
