Компанія Anthropic, яка розробляє ШІ-модель Claude, заявила, що провідним лабораторіям штучного інтелекту варто заздалегідь домовитися про механізм уповільнення або тимчасової паузи в розробці найпотужніших моделей. Причина — ризик того, що системи ШІ можуть наблизитися до етапу рекурсивного самовдосконалення, коли вони почнуть самостійно створювати ще сильніших наступників. Про це повідомляє Anthropic.
Чого боїться Anthropic
У компанії пояснюють, що сучасні ШІ-системи вже дедалі активніше залучаються до розробки нових моделей. Написання коду, тестування та автоматизації дослідницьких процесів. Якщо ця тенденція збережеться, роль людини у створенні наступних поколінь штучного інтелекту може швидко зменшуватися.
Саме це Anthropic називає потенційною точкою ризику. Коли гонка ШІ прискориться настільки, що суспільні інститути, регулятори та самі компанії не встигатимуть оцінювати наслідки нових технологій. У компанії наголошують, що рекурсивне самовдосконалення ще не настало і не є неминучим, однак до такого сценарію потрібно готуватися заздалегідь.
Компанія пропонує не повну зупинку, а механізм безпеки
Anthropic не закликає негайно повністю зупинити розвиток штучного інтелекту. Йдеться про створення спільної домовленості між провідними ШІ-лабораторіями. Яка дозволила б за потреби знизити темпи або тимчасово призупинити розробку frontier-моделей — тобто найпотужніших систем, що перебувають на передньому краї технологічного прогресу.
Ключова умова — така пауза має бути координованою та перевірюваною. У компанії вважають, що одностороннє уповільнення не спрацює: якщо одна лабораторія пригальмує, а інші продовжать перегони ШІ без обмежень, це лише посилить конкурентний тиск і не зменшить ризики.
Чому це важливо
Попередження Anthropic фактично стосується не лише технологій, а й управління ними. Компанія вважає, що нинішні державні та міжнародні механізми можуть виявитися надто повільними для темпів розвитку штучного інтелекту. Якщо моделі почнуть самі суттєво прискорювати створення наступних поколінь ШІ, часу на політичні рішення, регулювання та суспільну адаптацію може стати значно менше.
Водночас ця заява звучить на тлі глобальної конкуренції між найбільшими ШІ-компаніями. Anthropic, OpenAI, Google DeepMind та інші гравці продовжують розробляти дедалі потужніші моделі, тому питання безпечного уповільнення стає не лише етичним, а й практичним: як зупинити небезпечне прискорення так, щоб цим не скористалися менш обережні учасники ринку.
Таким чином, Anthropic пропонує не відмову від розвитку ШІ, а запобіжник на випадок, якщо гонка ШІ почне виходити за межі контролю. Компанія наполягає: домовлятися про такі правила потрібно до того, як ризики стануть критичними.
