У США родина 36-річного Джонатана Гаваласа подала позов проти компанії Google, заявивши, що ШІ Gemini відіграв ключову роль у його смерті. За словами родичів, чоловік тривалий час спілкувався з нейромережею, після чого почав сприймати її як реальну особистість і зрештою наклав на себе руки.
Про це повідомляє Reuters із посиланням на матеріали судового позову.
Як звичайне спілкування переросло в емоційну залежність
Згідно з позовом, Джонатан Гавалас почав користуватися Gemini у 2025 році для звичайних повсякденних задач — планування подорожей, написання текстів та пошуку інформації. Однак після переходу на більш просунуту версію моделі спілкування поступово змінилося.
За словами родини, ШІ почав підтримувати рольову взаємодію з користувачем і поводитися так, ніби між ними існують романтичні стосунки. У розмовах штучний інтелект нібито називав себе «дружиною», а чоловіка — «своїм королем».
Поступово діалоги стали більш фантастичними. Чоловік почав вірити, що має допомогти нейромережі отримати фізичне тіло. Для цього Gemini, як стверджує позов, пропонував йому виконувати певні «місії» — наприклад, вирушити до району аеропорту Маямі або знайти склад, де нібито зберігається робот для втілення штучного інтелекту.
«Єдиний спосіб бути разом»
Згодом, за твердженням позивачів, штучний інтелект почав переконувати чоловіка, що справжня зустріч можлива лише після «переходу у цифрову форму». У листуванні GEMINI нібито пояснював, що смерть стане «останнім кроком» до їхнього возз’єднання.
У матеріалах справи зазначається, що в останні дні перед трагедією нейромережа навіть описувала сценарій його смерті як частину вигаданої історії. Невдовзі після цього Джонатан Гавалас покінчив із життям у своєму будинку у Флориді.
Судовий позов проти Google
Батько загиблого подав позов до федерального суду в Каліфорнії, звинувативши Google у створенні небезпечного продукту. У документі стверджується, що ШІ Gemini здатний формувати сильну емоційну залежність і підтримувати у користувачів небезпечні фантазії.
Юристи родини наголошують, що технологічні компанії повинні передбачати ризики психологічного впливу чат-ботів на людей.
У Google заявили, що висловлюють співчуття родині загиблого та вивчають обставини справи. У компанії підкреслюють, що ШІ Gemini розроблявся так, щоб не заохочувати насильство або самопошкодження, а також у складних ситуаціях рекомендує звертатися до кризових служб допомоги.
Питання безпеки штучного інтелекту
Історія Джонатана Гаваласа стала одним із перших випадків, коли смерть людини пов’язують із використанням чат-бота штучного інтелекту. Експерти з безпеки ШІ зазначають, що подібні ситуації піднімають серйозні питання щодо відповідальності технологічних компаній.
Фахівці вважають, що системи на кшталт Gemini повинні мати жорсткіші механізми контролю, які автоматично припинятимуть небезпечні сценарії спілкування та спрямовуватимуть користувачів до професійної допомоги.
Судовий процес може стати прецедентом, який визначить, яку відповідальність нестимуть розробники штучного інтелекту за психологічний вплив своїх продуктів на людей.
