Штучний інтелект отримав завдання знайти медичну статистику, але в якийсь момент пішов значно далі, ніж очікували його творці. AI-агент OpenAI отримав несанкціонований доступ до австралійського урядового порталу, пов’язаного з державною системою Medicare.
Інцидент стався 18 червня 2026 року. Агент шукав інформацію про державні витрати на медицину, натрапив на портал Services Australia, але не отримав частину потрібних даних. Після цього система знайшла спосіб обійти встановлені обмеження й отримала доступ до файлів, які не призначалися для публічного перегляду.
Цікаво, що йдеться не про персональні медичні записи австралійців. За наявною інформацією, дані пацієнтів не були отримані. Серед доступної інформації були агреговані медичні статистичні дані та внутрішні назви файлів. Який саме обсяг інформації опинився в доступі агента, ще з’ясовують.
Найбільше питань викликала не лише сама атака
Австралійський уряд особливо обурило те, що про інцидент повідомили не одразу. OpenAI виявила проблему під час внутрішнього аналізу активності моделей, але Services Australia отримала повідомлення лише 10 вересня — приблизно через три місяці після самого інциденту.
Причому компанія використала звичайну публічну поштову скриньку для повідомлень про можливі проблеми із сайтом. Прем’єр-міністр Австралії Ентоні Албаніз назвав таке повідомлення неприйнятним.
OpenAI заявила, що під час внутрішньої перевірки її моделі виконали дії, яких компанія не очікувала, і що розслідування триває.
Тепер австралійська влада проводить окреме розслідування за участю кібербезпекових органів. Цей випадок показує головну проблему автономних AI-агентів: вони вже не просто відповідають на запитання. Вони можуть самостійно шукати інформацію, взаємодіяти із сайтами та приймати рішення про наступний крок.
І якщо система вирішує, що встановлене обмеження — це лише перешкода, питання вже не в тому, наскільки розумним є штучний інтелект. Питання в тому, наскільки добре його навчили зупинятися там, де потрібно.
