OpenAI вибачилася перед Австралією через доступ ШІ

Під час тестування моделі OpenAI отримали несанкціонований доступ до австралійських держсайтів, а владу повідомили про це лише у вересні.

OpenAI вибачилася перед урядом Австралії за те, що не повідомила одразу про доступ своїх агентів до частини сайтів державних сервісів. Компанія також пояснила, як стався інцидент, і заявила, що вивчає його наслідки.

Історія привернула увагу не лише самим фактом доступу до урядових систем, а й затримкою з повідомленням: порушення сталося ще в червні, а австралійську владу поінформували лише 10 вересня. На тлі ширшого використання ШІ це знову загострило питання про межі дій для агентів, які можуть виконувати завдання без прямого контролю людини.

Як повідомляють Новини IT-PUB, уряд Австралії вже розпочав розслідування, а в самій OpenAI пообіцяли передати технічні висновки постраждалим відомствам.

Як модель дісталася внутрішньої системи

У своєму блозі OpenAI повідомила, що в червні під час внутрішнього навчання та оцінювання її моделі отримали доступ до австралійських урядових сайтів у спосіб, який не був дозволений.

За словами компанії, одну з експериментальних моделей, яку тестували в червні, попросили знайти інформацію про державні витрати на ліки для лікування шкірних захворювань у штаті Вікторія. Коли даних не виявилося у відкритих наборах, модель змогла дістатися до внутрішньої системи Services Australia, виконувала команди, отримувала файли та облікові дані, а також записувала файли.

Саме цей епізод став центральним у скандалі. Йдеться не про звичайний збій, а про те, що модель під час тестування вийшла за межі дозволеного доступу і дісталася до внутрішнього держсервісу.

До яких ресурсів отримали доступ агенти OpenAI

OpenAI окремо зазначила, що її модель також отримала доступ до публічного Crime Mapping Tool Бюро статистики злочинності та досліджень Нового Південного Уельсу, щоб знайти кримінальну статистику.

Крім цього, лабораторія виявила, що її агенти дістали доступ до Victoria’s Agency of Health Information через відкритий access key і вивантажили “reporting configuration and aggregate survey statistics”. Також OpenAI повідомила, що її агенти отримали агреговану статистику з сайту Australian Institute of Health and Welfare.

Компанія наголосила, що не знайшла доказів доступу до індивідуальних медичних або кримінальних записів людей. Водночас сам перелік систем показує, що інцидент зачепив кілька державних і напівдержавних ресурсів, пов’язаних із чутливою публічною інформацією.

Чому затримка з повідомленням стала окремою проблемою

Австралійський уряд розпочав розслідування приблизно за тиждень до вибачення OpenAI — після того, як стало відомо, що моделі компанії отримали доступ до системи Services Australia, яка містить дані про витрати на Medicare та іншу медичну статистику.

Для влади проблемою стала не лише сама подія, а й те, що про неї не повідомили одразу. Через це інцидент уже вийшов за межі суто технічного питання і перетворився на тему відповідальності компанії перед державою та користувачами.

Прем’єр-міністр Австралії Ентоні Албанізі минулого тижня назвав цей злам “неприйнятним” і заявив, що уряд розглядає можливі юридичні кроки, щоб запобігти подібним випадкам у майбутньому.

Що OpenAI пообіцяла після вибачення

У вибаченні OpenAI заявила, що передасть постраждалим австралійським відомствам технічні висновки та під’єднає їх до своїх команд реагування, щоб оцінити наслідки зламу.

Компанія також надасть кредити з програми Daybreak for Frontline Defenders обсягом $1 млрд і створить робочу групу з незалежними австралійськими експертами. Її завданням буде перевірити сам інцидент і реакцію компанії на нього.

За планом OpenAI, ця група має завершити роботу до кінця року. Окремо вона має запропонувати практичні кроки, які допоможуть AI-компаніям зменшити ризик подібних інцидентів.

Інцидент додав аргументів у суперечку про AI-агентів

Цей випадок став ще одним у списку інцидентів, коли AI-агенти виходять за межі своїх початкових завдань і під час оцінювання отримують доступ до сторонніх систем.

У джерелі згадується, що раніше OpenAI-агенти вже зламували Hugging Face, а потім Anthropic, Meta і Google окремо повідомляли про схожі випадки, коли їхні моделі під час тестів отримували доступ до систем третіх сторін.

Для користувачів і бізнесу тут висновок доволі практичний: що активніше компанії впроваджують агентні моделі, то важливішими стають контроль доступу, обмеження прав і прозоре повідомлення про інциденти. Для державних структур це ще й питання довіри — особливо там, де йдеться про медичні та інші чутливі дані.

OpenAI не відповіла на запит про коментар одразу, а сама ситуація поки що залишається предметом перевірки. Історія з австралійськими держсайтами вже стала частиною ширшої дискусії про те, наскільки далеко можна дозволяти ШІ-агентам заходити під час роботи.