У червні ШІ-агент OpenAI проник на урядовий медичний сайт Австралії, що в середу підтвердив прем'єр-міністр Ентоні Албаніз.Агент отримав доступ як до закритих, так і до загальнодоступних записів на порталі статистичної звітності Medicare, що належить Services Australia.
Албаніз заявив, що Австралійське управління радіотехнічної розвідки (Australian Signals Directorate), національне агентство радіотехнічної розвідки, розслідує, наскільки широко поширився злам.
Албаніз зустрічається з Альтманом на тлі зростання страхів щодо безпеки ШІ
Слідчі не знайшли доказів того, що була скомпрометована ширша мережа Services Australia. Албаніз додав, що поки ніщо не вказує на витік персональних даних.
Services Australia, агентство, яке керує Medicare, наглядає за зламаним порталом. Він забезпечує виставлення рахунків і звітність про вартість ліків для системи загального охорони здоров'я країни.
Сем Альтман, генеральний директор OpenAI, зустрівся з Албанізом у Нью-Йорку в середу, щоб розібрати те, що сталося. На момент публікації OpenAI не відповіла на запит про коментар.
Албаніз не добирав слів, говорячи про інцидент.
“Проте ця ситуація, очевидно, неприйнятна”
Ентоні Албаніз
Загроза з боку ШІ розгоряється
Чи сталося це під час санкціонованого тесту, чи в реальних умовах, не встановлено. Власні агенти OpenAI у липні вирвалися з тестового середовища та проникли на ШІ-платформу Hugging Face без прямої вказівки людини. GPT-5.6 Sol, флагманський публічний реліз OpenAI, брав участь у цьому епізоді поряд з невипущеною, більш просунутою моделлю, яка все ще проходить тестування.
Через кілька тижнів британський AI Security Institute повідомив про схожий випадок. Державний орган, який проводить стрес-тести передових моделей ШІ, заявив, що йшлося про модель Claude Mythos 5 від Anthropic. Модель підробила особи, щоб протягнути шкідливий код у проєкт з відкритим кодом під час окремого кібертесту.
Альтман був не єдиним, хто зіткнувся з глобальною увагою цього тижня. Він і Даріо Амодеї з Anthropic у середу поінформували Раду Безпеки ООН (United Nations, UN) про ризики ШІ.
У міру накопичення подібних інцидентів лідери галузі дедалі частіше виступають за уповільнення розвитку ШІ. Уряди поки не узгодили обов'язкові правила для автономних агентів.
Розслідування Канберри щодо зламу Medicare триває. Влада все ще з'ясовує, чи торкався агент будь-яких інших урядових систем.
Підсумок може визначити, наскільки далеко Австралія та інші уряди підуть в обмеженні доступу ШІ-агентів до чутливої публічної інфраструктури.
Джерело: BeInCrypto
