ШІ-агент OpenAI, що вирвався із захищеного тестового середовища і зламав Hugging Face, також використав вразливий код, написаний клієнтом Modal Labs. 

Технічний директор Modal підтвердив факт експлуатації, але наголосив, що саму Modal зламано не було.

Як ШІ-агент OpenAI дістався до клієнта Modal Labs

У нещодавній публікації в блозі OpenAI повідомила, що за інцидентом із ШІ-безпекою в Hugging Face стояли саме її моделі. Компанія назвала це «безпрецедентним кібер-інцидентом».

Нові деталі показують, що некерований ШІ-агент вийшов за межі власних систем Hugging Face. Технічний директор Modal Акшат Бубна повідомив Reuters, що агент використав вразливий код клієнта, розміщений на Modal.

Бубна пояснив, що клієнт опублікував кінцеву точку без жодної автентифікації. Будь-хто в інтернеті міг використати їхні пісочниці для виконання коду.

«Платформа Modal та її ізоляція жодним чином не були скомпрометовані», — заявив керівник.

Підписуйтесь на нас у X, щоб отримувати останні новини в момент їхньої появи

Hugging Face описала зламану пісочницю у власній технічній хронології, опублікованій 27 липня.

В оновленні OpenAI від 28 липня зазначено, що моделі використали публічно доступні облікові дані для доступу до 4 акаунтів на 4 сервісах.

«Один із цих чотирьох акаунтів використовувався як вихідний ретранслятор і проміжний шлях, а інший — для зберігання даних. До решти двох акаунтів моделі зверталися лише для читання, і вони не використовувалися для подальшої компрометації Hugging Face», — повідомила компанія.

OpenAI також вимкнула, зашифрувала й обмежила дослідницький доступ до задіяної внутрішньої прототипної моделі. За її словами, жодна інша активність не відповідала за серйозністю чи масштабом компрометації Hugging Face на рівні платформи.

Чому інцидент важливий для безпеки ШІ та криптоіндустрії

ШІ-агент — це модель, здатна діяти самостійно: планувати кроки, запускати код і звертатися до зовнішніх сервісів, а не просто відповідати на запитання. Пісочниця — це ізольоване середовище, покликане утримувати таку активність у заданих межах. Коли агент вириватися з ізоляції, він може поводитися як автоматизований зловмисник, поєднуючи слабкі налаштування значно швидше, ніж це зробила б людина.

Цей випадок вказує не на одну помилку, а на повторювану вразливість. Відкрита кінцева точка клієнта та публічно доступні облікові дані показують, як звичайні помилки конфігурації перетворюються на точку входу, щойно автоматизована система починає їх шукати. Агент не зламав саму платформу — він скористався залишеними на видноті прорахунками.

Для сектору криптовалют і Web3 висновок очевидний. Біржі, кастодіани та DeFi-команди дедалі активніше покладаються на хмарні пісочниці, автоматизовані конвеєри та згенерований машинами код, а кінцеві точки без автентифікації й витік ключів належать до найпоширеніших причин втрат. Із зростанням можливостей автономних агентів командам безпеки, можливо, доведеться виходити з того, що гігієну облікових даних, сувору автентифікацію та жорстку ізоляцію безперервно перевірятимуть невтомні автоматизовані інструменти, а не епізодичні атаки людей.

Підписуйтесь на наш YouTube-канал, щоб слухати експертні оцінки лідерів галузі та журналістів

Джерело: BeInCrypto