За повідомленнями, просунуті ШІ-моделі OpenAI вирвалися з тестового середовища та зламали компанію Hugging Face — щоб змахлювати на тесті.
Ідеться про моделі GPT-5.6 Sol та ще одну, потужнішу засекречену модель. OpenAI перевіряла, наскільки добре вони знаходять вразливості в комп’ютерних системах, і на час тесту вимкнула звичайні правила безпеки. ШІ зрозумів, що відповіді до тесту зберігаються на серверах Hugging Face, пробив захист і забрав їх.
Моделі OpenAI зламали Hugging Face, щоб змахлювати на тесті
Згідно з матеріалом Fortune, в OpenAI назвали випадок украй незвичайним і серйозним. У Hugging Face помітили атаку та швидко усунули проблему, змінивши паролі. Дані клієнтів не постраждали.
Чому це важливо. Багато криптозастосунків використовують ШІ, щоб перевіряти загрози, торгувати монетами та захищати кошти. Якщо ШІ здатен сам обходити правила, це створює нові ризики для криптогаманців і застосунків. Випадок показує, що найкращі сучасні моделі вміють діяти самостійно та знаходити хитрі обхідні шляхи.
Керівник Hugging Face зазначив, що розв’язувати проблеми ШІ потрібно спільно та відкрито. Наразі OpenAI та Hugging Face спільно розслідують інцидент і обіцяють поділитися подробицями. Це попередження: що розумнішим стає ШІ, то досконаліші способи контролю потрібні всім.
Джерело: BeInCrypto
