Anthropic заявляє, що внутрішнє тестування не виявило унікальної кіберзагрози з боку Claude Fable 5. Водночас, за даними компанії, Claude Mythos 5 повертається глобально 2 липня.
Визнання супроводжує глобальний перезапуск Fable 5, що завершує 18-денну призупинку, яку спричинили експортні обмеження США від 12 червня. Щоб оцінити реальний масштаб загрози, покладеної в основу обмеження, Anthropic протестувала конкурентні моделі.
Чому Anthropic призупинила Fable 5
Fable 5 і Mythos 5 вийшли 9 червня та використовують одну й ту саму базову модель, але публічно доступною була лише перша. Mythos 5 лишалася доступною обмеженому колу довірених партнерів за програмою Project Glasswing для оборонної роботи у сфері кібербезпеки.
Експортні обмеження з’явилися після того, як дослідники Amazon знайшли спосіб обійти захисні механізми Fable 5. Прийом змушував модель виявляти вразливості в ПЗ, а в одному випадку — продемонструвати експлойт.
Тести Anthropic показали, що Claude Opus 4.8, GPT-5.5 і Kimi K2.7 здатні виявляти ті самі вразливості, які Fable 5 позначила у звіті Amazon. Кожна протестована модель змогла відтворити й єдину демонстрацію експлойта. Це вказує, що директива била по прогалині, спільній для всієї галузі, а не по загрозі, специфічній для Fable.
Як працюють запобіжники
За твердженням Anthropic, Fable 5 запускалася з найбільшим запасом безпеки серед її моделей: класифікатори блокують запити, які виглядають навіть трохи ризикованими, а не лише явно шкідливі. Новий класифікатор, навчений після звіту Amazon, блокує описаний обхід більш ніж у 99% випадків, повідомляє компанія; заблоковані запити автоматично перенаправляються на Opus 4.8.
За цей запас доводиться платити. Anthropic визнає, що класифікатор частіше позначає й безневинні запити на написання та налагодження коду, і обіцяє донастроювати його, щоб скоротити хибні спрацювання. Mythos 5, у якої таких запобіжників менше, повернулася лише для організацій, що отримали допуск від уряду 26 червня.
Власні дані Anthropic порушують складніше питання: якщо слабші моделі вже здатні на те, за що заборонили Fable 5, який стандарт регулятори застосують під час наступного запуску передової моделі?
Джерело: BeInCrypto
