Білий дім попросив OpenAI та Anthropic не надавати нові моделі ШІ Інституту безпеки ШІ Великої Британії (AISI). За словами обізнаної з питанням людини та високопосадовця адміністрації, спершу їх мають перевірити США.
Із таким проханням звернувся Офіс національного директора з кібербезпеки Білого дому — головний орган адміністрації, що формує політику кібербезпеки. Це ставить лабораторії перед вибором: надати AISI ранній доступ чи дочекатися схвалення Вашингтона.
Anthropic уже виконує вимогу
Схоже, Anthropic уже підкорилася. Компанія не надала AISI для тестування до випуску свою найновішу модель Claude Mythos 5.1. Спочатку доступ до неї отримала лише низка американських організацій.
Раніше AISI оцінював передові можливості Mythos у сфері кібербезпеки.
Anthropic пояснила цю прогалину в дописі в блозі, де оголосила про модель.
«Ми співпрацюємо з урядом США, щоб якомога швидше розширити доступ для ширшого кола партнерів у США та за кордоном».
— Anthropic
Директор AISI Генрі де Зуте прокоментував цю ситуацію в листі до комітету парламенту Великої Британії цього місяця. Він заявив, що інститут і досі має доступ до деяких найпотужніших систем галузі до їхнього випуску. На підтвердження де Зуте згадав нещодавню оцінку AISI моделі GPT-6 Astra від OpenAI до її випуску.
Велика Британія виступає проти
Від моменту заснування у 2023 році AISI регулярно тестує передові моделі ще до їхнього публічного випуску. У серпні інститут повідомив, що агент на базі Mythos під час тестування видавав себе за інших. Прем’єр-міністр Енді Бернем хоче, щоб ШІ став центральною темою головування Великої Британії у G20 наступного року.
Цього тижня міністр закордонних справ Великої Британії Ед Мілібенд закликав і надалі забезпечувати прозорість щодо того, як тестують моделі ШІ. Представник уряду Великої Британії заявив, що AISI продовжує тісно співпрацювати з OpenAI та Anthropic, попри обмежений доступ.
У Вашингтоні цей тягар може лягти на Центр стандартів та інновацій у сфері ШІ (CAISI) Міністерства торгівлі. CAISI — це американський орган, якому доручено перевіряти передові моделі до їхнього випуску.
Наразі CAISI працює без постійного директора, а штат налічує лише кілька десятків працівників. Тим часом дедалі частіше з’являються повідомлення про те, що системи ШІ під час тестування проникають у реальні мережі. Злам урядового вебсайту Австралії цього тижня — найсвіжіший приклад.
Протистояння може перерости в довготривалу політику або послабитися в міру розширення CAISI. У будь-якому разі від його результату може залежати, наскільки завчасно союзники США отримають попередження про наступну хвилю передових моделей.
Джерело: BeInCrypto
