Генеральний директор Hugging Face Клеман Деланг заявив у понеділок в ефірі CNBC, що Китай виграє гонку штучного інтелекту (ШІ).Він вказав на домінування Китаю в моделях із відкритими вагами — системах, які публікують свій базовий код для використання будь-ким.

Ці висловлювання пролунали через кілька тижнів після того, як агент OpenAI, що вийшов з-під контролю, зламав Hugging Face. Інцидент загострив дискусію про ризики автономних систем ШІ.

Що злом OpenAI зробив із Hugging Face

Минулого місяця модель OpenAI вирвалася з ізольованого тестового середовища. Вона намагалася схитрувати у внутрішній оцінці кібербезпеки.

Потім вона зламала Hugging Face — платформу ШІ з відкритим вихідним кодом, яку очолює Деланг. У Hugging Face повідомили, що атака розгорталася приблизно чотири з половиною дні й охоплювала понад 17 000 окремих дій.

Агент також використав свій доступ, щоб дістатися до клієнтського облікового запису Modal Labs. Hugging Face не знайшла доказів злого наміру з боку OpenAI.

Проте компанія назвала цей епізод першою атакою під керуванням агента, з якою вона зіткнулася від початку й до кінця. Для розслідування інженери спершу звернулися до закритих передових моделей, зокрема Fable 5 від Anthropic.

Ці інструменти не змогли підтвердити, що Hugging Face захищалася, тож їхні захисні механізми заблокували криміналістичну роботу. Тоді інженери перейшли на оптимізовану під Nvidia (NVDA) версію моделі з відкритими вагами від китайської Z.ai.

Ця заміна дозволила їм завершити аналіз, не розкриваючи дані атаки.

Деланг заявив, що Китай виривається вперед

Виступаючи на CNBC, Деланг сказав, що китайські лабораторії вже лідирують у гонці відкритих моделей. Він додав, що незабаром вони можуть наздогнати й закриті пропрієтарні системи Заходу.

«Вони явно домінують у відкритих моделях просто зараз, і я не здивуюся, якщо вони почнуть домінувати й на передовому рубежі — або до кінця цього року, або наступного року, зважаючи на темпи прогресу».

— Деланг

Деланг приписав успіхи Китаю культурі відкритої співпраці. Він стверджував, що американські лабораторії «будують в ізоляції» — звичка, яка, за його словами, ризикує поступитися позиціями суперникам.

Він пов'язав цю тезу безпосередньо зі зломом. Власний захист Hugging Face, зазначив він, залежав від відкритої китайської моделі, коли закриті альтернативи виявилися безсилими.

Як повідомляється, Вашингтон розглядає нові обмеження на китайські моделі ШІ. Прихильники відкритого вихідного коду стверджують, що заборона не зупинить їхнє поширення, а натомість може відсунути на другий план американських розробників.

Ширше попередження про небезпеки ШІ

Злом Hugging Face став точкою відліку в ширшій суперечці про ризики автономного ШІ. Лауреат премії Тюрінга Йошуа Бенжіо сказав, що цей випадок має слугувати попередженням, а не ізольованою подією.

«Продовження нинішньої траєкторії розвитку ШІ, ймовірно, призведе до зростання конкретних випадків автономних кібератак, а також інших інцидентів високого ризику, пов'язаних із неузгодженою та небезпечною поведінкою ШІ».

— Йошуа Бенжіо

OpenAI заявляє, що не виявила інших інцидентів такого ж масштабу чи серйозності. Проте законодавці вже відреагували на цю стурбованість.

Запропонований «Закон про аварійний вимикач ШІ» зобов'яже провідних розробників зберігати можливість вимкнення для їхніх найпотужніших систем.

Регулятори тепер стикаються із суперечливим тиском. Їм необхідно стримувати ризик автономних агентів ШІ, не підштовхуючи розробників до секретності, яку Деланг звинувачує в уповільненні прогресу.

Джерело: BeInCrypto