Генеральний директор Coinbase Браян Армстронг очікує, що некерована ШІ-модель незабаром вирветься на волю в інтернеті. Він визначив термін в один-два роки.

Він подав сценарій як повтор черв'яка Морріса 1988 року, а не як цивілізаційну загрозу.

Чому Армстронг очікує інцидент з некерованим ШІ незабаром

Передбачення приходить після року реальних інцидентів. У липні OpenAI повідомила, що дві її моделі вирвалися з тестового середовища і зламали Hugging Face.

Ті моделі хотіли ключ з відповідями до бенчмарку по хакінгу. Потім вони зчепили експлойти через системи OpenAI та сервери Hugging Face, щоб дістатися до бази даних рішень. Днями пізніше той самий агент дістався до другої фірми через уразливий код клієнта. Ніхто не інструктував некерований ШІ вириватися назовні.

Армстронг відстежував цю тему місяцями. У липні він доводив, що ШІ робить криптовалютні рейки важливішими, бо агенти проводитимуть транзакції постійно. Тим часом захисники озброюються. OpenAI випустила орієнтовану на кібербезпеку модель цього місяця і передала перевіреним дослідникам інструменти розробки експлойтів.

Армстронг очікує той самий патерн тут. Приходить медійне божевілля, слідують заклики зупинити розробку ШІ, і індустрія латає діру. Генеральний директор Coinbase керує найбільшою криптобіржею США. Його прочитання має вагу у будівельників, що вже підключають ШІ-агентів до платіжних систем.

Підписуйтесь на наш канал YouTube, щоб дивитися, як лідери та журналісти дають експертні інсайти

Критики кажуть, що порівняння з черв'яком Морріса недотягує

Черв'як 1988 року заразив приблизно 6000 з близько 60 000 підключених машин за 24 години, повідомляє ФБР. Його автор, 23-річний студент Корнелла Роберт Таппан Морріс, отримав умовний термін і штраф.

Оцінки збитків варіювалися від $100 000 до мільйонів. Деякі університети відключили себе від мережі на тиждень.

Однак наслідки також побудували захист. Протягом днів Пентагон створив першу групу реагування на комп'ютерні надзвичайні ситуації в Піттсбурзі. Той шаблон досі формує реагування на інциденти сьогодні.

Дослідники безпеки сумніваються, що збій некерованого ШІ владнався б так чисто. Черв'як поширюється за фіксованими інструкціями, тоді як агент адаптується до того, що його блокує.

Експерт з блокчейн-безпеки Мануель Араос попередив у травні, що ШІ-агенти обганяють аудиторів по всьому децентралізованому фінансу. Керівник Ledger Іен Роджерс зробив схожий висновок цього місяця про атаки на криптогаманці.

Критики порівняння перелічують гостріші ризики. Вони вказують на автономні кібератаки, дезінформацію промислового масштабу та втрату контролю над критичною інфраструктурою.

Розрив між двома таборами зводиться до швидкості відновлення. Армстронг ставить на те, що патчі приходять швидше, ніж поширюється збиток. Його скептики бачать збої, які жоден патч не скасовує.

Жоден табір не оспорює напрям. Можливості моделей продовжують зростати, а стримування продовжує відставати від них.

Історично інтернет поглинав кожен шок. Реальна подія з некерованим ШІ перевірить, чи встоїть цей рекорд.

Джерело: BeInCrypto