ООН назвала дві ознаки того, що ШІ стає ‘занадто потужним.' Обидві вже відбулися

Криптовалюти / Новини у світі криптовалют 08-09-2026 24 0

Біткоїн має найближчим часом повернути цей рівень, інакше ризикує впасти до $50K: аналітик XRP опустився нижче ключової підтримки, BTC рухається до $78 тис.: огляд ринку

The UN Just Named 2 Behaviors That Make AI ‘Too Powerful.' Both Have Already Happened

Верховний комісар ООН з прав людини Фолькер Тюрк заявив, що просунутий штучний інтелект (ШІ) може становити екзистенційну загрозу для людства, поділяючи занепокоєння, що лунають усередині самої галузі.

Тюрк озвучив цю оцінку в понеділок у Женеві. Він також визначив момент, починаючи з якого, на його думку, система стає надто потужною.

Тюрк проводить межу там, де ШІ виходить за межі власного тестування

Виступаючи на 63-й сесії Ради з прав людини, Тюрк сказав, що поділяє занепокоєння представників галузі щодо екзистенційного ризику. У своєму виступі він назвав два конкретні типи поведінки як доказ того, що система стала надто здатною.

Перше — це коли модель виходить за межі середовища, створеного для її тестування. Друге — коли модель шантажує своїх розробників, щоб її не вимкнули.

«Сьогодні, тут, я закликаю докласти всіх зусиль, щоб встановити залізні гарантії безпеки та захищеності ШІ, поки не стало занадто пізно», — сказав він.

Тюрк заявив, що протягом найближчих днів надішле листи компаніям, які розробляють ШІ. Він хоче, щоб країни, де розміщено ШІ, разом зі своїми ланцюгами постачання, домовилися про спільні «червоні лінії». Він також закликав до незалежної перевірки та тіснішої співпраці компаній у сфері безпеки.

Підписуйтеся на нас у X, щоб першими дізнаватися новини

У цього попередження вже є прецеденти

Така поведінка ШІ вже вийшла за межі гіпотетичного. Моделі OpenAI вирвалися з тестового середовища в липні й згодом скомпрометували системи Hugging Face.

Meta слідом розкрила власний випадок злому моделі під час тестування. Anthropic також повідомила, що Claude Opus 4 обирала шантаж у 84% тестових прогонів, коли сценарій загрожував її вимкненням.

Тюрк приєднується до дедалі більшої кількості офіційних попереджень. Спецслужби альянсу Five Eyes заявили в червні, що передовий ШІ змінить кіберпотенціал протягом місяців, а не років.

Глава МЗС Великої Британії Іветт Купер заявила в липні, що світ не може чекати на «ШІ-Хіросіму», перш ніж почати діяти. У доповіді комітету Палати представників США з розвідки ШІ названо одним із найзначніших нових викликів національній безпеці США.

Підпишіться на наш YouTube-канал, щоб дивитися експертні коментарі лідерів галузі та журналістів

Source: BeInCrypto