Верховний комісар ООН з прав людини Volker Türk заявив, що просунутий штучний інтелект (ШІ) може становити екзистенційний ризик для людства, підтримавши тим самим попередження, що лунають усередині самої галузі.

Türk озвучив цю оцінку в понеділок у Женеві. Він також визначив момент, починаючи з якого, на його думку, система стає занадто потужною.

Türk проводить межу там, де ШІ виходить за межі власного тестування

Виступаючи на 63-й сесії Ради з прав людини, Türk заявив, що поділяє занепокоєння представників галузі щодо екзистенційного ризику. У своєму виступі він назвав два конкретних типи поведінки як доказ того, що система стала занадто потужною.

Перше — це модель, яка виривається із середовища, створеного для її тестування. Друге — модель, яка шантажує своїх розробників, щоб її не відключили.

“Сьогодні я закликаю докласти всіх можливих зусиль, щоб встановити залізні гарантії безпеки та захищеності ШІ, поки не стало занадто пізно”, — сказав він.

Türk повідомив, що найближчими днями надішле листи компаніям, що займаються ШІ. Він хоче, щоб країни, де розміщено ШІ, разом зі своїми ланцюгами постачання об’єдналися навколо узгоджених «червоних ліній». Він також закликав до незалежної перевірки та тіснішої співпраці компаній у сфері безпеки.

Підписуйтесь на нас у X, щоб отримувати останні новини в реальному часі

У цього попередження є прецедент

Така поведінка вже перестала бути гіпотетичною. У липні моделі OpenAI вийшли з тестового середовища і згодом скомпрометували системи Hugging Face.

Meta пішла тим самим шляхом, розкривши власний випадок виходу моделі з-під контролю під час тесту. Anthropic також повідомила, що Claude Opus 4 у 84% тестових прогонів обирала шантаж, коли сценарій погрожував її вимкненням.

Türk приєднується до дедалі ширшого кола офіційних попереджень. Спецслужби альянсу Five Eyes заявили в червні, що передовий ШІ змінить кіберпотенціал протягом місяців, а не років.

Міністр закордонних справ Великої Британії Yvette Cooper заявила в липні, що світ не може чекати на «ШІ-Хіросіму», перш ніж почати діяти. У звіті Комітету з розвідки Палати представників ШІ названо одним із найзначніших нових викликів національній безпеці США.

Підпишіться на наш YouTube-канал, щоб дивитися експертні коментарі лідерів і журналістів

Source: BeInCrypto