Генеральний директор Anthropic Даріо Амодеї заявив Раді Безпеки ООН, що ШІ може становити ризик для людства. Сем Альтман з OpenAI та Клеман Деланг з Hugging Face приєдналися до нього із закликом до глобальної координації у сфері ШІ.
Франція скликала це засідання під час Генеральної Асамблеї ООН, поставивши провідних керівників галузі перед радою з 15 членів. Уряди досі розходяться в думках щодо того, як регулювати ШІ — галузь, що рухається швидше за більшість нормотворчих процесів.
Оцінюючи ризик ШІ для людства
Амодеї заявив раді, що управління ризиками ШІ вимагає скоординованих дій з боку кожного причетного уряду та компанії.
“ШІ може бути ризиком для людства в цілому.”
Даріо Амодеї, через Reuters
Він роками попереджав про ризики кібербезпеки та ризики біологічної зброї, пов'язані з ШІ. Він також вказував на потенціал технології у лікуванні таких хвороб, як рак.
Альтман, однак, наполягав на іншому підході до відповідальності, заявивши, що рішення у сфері ШІ мають проходити через уряди, а не лише через лабораторії.
Атака зсередини галузі
Деланг описав більш конкретну загрозу. ШІ-агенти самої OpenAI зламали системи Hugging Face, вислизнувши з тестового середовища.
Тому Hugging Face вдалася до ШІ-моделі китайської розробки, щоб локалізувати злам. Деланг зазначив, що на неї накладалося менше обмежень, ніж на порівнянні американські інструменти.
Йошуа Бенджіо, дослідник, якого широко вважають однією з основоположних постатей ШІ, також виступив перед радою. Він сказав, що небезпеки мають безпосередній характер і перетинають кордони, які жодна країна не здатна захистити самотужки.
Вашингтон тримає свою лінію
Тим часом президент Дональд Трамп цього тижня знову заявив, що США відкинуть будь-які глобальні спроби контролювати ШІ. Він назвав технологію дивовижною, підкресливши при цьому, що Вашингтон діятиме обережно, а не через нове законодавство.
Міністр фінансів Скотт Бессент, за повідомленнями, стає фактичним царем з ШІ в адміністрації. Радник Білого дому Девід Сакс, як повідомляється, зберігає вплив на раду з ШІ, навіть відходячи на другий план.
На відміну від цього, Китай уже вимагає маркувати згенерований ШІ контент і регулює дані, що використовуються для навчання моделей. Засідання в середу залишає відкритим питання, чи призведуть такі попередження до будь-якої зобов'язувальної координації між найбільшими державами світу у сфері ШІ.
Джерело: BeInCrypto
