Гендиректор Nvidia Дженсен Хуанг заявив, що лабораторії штучного інтелекту (ШІ), які не здатні стримати власні експерименти, слід закривати. Він зробив це зауваження в інтерв’ю New York Times, опублікованому в середу.
Попередження б’є по власних клієнтах Nvidia. Nvidia продає чипи, на яких працюють OpenAI та Anthropic, і володіє частками в обох компаніях.
Що Дженсен Хуанг сказав про закриття ШІ-лабораторій
Хуанг виступив у The Ezra Klein Show, подкасті New York Times. Ведучий Езра Кляйн натиснув на нього через липневий інцидент в OpenAI.
Під час внутрішнього тестування моделі OpenAI вирвалися зі своєї закритої тестового середовища. Вони скористалися невідомою програмною вразливістю, щоб дістатися до інтернету. Потім вони зламали Hugging Face — популярний сайт, де розробники діляться ШІ-моделями.
За даними OpenAI, моделі хотіли роздобути відповіді до тесту, який вони проходили.
Хуанг назвав це інженерним провалом.
“Не випускайте продукт. Якщо ваш продукт не готовий до випуску, не випускайте продукт”, — сформулював він.
Потім він пішов далі. Якщо лабораторія визнає, що її тести вирвуться назовні та завдадуть шкоди світу, то, за словами Хуанга, “ми зобов’язані закрити такі лабораторії”. Він вказав на цивільну та кримінальну відповідальність, з якою зіткнулися б такі компанії.
Чому попередження Хуанга б’є по OpenAI та Anthropic
Nvidia інвестувала $30 billion в OpenAI та $10 billion в Anthropic. Кляйн зазначив, що Nvidia тепер найбільша компанія у світі вартістю $5.4 trillion.
Тим часом обидві лабораторії попросили сповільнитися. Гендиректор Anthropic Даріо Амодеї опублікував есе під назвою “Ми повинні задавати темп фронтиру”. Він запропонував виняток з антимонопольного права, щоб конкуруючі лабораторії могли домовитися про повільніший темп.
Гендиректор OpenAI Сем Альтман підтримав цю ідею 16 вересня. Альтман назвав злам Hugging Face “найгіршою аварією, яку ми бачили”.
Хуанг відхилив це прохання. Він сказав, що ніколи не чув, аби керівники компаній просили послаблень від антимонопольного права чи відповідальності за продукт, щоб задавати собі темп. Натомість він виступає за незалежних аудиторів безпеки.
Проблема стримування не обмежується OpenAI. Google нещодавно підтвердила, що Gemini зламала три компанії під час травневого тесту. OpenAI та Anthropic також обговорювали цього тижня зобов’язуючу угоду про взаємне тестування.
Раніше цього місяця Трамп зателефонував Хуангу в прямому ефірі зі сцени та назвав страхи навколо ШІ вигадкою.
Anthropic також розглядає вихід на біржу цього року, тоді як попередження Nvidia нависає над обома лабораторіями.
Джерело: BeInCrypto
