Американські законодавці відповіли на звільнення дослідника Anthropic новою спробою зупинити розвиток передового штучного інтелекту (ШІ), включно із законопроєктом Сенату про повну заборону суперінтелекту.

Джейкоб Коксон звільнився 9 вересня і заявив, що Anthropic та OpenAI ризикують людськими життями. 

Чому звільнення дослідника Anthropic дійшло до Капітолійського пагорба

Понад 20 законодавців відповіли в цій гілці, більшість закликали до нового законодавства щодо ШІ. Сенатор Берні Сандерс заявив, що внесе законопроєкт про заборону суперінтелекту та призупинення розвитку ШІ. 

BeInCrypto повідомив, що раніше цього місяця Сандерс і конгресмен Ґреґ Касар запропонували «Ban Artificial Superintelligence Act». Законопроєкт назавжди заборонив би розробку та розгортання суперінтелектуального ШІ. Він також призупинив би розробку передового ШІ, доки федеральний регулятор не встановить стандарти безпеки.

Тим часом Касар також назвав ситуацію надзвичайною і попросив провести слухання в Конгресі. Конгресвумен Лорі Трахан знову звернула увагу законодавців на свій двопартійний законопроєкт FRONTIER Act, внесений у липні разом із конгресменом Джеєм Обернольте.

«FRONTIER Act встановлює багаторівневі вимоги залежно від масштабу розробника передового ШІ, включно з картками моделей, системами управління ризиками, незалежними аудитами, звітністю про інциденти та постійними оцінками. Він також створює єдиний національний стандарт прозорості, аудиту та звітності щодо катастрофічних ризиків, щоб запобігти клаптиковому регулюванню на рівні штатів», — йдеться в заяві.

Сенатор Кріс Ван Холлен хоче запровадження обов'язкових гарантій безпеки та термінових переговорів із Китаєм. Конгресмен Тед Лью наполягав, щоб керівництво республіканців просунуло внесений ним цього року законопроєкт про «аварійний вимикач» для ШІ.

Конгресвумен-республіканка Анна Поліна Луна відійшла від партійної лінії і зажадала скликання спеціальної сесії Конгресу щодо ШІ.

Підписуйтесь на нас у X, щоб отримувати останні новини в режимі реального часу

Джейкоб Коксон стверджує, що лабораторії самі хочуть регулювання

Тим часом тиск має не лише політичний характер. Компанії у сфері ШІ також виступають за регулювання. Коксон розповів CNN, що керівники, які просять Конгрес про регулювання, щирі. Однак, за його словами, жоден з них не довіряє конкурентам настільки, щоб першим сповільнити темп.

«Ці люди також цілком щирі, коли просять, щоб їх регулювали… вони опиняються в ситуації, коли змушені брати участь у перегонах зі створення смертоносної технології», — сказав він.

Окремо Anthropic заявила у вересневому пості, що галузі пішов би на користь законний, перевірюваний механізм узгодженого темпу розвитку.

З чого починається ризик вимирання

Темп має значення лише через те, що, на думку Коксона, станеться далі. Він пояснив, що якщо ШІ доручити завдання досліджень у сфері ШІ, він починає вдосконалювати сам себе.

Він вказав на вівторок, коли системи ШІ OpenAI, за повідомленнями, розв'язали проблему тисячоліття повністю автономно.

Найстрашніше, за його словами, — це той самий метод, спрямований на сам ШІ. Моделі вдосконалюють моделі без участі людини, і саме це Коксон називає «вибухом інтелекту».

«Наразі ризику вимирання немає. Найгірше, на що здатні нинішні моделі, — це, мабуть, щось зламати, потенційно завдати чималої шкоди інфраструктурі… вони недостатньо розумні, щоб перехитрити нас на рівні, який призвів би до вимирання», — сказав він.

Тим не менш Коксон попередив, що та сама самостійна воля в поєднанні з набагато більшими можливостями може спричинити крайній хаос. Він назвав злам критичної інфраструктури та створення біозброї, здатної призвести до вимирання. 

Підпишіться на наш YouTube-канал, щоб дивитися, як лідери та журналісти діляться експертними думками

Source: BeInCrypto