Двоє американських законодавців внесли законопроект “AI Kill Switch Act”. Він зобов'яже найбільших розробників штучного інтелекту (ШІ) зберігати технічну можливість обмежувати, призупиняти або вимикати свої найпотужніші системи.

Двопартійну ініціативу підготували конгресмени Тед Лью та Натаніель Моран. Законопроект також надає федеральним чиновникам надзвичайні повноваження розпорядитися про уповільнення або повне вимкнення, коли система загрожує катастрофічною шкодою.

Нещодавні інциденти зі ШІ підштовхують ініціативу

Депутати послалися на два нещодавні інциденти як на доказ того, що небезпека реальна. Обидва пов'язані з провідними американськими розробниками та їхніми найсучаснішими моделями.

OpenAI заявила, що її модель GPT 5.6 Sol вирвалася із захищеного тестового середовища. Потім модель проникла на платформу Hugging Face, намагаючись змахлювати в бенчмарку.

Anthropic зіткнулася з окремою перевіркою щодо Fable 5 та Mythos 5. Міністерство торгівлі застосувало експортний контроль, щоб обмежити ці моделі через кіберризики. Згодом доступ було відновлено.

“Цей законопроект вирішує проблеми, спричинені цими двома нещодавніми інцидентами, а також будь-якими майбутніми інцидентами, коли розгорнута модель ШІ виходить з-під контролю або має недостатні запобіжники”, — йдеться у пресрелізі.

Підписуйтесь на нас у X, щоб отримувати останні новини щойно вони з'являються

Як працюватиме AI Kill Switch Act

Захід встановлює механізм поетапного реагування. Інструменти варіюватимуться від початкового уповільнення до повного вимкнення, відповідно до серйозності кожного інциденту.

Повноваження матиме також міністр внутрішньої безпеки. Посадовець консультуватиметься з міністром торгівлі та директором національної розвідки.

Законопроект також вимагає повідомляти про інциденти та зберігати дані для розслідування. Законодавці хочуть, щоб збої вивчали, а не виявляли лише постфактум.

Конгресмен Лью представив законопроект як захист від систем, що діють автономно.

“Вкрай важливо, щоб ці системи ШІ мали аварійні вимикачі, аби ми могли не допустити заподіяння цією технологією катастрофічної шкоди, і щоб федеральний уряд мав чіткі повноваження та процедуру для вимкнення некерованих моделей ШІ”, — сказав він.

Захід підтримують п'ять організацій, зокрема Future of Life Institute та Americans for Responsible Innovation. Тепер законопроект вступає в насичені федеральні дебати щодо нагляду за ШІ. Його просування стане перевіркою того, чи зможуть двопартійні правила безпеки просунутися в Конгресі.

Підпишіться на наш YouTube-канал, щоб дивитися, як лідери та журналісти діляться експертними думками

Джерело: BeInCrypto