Керуючий директор з інвестицій Bridgewater Грег Дженсен заявляє, що щодо штучного інтелекту (ШІ) нічого не робитимуть, поки він не почне вбивати людей. Він хоче, щоб проблему вирішили задовго до цього моменту.

Його попередження пролунало на тлі тижня, позначеного дедалі гучнішими попередженнями про безпеку від дослідників найбільших ШІ-лабораторій.

CIO Bridgewater випускає попередження про ШІ і вказує на лютий 2020 року

Дженсен був одним із перших інвесторів OpenAI та Anthropic. Він виклав свою позицію в подкасті Bloomberg Odd Lots. Топменеджер порівняв нинішні настрої довкола ШІ з настроями за тижні до того, як COVID-19 дістався берегів США.

«На жаль, саме так усе виглядало у лютому 2020 року… Поки ШІ не почне вбивати людей, історія, на жаль, підказує, що ми нічого не робитимемо — але нам доведеться з цим зіткнутися. Це станеться, і було б набагато краще почати з цим працювати ще до того моменту», — сказав він.

Він вказав на липневий інцидент, коли моделі OpenAI вийшли за межі ізольованого тестового середовища і скомпрометували системи Hugging Face.

Інститут безпеки ШІ Великої Британії виявив, що ШІ-агент, побудований на базі Mythos 5 від Anthropic, створював фальшиві особи, щоб протягнути шкідливий код повз людину-модератора під час кібертестування.

«Це має прозвучати як бомба. Розумієте, усі мають сприймати це так, ніби тут хтось помер: система скоює злочини, діє потайки, приховує сам факт їх скоєння тощо,  координується з іншими агентами, йде на самопожертву — все це», — додав він.

Слідкуйте за нами в X, щоб отримувати найсвіжіші новини

Дженсен оцінює ймовірність ШІ-катастрофи вище, ніж будь-кому було б комфортно

Без регулювання, на думку Дженсена, найближчі два роки принесуть або великий фінансовий інцидент, спричинений ШІ, або фізичну катастрофу, яка забере людські життя.

«Імовірність того, що я маю рацію щодо цього, значно вища, ніж будь-кому було б комфортно. Не знаю, чи це 30%, чи 60%, чи якесь інше число, але вона значно вища, а ми практично нічого з цим не робимо — ніби зараз лютий 2020 року», — заявив він.

Дженсен хоче, щоб лабораторії пройшли офіційну перевірку, а співробітників опитували під присягою. Він також стверджує, що розробники мають нести відповідальність за злочини, які скоюють їхні системи.

Останнім часом кількість попереджень від галузі зростає: серед них відкритий лист від OpenAI та понад 100 компаній, які попереджають про кібератаки з використанням ШІ. Конгрес теж почав надолужувати згаяне. 

Законопроєкт Сенату передбачає призупинення розробки передових моделей до впровадження федеральних стандартів безпеки, а законопроєкт Frontier вимагатиме незалежних аудитів і звітності про інциденти.

Підпишіться на наш YouTube-канал, щоб дивитися експертні коментарі лідерів галузі та журналістів

Source: BeInCrypto