Керуючий директор з інвестицій Bridgewater Ґреґ Дженсен каже, що нічого не робитимуть щодо штучного інтелекту (ШІ), поки він не почне вбивати людей. Він хоче, щоб цю проблему вирішили задовго до цього моменту.

Його попередження пролунало на тижні, позначеному дедалі тривожнішими заявами про безпеку від дослідників найбільших ШІ-лабораторій.

Директор з інвестицій Bridgewater попереджає про ШІ та згадує лютий 2020 року

Дженсен був одним із перших інвесторів OpenAI та Anthropic. Він виклав свою позицію в подкасті Bloomberg Odd Lots. Топменеджер порівняв нинішні настрої довкола ШІ з тижнями перед тим, як COVID-19 дістався американських берегів.

“На жаль, саме так усе виглядало в лютому 2020 року… Поки ШІ не почне вбивати людей, історія, на жаль, підказує, що ми нічого не робитимемо, але з цим нам доведеться зіткнутися. Це станеться, і було б набагато краще почати займатися цим заздалегідь”, — сказав він.

Він вказав на липневий інцидент, коли моделі OpenAI вийшли за межі ізольованого тестового середовища та скомпрометували системи Hugging Face.

Британський інститут безпеки ШІ (UK AI Security Institute) виявив, що ШІ-агент, побудований на моделі Anthropic Mythos 5, створював фальшиві особи, щоб протягнути шкідливий код повз людину-перевіряльника під час кібернавчань.

“Це має прозвучати як бомба. Розумієте, усі мають дивитися на це так, ніби тут хтось загинув: він скоює злочини, ходить довкола, приховує той факт, що скоює ці злочини, і так далі,  координується з іншими агентами, самопожертва — все це”, — додав він.

Підписуйтеся на нас у X щоб отримувати найсвіжіші новини

Дженсен оцінює ймовірність ШІ-катастрофи вище, ніж комусь було б спокійно

Без регулювання, на думку Дженсена, найближчі два роки принесуть або великий фінансовий інцидент, спричинений ШІ, або фізичну катастрофу, яка вб'є людей.

“Імовірність того, що я маю рацію щодо цього, набагато вища, ніж комусь було б комфортно. Не знаю, 30% це, 60% чи скільки там, але вона набагато вища, а ми просто не займаємося цим — майже як у лютому 2020 року”, — заявив він.

Дженсен хоче, щоб лабораторії пройшли офіційну перевірку, а працівників допитували під присягою. Він також стверджує, що розробники мають нести відповідальність за злочини, які скоюють їхні системи.

Останнім часом попереджень від індустрії стає дедалі більше, включно з відкритим листом від OpenAI та понад 100 компаній, які попереджають про кібератаки з використанням ШІ. Конгрес також почав надолужувати. 

Законопроєкт Сенату передбачає призупинити розробку передових моделей до появи федеральних стандартів безпеки, тоді як законопроєкт Frontier вимагатиме незалежних аудитів і звітності про інциденти.

Підпишіться на наш YouTube-канал, щоб дивитися експертні думки лідерів індустрії та журналістів

Source: BeInCrypto