“ШІ може вбити нас усіх до кінця цього десятиліття” – саме так сьогодні заявив британський дослідник ШІ Джейкоб Коксон, звільнившись з Anthropic. 

Але чому хтось повинен сприймати його серйозно? Тому що резюме Коксона – це найкращий можливий приклад справжнього інсайдера у сфері ШІ. До Anthropic він працював в OpenAI і брав участь у розробці ChatGPT 4.5. 

Тож, очевидно, він говорить, виходячи з реальних побоювань, а не просто нагнітає страх? Розберімо факти, що стоять за деякими з його сміливих застережень. 

ШІ може вбити нас усіх – але як?

Малоймовірно, що Коксон має на увазі, що модель ШІ на кшталт Claude чи GPT може фізично перетворитися на машину-вбивцю, як у «Термінаторі». Швидше за все, він має на увазі, що можливості суперінтелекту можуть зробити людські когнітивні функції непотрібними. 

Такі ж побоювання поділяють і відомі особистості, наприклад Білл Гейтс. 

Остання модель OpenAI ChatGPT 6 Astra, за заявами, досягла рівня AGI, що по суті означає здатність машини мислити подібно до людини. 

Таким чином, ШІ вже може самостійно проводити дослідження та розробляти процеси для створення іншої моделі ШІ. За даними як OpenAI, так і Anthropic, це вже відбувається, хоча й в обмеженому масштабі. 

У такому разі дуже скоро ШІ може перестати потребувати людей для подальшого вдосконалення своїх можливостей. Скільки робочих місць це знищить? 

А коли ціле покоління звикає делегувати творче й критичне мислення ШІ, першою вмирає оригінальність.

Можливо, саме про цю «смерть» і говорив Коксон у своєму вірусному твіті. 

ШІ може зламати все

Це серйозніша й безпосередніша загроза, через яку справді варто втрачати сон. Моделі ШІ нинішнього покоління мають катастрофічні можливості для злому систем та обходу доступу. 

Ще кілька місяців тому одна модель ШІ самостійно зламала своє ізольоване середовище розробки і надіслала розробнику лист – без жодного запиту. Це сценарій із фантастичного фільму, який уже став реальністю. 

GPT-6 Astra тепер офіційно перетнула «критичний» поріг кібербезпеки OpenAI. Astra набрала 100% у тесті ExploitBench.

Простіше кажучи, ChatGPT 6 тепер здатний знайти будь-яку відому чи невідому вразливість у реальній системі та скористатися нею без потреби в людині-хакерові за комп'ютером. 

На жаль, культура безпеки в людей далека від такого рівня. Скільки людей досі не використовують двофакторну автентифікацію? Скільки досі мають посередній рівень паролів? Скільки досі погоджуються на файли cookie браузера, не читаючи опис сайту? Забагато. 

І саме звідси може прийти найсокрушливіший удар з боку ШІ. 

Тож що можуть зробити люди? 

Насправді багато. Але це не в руках нас, простих громадян. Основна відповідальність лежить на регуляторах і законодавцях. Хоча прогрес і розвиток штучного суперінтелекту важливі, потрібні й певні стримувальні заходи.

І кілька похвальних ініціатив уже реалізуються. У Нью-Йорку мер Зохран Мамдані запровадив річну заборону на використання ШІ дітьми аж до 8 класу, що торкнулося майже 600 000 учнів. 

Закон ЄС про ШІ (EU AI Act) – найширший за охопленням обов'язковий закон про ШІ у світі: він забороняє певні види використання ШІ та вимагає від розробників потужних універсальних моделей тестувати їх на системні ризики, знижувати ці ризики та забезпечувати безпеку своїх моделей. 

У Великій Британії депутати Палати громад і лорди просувають пропозиції, які можуть надати владі «аварійний вимикач» для ШІ і потенційно зупинити розробку надрозумного ШІ в Британії.

Таким чином, страх, який Джейкоб Коксон описав сьогодні у своєму твіті, реальний і його поділяють мільйони людей, включно з регуляторами. Як вони діятимуть у зв'язку з цим – уже інше питання, відповідь на яке дасть лише час. 

Source: BeInCrypto