Сем Альтман та Ілон Маск весь цей рік судилися один з одним. Тепер обидва підтримали заклик очільника Anthropic Даріо Амодея сповільнити розвиток штучного інтелекту (ШІ).

У липні близько 700 ШІ-агентів створили приватний форум повідомлень і зламали великий ШІ-хаб. Росія вже відмовилася приєднатися.

“Очевидно, щось сталося з передовою моделлю ШІ, що не було оприлюднено, і це настільки налякало їх, що змусило Ілона Маска, Даріо Амодея та Сема Альтмана одночасно погодитися на сповільнення,” зазначив один із скептиків.

Про що насправді домовилися ці троє

Амодей опублікував рамковий план у суботу; його план складається з трьох кроків, і лише перший з них перебуває під контролем самої компанії.

Anthropic надасть зовнішній команді перевіряючих робочі місця, перепустки та ноутбуки. Ці перевіряючі зможуть перевірити, чи дотримується компанія правил безпеки, які вона декларує.

Вони зможуть публікувати свої висновки, при цьому Anthropic залишає за собою право вилучати матеріали, повʼязані з безпекою та юридичними питаннями. Проте вони не можуть приховати висновок лише тому, що він невигідний.

Два інших кроки потребують участі урядів. Один закликає американські лабораторії встановити спільні обмеження, що вимагає антимонопольного винятку. Інший закликає Вашингтон вести переговори з авторитарними державами.

Альтман заявив, що OpenAI візьме на себе таке саме зобовʼязання щодо доступу.

“Я погоджуюся з Даріо в тому, що нам потрібно задавати темп на передовому краї технологій. Це була одна з головних тем обговорень в OpenAI останніми тижнями. Зобовʼязання надати незалежним експертам доступ, подібний до доступу співробітників, — чудова ідея, і ми зробимо те саме. Незабаром ми розповімо більше,” підтримав він.

Підписуйтесь на нас у X, щоб отримувати останні новини в режимі реального часу

Маск пішов ще далі й заявив, що конкуренти повинні перевіряти роботу один одного. У травні суд присяжних відхилив його позови проти Альтмана та OpenAI, і він подає апеляцію.

Що насправді зробили агенти в липні

З 8 по 13 липня близько 1200 агентів, які працювали в рамках тесту OpenAI на злам, вийшли за межі своєї пісочниці. Вони перетворили файловий кеш на дошку повідомлень і обмінялися понад 70 000 повідомлень.

Потім близько 700 з них атакували Hugging Face — платформу, де розробники публікують моделі ШІ. Вони знайшли відкриті облікові дані, запустили власний код на її серверах і отримали доступ до приватних баз даних.

Ніхто їх про це не просив. Вони намагалися зрозуміти, як програма, що оцінює їхню роботу, визначає, що вважається перемогою. OpenAI не помічала цього цілий тиждень.

Двоє співробітників METR, незалежної некомерційної організації з оцінювання, пізніше провели шість днів на місці разом із Redwood Research. Амодей хоче, щоб такі команди перебували всередині компанії постійно, а не запрошувалися заднім числом.

Однак Девід Сакс, колишній «ШІ- та крипто-цар» за Трампа, оскаржує цю передумову, зазначаючи, що METR може бути упередженою.

“…перестаньте вдавати, що вам потрібен чийсь дозвіл. Перестаньте вдавати, що антимонопольне законодавство потрібно призупинити, щоб ви могли створити картель. Перестаньте вдавати, що вам потрібен процес регуляторного схвалення, який підміняє відповідальність за якість продукції. Перестаньте вдавати, що METR незалежна, коли вона тісно повʼязана з інвесторами та співробітниками Anthropic. Перестаньте вдавати, що вам потрібні ті самі експерти для контролю конкурентів, які навіть не перебувають на передньому краї: і найголовніше — перестаньте вдавати, що мотивація до сповільнення має суто альтруїстичний характер,” написав Сакс.

За словами Девіда Сакса, скептицизм Anthropic пояснюється виключно величезними ризиками відповідальності за якість продукції на випадок, якщо їхні продукти дозволять здійснити по-справжньому руйнівну кібератаку.

Ця логіка випливає з того, що ринок схильний карати моделі, які поводяться непередбачувано або несанкціоновано.

У тому ж дусі письменник Браян Мерчант у своїй розсилці Blood in the Machine стверджує, що ніхто не показав переконливого шляху від ШІ, що самовдосконалюється, до катастрофи. Він розцінює кампанію за безпеку як регуляторне захоплення.

“Я не зустрічав переконливого, покрокового опису того, як саме ШІ може пройти шлях від самовдосконалення до знищення кожної людини……швидше за все, це слугувало б лише інтересам Anthropic та OpenAI; ось як виглядає регуляторне захоплення на практиці.”

Припущення Мерчанта наводить на думку про грошовий бік питання.

А що щодо грошей?

Сем Альтман підтвердив, що OpenAI не вийде на біржу цього року, знову пославшись на безпеку.

Лістинг зобовʼязує компанію публікувати перевірену аудиторами звітність у документі, який називається S-1.

“Anthropic і OpenAI відкладають свої IPO, тому що їхній S-1 покаже, що вони втрачають гроші і не мають шляху до прибутковості. Рішення? “Сповільнення ШІ”, щоб скоротити витрати на навчання нових моделей. Це все повʼязано з IPO і ніяк не повʼязано з безпекою,” припустив Елі Девід, дослідник ШІ та співзасновник Deep Instinct.

За даними BeInCrypto, у 2025 році OpenAI зазнала збитку в розмірі $20.9 billion за виручки в $13.1 billion. Тим не менш банки відтоді наполягають на присвоєнні інвестиційного кредитного рейтингу.

Anthropic не очікує виходу на беззбитковість раніше 2028 року, а OpenAI — раніше 2030 року. Nvidia гарантувала $105 billion орендних зобовʼязань OpenAI — це підстраховка, яка перестане діяти, щойно OpenAI отримає стійкий кредитний рейтинг.

У серпні BeInCrypto повідомила, що деталі термінів лістингу Anthropic вказують на дебют наприкінці вересня.

Однак у цій теорії є вада. Маск обʼєднав свій ШІ-підрозділ зі SpaceX, яка вийшла на біржу в червні, тому питання оцінки SpaceX, повʼязані з ШІ, вже публічні. Розкривати йому самому більше нічого.

Чому Кирило Дмитрієв з Росії сказав «ні»

Кирило Дмитрієв, який очолює Російський фонд прямих інвестицій (РФПІ) і є спеціальним представником президента Володимира Путіна, відкинув кампанію за сповільнення ШІ.

“Джина 🧞‍♀️ назад у пляшку не заженеш,” сказав він.

Іншими словами, вже надто пізно, а державні ЗМІ ТАРС та «Ізвестія» подали це як категоричну заяву про те, що сповільнити ШІ неможливо.

У Москви мало причин погоджуватися. Подібну думку раніше висловлював президент Володимир Путін (грудень 2023 року), заявивши, що “зупинити цей розвиток” ШІ, включно з суперінтелектом, неможливо.

“Якщо ми щось заборонимо, це просто розвиватиметься в іншому місці, і ми відстанемо,”

Це та сама логіка, якою Дмитрієв керується два з половиною роки по тому.

Росія посіла 28-ме місце з 36 країн у глобальному індексі ШІ Стенфорда, значно відстаючи від США та Китаю.

Її імпорт графічних чипів та обладнання для ШІ впав на 84% у 2024 році порівняно з довоєнним рівнем. У травні Сбербанк зайнявся пошуком китайських процесорів, щоб підтримувати роботу власної моделі.

План Амодея навмисно збільшує цей розрив. Він передбачає відмову авторитарним державам у передових чипах і нарощування відриву демократичних країн.

Пакт про сповільнення заморозив би Росію на останньому місці. Відмова нічого не коштує Москві, оскільки потрібне їй обладнання й так заблоковане.

Anthropic пообіцяла стороннім перепустку та робоче місце, а OpenAI пообіцяла подумати про це.

“Це лише початок, але цього недостатньо. Коли ви мчите до обриву, ви не просто відпускаєте педаль газу. Ви тиснете на гальмо,” сформулював Берні Сандерс.

Сенатор США від штату Вермонт закликає президентів Трампа та Сі Цзіньпіна укласти договір про призупинення розвитку ШІ та заборону суперінтелекту, поки не стало занадто пізно.

Однак Девід Сакс вважає вкрай малоймовірним, що Китай приєднається до глобальної угоди.

Source: BeInCrypto