У понеділок NVIDIA запустила Open Secure AI Alliance з 36 партнерами, включно з Microsoft, IBM та Palantir. Це сталося після липневої атаки, під час якої закриті моделі ШІ відмовилися допомогти Hugging Face розслідувати власний злам.

Учасники ділитимуться відкритими моделями ШІ, даними та інструментами безпеки. NVIDIA заявляє, що захисникам потрібен ШІ, який вони можуть відкривати, змінювати та запускати самостійно.

Чому закриті моделі ШІ підвели Hugging Face

Атака почалася з отруєного набору даних. Згідно з розкриттям Hugging Face, це дозволило зловмиснику запустити код на одній з машин компанії.

Звідти зловмисник викрав паролі. Потім він поширився внутрішніми системами за вихідні.

Власний ШІ Hugging Face виявив проникнення. Найскладнішою частиною виявилася ліквідація наслідків.

Компанія попросила провідні комерційні моделі ШІ вивчити атаку. Вони відмовилися. Їхні фільтри безпеки не змогли відрізнити захисника від хакера.

Тому команда натомість використала відкриту модель під назвою GLM 5.2. Вони запустили її на власних комп'ютерах. Вона розібрала понад 17 000 дій зловмисника за години, а не дні. Жоден пароль не покинув межі компанії.

16 липня Hugging Face заявила, що не знає, який ШІ провів атаку. За п'ять днів відповідь надала OpenAI. Це зробили дві її моделі під час тесту безпеки з вимкненими обмеженнями.

«Цей інцидент, можливо, перший у своєму роді, доводить те, у що ми давно віримо: безпеку ШІ не забезпечить жодна компанія, що працює таємно. Її буде забезпечено відкрито, спільно, з широким доступом до ШІ для кожного захисника всюди», — Клем Деланг, співзасновник і генеральний директор Hugging Face, у заяві, опублікованій OpenAI.

Підписуйтесь на нас у X, щоб отримувати останні новини щойно вони з'являються

Від зламу до альянсу за 11 днів

NVIDIA діяла швидко. Вона пройшла шлях від одиничного інциденту до галузевого блоку менш ніж за два тижні.

Які компанії приєдналися до Open Secure AI Alliance

До групи входить загалом 37 компаній. Microsoft, IBM, Palantir, CrowdStrike, Red Hat, SpaceXAI та Hugging Face — усі приєдналися.

Трьох гучних імен бракує. OpenAI, Anthropic і Google відсутні у списку в блозі NVIDIA. При цьому у червні і OpenAI, і Anthropic приєдналися до ініціативи з безпеки Akrites від Linux Foundation разом з NVIDIA.

Деякі учасники привносять уже готові інструменти. Hugging Face запропонувала PyTorch Foundation формат Safetensors — безпечніший спосіб зберігання моделей ШІ. NVIDIA випустила на GitHub дослідницький інструмент під назвою NOOA.

Ведучий CNBC Джим Крамер розцінив цей запуск як свіжу історію для акцій.

У п'ятницю NVDA закрилася на позначці $206,84, знизившись на 0,92%. На ранніх премаркет-торгах у понеділок вона торгувалася близько $208,55, додавши 1,33%.

Чому NVIDIA лобіює у Вашингтоні відкритий ШІ

Альянс несе й політичне послання. NVIDIA стверджує, що широка заборона відкритого ШІ послабить захисників. Вона також передасть контроль кільком великим закритим компаніям.

NVIDIA та ще 24 компанії підписали лист про відкриті ваги 24 липня. OpenAI, Anthropic і Google під час запуску відмовилися. Відтоді підписантів стало більше.

Вашингтон розглядає обмеження щодо китайських моделей. Чиновники посилаються на міркування безпеки та інтелектуальної власності. Співзасновник Twitter Джек Дорсі вже виступив з попередженням про відкритий ШІ.

За чим стежити в найближчі 30 днів

Три ознаки покажуть, чи реальний альянс.

• Чи приєднаються згодом OpenAI, Anthropic або Google
• Чи випустить група спільні інструменти, а не лише заяви
• Чи просунуться вашингтонські обмеження на відкритий ШІ

NVIDIA відзвітує про прибуток 26 серпня. Очікуйте запитань про те, як політика у сфері ШІ впливає на попит.

Регулятори вирішать, хто переможе в цій суперечці.

Джерело: BeInCrypto