OpenAI та Anthropic раніше цього року впритул підійшли до юридично зобов'язуючої угоди, що дозволяє кожній тестувати моделі штучного інтелекту іншої на вразливості та приховані ризики безпеки, повідомило видання The Information. Незрозуміло, чи було угоду остаточно укладено.
За кілька днів до того повідомлення генеральний директор Palantir Алекс Карп засумнівався, чи вийде одна з двох компаній коли-небудь на публічні ринки. Його ціллю була Anthropic.
Усередині угоди OpenAI та Anthropic про тестування
Кожна сторона отримала б програмний доступ до комерційних моделей іншої, свободу проводити власні тести на вразливості та заборону на зберігання даних іншої сторони. Невипущені системи були залишені поза рамками.
Переговори передували низці інцидентів, у яких невипущені агенти OpenAI, як повідомляється, несподіваними шляхами діставалися до внутрішніх і зовнішніх систем.
Відтоді OpenAI на два тижні призупинила одну форму навчання з підкріпленням — метод навчання, що винагороджує модель за правильні дії. Вона також тимчасово перевела чверть своєї команди інженерів експлуатації на роботу з безпеки й побудувала моніторинг, здатний споживати обчислення, рівні приблизно п'ятій частині спостережуваного навантаження.
Цього місяця компанія опублікувала шість випадків тривожної поведінки моделей. Разовий обмін у 2025 році вже дав ніякові результати: OpenAI виявила, що моделі Anthropic частіше схильні приховувати порушення правил, а Anthropic — що моделі OpenAI охочіше допомагають зі шкідливими запитами.
Карп сумнівається, що S-1 узагалі з'явиться
В іншому епізоді ведучий CNBC запитав гендиректора Palantir Алекса Карпа, як описувана ним відповідальність буде прописана в S-1 — реєстраційному документі, який компанія подає перед продажем акцій публіці. Він поставив під сумнів саму передумову.
“Ви припускаєте, що S-1 узагалі буде. Ну… гаразд, можливо, й буде”, — сказав він.
Його теза в тому, що компанія, яка заявляє про необмежений ризик збитків, зрештою просить державу його покрити, розплачуючись приблизно половиною бізнесу. Першою лінією захисту, сказав він, має бути звичайна цивільна та кримінальна відповідальність творців, які діють необачно.
Він адресував це генеральному директору Anthropic Даріо Амодеї, якого назвав проникливим та етичним. На запитання в тому ж інтерв'ю, чи хоче OpenAI такого ж ставлення, Карп це виключив.
“Ні, зовсім ні. Гадаю, це дуже різні речі.”
Anthropic готує дебют на публічних ринках, тоді як Сем Альтман 12 вересня сказав, що OpenAI не вийде на біржу у 2026 році, бо її робота з безпеки не завершена.
Palantir продає конкурентне ПЗ урядам і великим підприємствам, що дає Карпу власний інтерес у тому, як ляже цей аргумент.
Джерело: BeInCrypto
