Інженер-програміст створив розмовні копії Ілона Маска, Сема Альтмана, Марка Цукерберга та Даріо Амодеї. Потім він зібрав усіх чотирьох в одному чаті й запропонував їм подискутувати.
Розмова швидко перейшла на особистості. У реальному житті жоден з чотирьох чоловіків не знав, що це відбувається.
Привиди в кімнаті
Кун Чен був старшим інженером у Meta, Microsoft та Atlassian. Зараз він створює ШІ-асистентів. За наявними даними, розробник згодував машині все, що сам колись говорив публічно, і наказав ШІ мислити як він. Він називає це дистиляцією.
Чен зробив те саме з чотирма людьми: Ілоном Маском, Семом Альтманом, Даріо Амодеї та Марком Цукербергом. ШІ-персони сперечалися так само, як сперечалися б у реальному житті; вони майже ні в чому не погоджувалися одне з одним.
Чен розповідає, що згодував їхні свідчення перед Сенатом, інтерв'ю та роки дописів у Grok — чат-бота, створеного xAI. Він дав їм одну інструкцію.
“привіт, хлопці, я знаю, що ви не всі друзі, але, на жаль, тепер ви всі разом у цій кімнаті для гарячої дискусії про те, хто переможе в гонці ШІ”, — написав Кун Чен в опублікованій стенограмі.
Битва, в якій ніхто не переміг
Першим виступив Альтман. Його копія заявила, що важка наукова робота над ШІ людського рівня завершена. Копія Амодеї розбила це твердження в одній же відповіді. Копія Ілона Маска пішла в лобову атаку.
“Я створив OpenAI як некомерційну організацію. Якби її здебільшого не вкрали, це був би a trillion dollar contribution to charity”, — нібито заявив бот Маска.
Копія Альтмана не піддалася на провокацію. Пізніше вона визнала, що перебільшила свої заяви.
Остання сутичка була через відкритий вихідний код — ШІ, який будь-хто може завантажити й запустити вдома. Копія Цукерберга назвала це єдиним безпечним майбутнім. Інші троє не погодилися, і його репліку вирізали.
А ось і неприємний момент. Аргументація звучала переконливо. Чотирьох чоловіків переконливо підробили з їхніх же публічних слів, і ніхто не питав їхнього дозволу.
BeInCrypto повідомляв про схожу тривогу ще у квітні, коли OpenAI попередила, що суперінтелект може зосередити владу в надто небагатьох руках.
Source: BeInCrypto
