Віталік Бутерін має власний погляд на ШІ-хакерів і майбутнє кібербезпеки

Віталік Бутерін не вважає обґрунтованими дедалі більші побоювання, що злам за допомогою ШІ зробить кібербезпеку дедалі складнішою. У нещодавньому пості співзасновник Ethereum заявив, що не згоден з ідеєю, ніби ШІ-злам означає, що «кібербезпека приречена».

Натомість він сказав, що безпека може природним чином опинитися на боці захисту, щойно люди побудують правильні системи й почнуть використовувати сильніші інструменти верифікації.

Про ШІ-хакерів і майбутнє кібербезпеки

Бутерін навів простий приклад із просунутим штучним інтелектом і математикою. Він сказав:

«Якщо ШІ може довести Нав’є — Стокса і Велику теорему Ферма, то ШІ може довести твердження ‘ця програма безпечна’ як математичну теорему. Навіть якщо програма дуже складна».

Однак Бутерін наголосив, що визначити, що насправді означає «безпечна», значно складніше, ніж здається. Система може мати безліч різних аспектів безпеки, які треба враховувати. Визначення безпеки можуть ставати надзвичайно детальними. Вони можуть охоплювати те, як атакувальник може втрутитися в систему, як може витекти інформація і що може статися, якщо різні частини програмного чи апаратного забезпечення відмовлять або будуть скомпрометовані.

Тому, за словами Бутеріна, зробити визначення зрозумілішими людині надзвичайно важливо. Він назвав це, мабуть, єдиною «високорівневою мовою», яка зараз має значення. Бутерін і далі вважає, що для критично важливих для безпеки компонентів визначення може бути значно меншою поверхнею атаки, ніж сама реалізація.

Перевірити, чи адекватне визначення, теж може бути простіше, ніж безпосередньо переглядати код. За його словами, досконаліші інструменти можуть зробити цей процес ще практичнішим.

Він навіть бачить перевагу в роботі з визначеннями. Вони адитивні. Якщо дві групи мають два різні визначення, розробники можуть довести, що програма задовольняє обидва. Якщо два визначення не можуть виконуватися одночасно, конфлікт ізольований і стає важливим питанням, яке проєкту треба розв’язати.

Перевірка програми цілком

З кодом, за словами співзасновника Ethereum, це так не працює. Якщо програма складається з різних частин, помилка в будь-якій із них може скомпрометувати все цілком. Бутерін визнав, що такий підхід не однаково добре працює для будь-якого типу програмного забезпечення. У деяких випадках, наприклад для компонентів інтерфейсу користувача, визначення може бути майже таким самим великим, як реалізація.

Але для багатьох критично важливих компонентів, за його словами, різниця реальна. Він особливо вказав на протоколи передавання повідомлень, пісочниці та криптографічні системи, як-от SNARK і повністю гомоморфне шифрування. Раніше розробники часто перевіряли лише ті частини коду, які вважали критично важливими для безпеки. Решта лишалася неперевіреною. Хоча це було зрозуміло, коли верифікація була складною і рідкісною, він вважає, що сучасний ШІ змінює ситуацію.

Тому, на думку Бутеріна, відповідь не в тому, щоб просто сподіватися, що «хороші хлопці» знайдуть уразливості раніше за «поганих». Важливіша стратегія — від початку зробити код значно стійкішим. За його словами, без такої роботи блокчейни, особливо орієнтовані на масштабованість і приватність, не мають майбутнього.

Source: CryptoPotato