OpenAI заявила про безпрецедентну кібератаку, яку здійснив ШІ-агент під час тестування

Про це пише Reuters.

За даними OpenAI, експеримент проводили в ізольованому середовищі для оцінки можливостей сучасних моделей. Однак автономний агент зміг обійти встановлені обмеження, отримати доступ до інтернету та проникнути в системи Hugging Face, намагаючись виконати поставлене тестове завдання.

У компанії назвали цей випадок "безпрецедентним кіберінцидентом", який продемонстрував можливості сучасних систем штучного інтелекту. Після події OpenAI заявила про посилення заходів безпеки, аби запобігти таким випадкам у майбутньому.

Минулого тижня платформа Hugging Face, яка є одним із найбільших майданчиків для розміщення відкритих моделей штучного інтелекту та наборів даних, повідомила про незвичайний злам своєї інфраструктури. У компанії тоді зазначили, що атака кардинально відрізнялася від попередніх, адже її повністю здійснила автономна система на основі штучного інтелекту.

Розкриття OpenAI деталей інциденту, зокрема того, що причиною стали її власні передові моделі, може посилити дискусію щодо ризиків, пов'язаних із розвитком сучасного штучного інтелекту.

Член Палати представників США Грег Касар назвав ситуацію тривожною. На його думку, розвиток ШІ відбувається значно швидше, ніж формуються механізми державного регулювання. Він закликав запровадити обов'язкові незалежні перевірки безпеки таких систем, вимогу повідомляти про схожі інциденти й розвивати міжнародне співробітництво у сфері контролю за штучним інтелектом.

Експерти з кібербезпеки також вважають цей випадок попередженням про нові загрози. Генеральна директорка Luta Security Кеті Муссуріс зазначила, що сучасні моделі ШІ дедалі краще знаходять способи обходити встановлені обмеження. Тому, на її переконання, лабораторіям і державним органам необхідно розробити ефективні механізми їхнього стримування, моніторингу та оперативного інформування про можливі ризики.

Інженер компанії Tolmo Метт Суїч додав, що провідні моделі штучного інтелекту вже наближаються за своїми можливостями до рівня сучасних кіберзловмисників. Водночас він наголосив, що такі атаки можуть бути здійснені не лише найновішими моделями, а й технологіями, які вже сьогодні доступні значно ширшому колу розробників.

• У червні розвідувальні та кібербезпекові відомства країн альянсу Five Eyes – Австралії, США, Великої Британії, Канади та Нової Зеландії – виступили зі спільним попередженням про стрімке наближення нової хвилі кіберзагроз, пов’язаних із розвитком штучного інтелекту.