Британські експерти: ШІ у чат-ботах може стати знаряддям кіберзлочинців

Про це інформує Reuters.

Експерти не змогли розв'язати потенційні проблеми безпеки, пов’язані з алгоритмами, які можуть створювати взаємодії, що здаються людськими, які називаються великими мовними моделями, або LLM. Інструменти на основі штучного інтелекту ще не готові до використання як чат-боти, які деякі очікують замінити не тільки пошук в Інтернеті, але й роботу з обслуговування клієнтів та дзвінки з продажу.

У NCSC заявили, що це може призвести до ризиків, особливо якщо такі моделі будуть підключені до інших елементів бізнес-процесів організації. Вчені та дослідники багато разів виявляли способи підмінити чат-ботів, надаючи їм шахрайські команди або обманюючи їх, щоб обходити власні вбудовані обмеження.

До прикладу, чат-боти на основі штучного інтелекту можуть використовувати для несанкціонованої транзакції, якщо хакер правильно структурував свій запит.

"Організації, які створюють послуги, які використовують LLM, повинні бути обережними, так само як вони були б, якби вони використовували бібліотеку продуктів або коду, яка була в бета-версії. Вони можуть не дозволити цьому продукту брати участь у здійсненні транзакцій від імені клієнта і, сподіваюся, не будуть повністю довіряти йому. Аналогічна обережність повинна застосовуватися і до LLM", - сказав NCSC в одному зі своїх дописів у блозі, посилаючись на випуски експериментального програмного забезпечення.

Повідомляється, що влада у всьому світі стикається з проблемою зростання LLM, таких як ChatGPT від OpenAI, які компанії використовують для надання різних послуг, включаючи продажі та обслуговування клієнтів. Питання безпеки штучного інтелекту також залишається актуальним, оскільки влада США та Канади повідомила, що бачила, як хакери застосовують цю технологію.

Що відомо про штучний інтелект

18 лютого 2023 року міністр цифрової трансформації Михайло Федоров повідомив, що після переговорів, офіційних листів, дзвінків та зустрічі з представниками OpenAI - ChatGPT став доступним для реєстрації користувачам з України. Програма не працює лише на тимчасово окупованих Росією українських територіях.

Експерти вважають, що штучний інтелект здатний зруйнувати ринок праці, вплинувши на 300 млн робочих місць.

Проте 28 березня стало відомо, що Євросоюз профінансував дослідження та розробку багатомовного розмовного штучного інтелекту для своїх оборонних потреб.

29 березня Голови урядів країн Європи закликали технологічних гігантів боротися з дезінформацією в соцмережах.

19 квітня бізнесмен Ілон Маск заявив, що штучний інтелект, який він планує створити, намагатиметься "зрозуміти природу Всесвіту" та з меншою імовірністю захоче "знищити людство".

26 квітня генеральний директор Spotify Даніель Ек розповів, що музична індустрія має "виправдані побоювання" щодо пісень, які створив штучний інтелект.

Згідно з дослідженням Світового економічного форуму, технології та штучний інтелект можуть позбавити роботи 26 млн людей протягом 5 років.

Джеффрі Хінтон, автор технології, що лягла в основу ШІ, заявив, штучний інтелект може викликати цілу низку загроз - серед яких фейки та безробіття.  

9 травня стало відомо, що стримінговий сервіс Spotify видалив зі своєї платформи десятки тисяч пісень, які написав штучний інтелект за допомогою музичного стартапу Boomy. 

2 червня мобільний застосунок із чат-ботом від OpenAI ChatGPT став доступним в Україні. Тоді ним могли скористатися лише власники гаджетів на операційній системі iOS.

5 липня стало відомо, що надпопулярний чат-бот зі штучним інтелектом ChatGPT, запущений у листопаді, вперше в червні отримав менший щомісячний трафік на своєму вебсайті.

23 липня компанія OpenAI анонсувала запуск додатка ChatGPT для Android.

28 липня стало відомо, що сенатори США, стурбовані зловмисним потенціалом штучного інтелекту, викличуть розробників, керівників і експертів на слухання в кінці цього року щодо можливих законодавчих гарантій.

Деякі з найбільших у світі рекламодавців, від харчового гіганта Nestle до багатонаціональної компанії споживчих товарів Unilever, експериментують із використанням генеративного програмного забезпечення ШІ, такого як ChatGPT і DALL-E, для скорочення витрати та підвищення продуктивності.

Microsoft Corp. в Японії запустить ізольовану версію свого чат-бота зі штучним інтелектом ChatGPT, який буде здатний обробляти секретну інформацію державних органів та конфіденційні дані корпорацій.  

Деякі з найбільших у світі рекламодавців, від харчового гіганта Nestle до багатонаціональної компанії споживчих товарів Unilever, експериментують із використанням генеративного програмного забезпечення ШІ, такого як ChatGPT і DALL-E, для скорочення витрати та підвищення продуктивності.  

Microsoft Corp. в Японії запустить ізольовану версію свого чат-бота зі штучним інтелектом ChatGPT, який буде здатний обробляти секретну інформацію державних органів та конфіденційні дані корпорацій.

30 серпня Google представила нову функцію штучного інтелекту у програмі для відеодзвінків Meet, яка може замінити людину під час робочих зустрічей.