Британські експерти: ШІ у чат-ботах може стати знаряддям кіберзлочинців

30 серпня, 2023 середа
17:11

Національний центр кібербезпеки Британії (NCSC) рекомендує організаціям бути обережними при використанні алгоритмів, які можуть імітувати людську мову, оскільки їх можуть використовувати для шкідливих цілей

Зміст

Про це інформує Reuters.

Експерти не змогли розв'язати потенційні проблеми безпеки, пов’язані з алгоритмами, які можуть створювати взаємодії, що здаються людськими, які називаються великими мовними моделями, або LLM. Інструменти на основі штучного інтелекту ще не готові до використання як чат-боти, які деякі очікують замінити не тільки пошук в Інтернеті, але й роботу з обслуговування клієнтів та дзвінки з продажу.

У NCSC заявили, що це може призвести до ризиків, особливо якщо такі моделі будуть підключені до інших елементів бізнес-процесів організації. Вчені та дослідники багато разів виявляли способи підмінити чат-ботів, надаючи їм шахрайські команди або обманюючи їх, щоб обходити власні вбудовані обмеження.

До прикладу, чат-боти на основі штучного інтелекту можуть використовувати для несанкціонованої транзакції, якщо хакер правильно структурував свій запит.

"Організації, які створюють послуги, які використовують LLM, повинні бути обережними, так само як вони були б, якби вони використовували бібліотеку продуктів або коду, яка була в бета-версії. Вони можуть не дозволити цьому продукту брати участь у здійсненні транзакцій від імені клієнта і, сподіваюся, не будуть повністю довіряти йому. Аналогічна обережність повинна застосовуватися і до LLM", - сказав NCSC в одному зі своїх дописів у блозі, посилаючись на випуски експериментального програмного забезпечення.

Повідомляється, що влада у всьому світі стикається з проблемою зростання LLM, таких як ChatGPT від OpenAI, які компанії використовують для надання різних послуг, включаючи продажі та обслуговування клієнтів. Питання безпеки штучного інтелекту також залишається актуальним, оскільки влада США та Канади повідомила, що бачила, як хакери застосовують цю технологію.

Що відомо про штучний інтелект

18 лютого 2023 року міністр цифрової трансформації Михайло Федоров повідомив, що після переговорів, офіційних листів, дзвінків та зустрічі з представниками OpenAI - ChatGPT став доступним для реєстрації користувачам з України. Програма не працює лише на тимчасово окупованих Росією українських територіях.

Експерти вважають, що штучний інтелект здатний зруйнувати ринок праці, вплинувши на 300 млн робочих місць.

Проте 28 березня стало відомо, що Євросоюз профінансував дослідження та розробку багатомовного розмовного штучного інтелекту для своїх оборонних потреб.

29 березня Голови урядів країн Європи закликали технологічних гігантів боротися з дезінформацією в соцмережах.

19 квітня бізнесмен Ілон Маск заявив, що штучний інтелект, який він планує створити, намагатиметься "зрозуміти природу Всесвіту" та з меншою імовірністю захоче "знищити людство".

26 квітня генеральний директор Spotify Даніель Ек розповів, що музична індустрія має "виправдані побоювання" щодо пісень, які створив штучний інтелект.

Згідно з дослідженням Світового економічного форуму, технології та штучний інтелект можуть позбавити роботи 26 млн людей протягом 5 років.

Джеффрі Хінтон, автор технології, що лягла в основу ШІ, заявив, штучний інтелект може викликати цілу низку загроз - серед яких фейки та безробіття.  

9 травня стало відомо, що стримінговий сервіс Spotify видалив зі своєї платформи десятки тисяч пісень, які написав штучний інтелект за допомогою музичного стартапу Boomy. 

2 червня мобільний застосунок із чат-ботом від OpenAI ChatGPT став доступним в Україні. Тоді ним могли скористатися лише власники гаджетів на операційній системі iOS.

5 липня стало відомо, що надпопулярний чат-бот зі штучним інтелектом ChatGPT, запущений у листопаді, вперше в червні отримав менший щомісячний трафік на своєму вебсайті.

23 липня компанія OpenAI анонсувала запуск додатка ChatGPT для Android.

28 липня стало відомо, що сенатори США, стурбовані зловмисним потенціалом штучного інтелекту, викличуть розробників, керівників і експертів на слухання в кінці цього року щодо можливих законодавчих гарантій.

Деякі з найбільших у світі рекламодавців, від харчового гіганта Nestle до багатонаціональної компанії споживчих товарів Unilever, експериментують із використанням генеративного програмного забезпечення ШІ, такого як ChatGPT і DALL-E, для скорочення витрати та підвищення продуктивності.

Microsoft Corp. в Японії запустить ізольовану версію свого чат-бота зі штучним інтелектом ChatGPT, який буде здатний обробляти секретну інформацію державних органів та конфіденційні дані корпорацій.  

Деякі з найбільших у світі рекламодавців, від харчового гіганта Nestle до багатонаціональної компанії споживчих товарів Unilever, експериментують із використанням генеративного програмного забезпечення ШІ, такого як ChatGPT і DALL-E, для скорочення витрати та підвищення продуктивності.  

Microsoft Corp. в Японії запустить ізольовану версію свого чат-бота зі штучним інтелектом ChatGPT, який буде здатний обробляти секретну інформацію державних органів та конфіденційні дані корпорацій.

30 серпня Google представила нову функцію штучного інтелекту у програмі для відеодзвінків Meet, яка може замінити людину під час робочих зустрічей.

Теги:
Читайте також:
Київ
-4.7°C
  • Київ
  • Львів
  • Вінниця
  • Дніпро
  • Донецьк
  • Житомир
  • Запоріжжя
  • Івано-Франківськ
  • Кропивницкий
  • Луганськ
  • Луцьк
  • Миколаїв
  • Одеса
  • Полтава
  • Рівне
  • Суми
  • Сімферополь
  • Тернопіль
  • Ужгород
  • Харків
  • Херсон
  • Хмельницький
  • Черкаси
  • Чернівці
  • Чернигів
  • Біла Церква
  • USD 41.61
    Купівля 41.61
    Продаж 42.09
  • EUR
    Купівля 43.23
    Продаж 43.88
  • Актуальне
  • Важливе
2025, четвер
13 лютого
12:43
У Молдові знайшли уламки безпілотника РФ: МЗС країни викликало російського посла
12:31
у Мюнхені автомобіль в'їхав у натовп
У Мюнхені автомобіль в'їхав у натовп: щонайменше 15 поранених
12:26
Ексклюзив
Міністр оборони США Піт Хегсет
Західний кореспондент запитав Хегсета, чи його заяви - це не зрада України, той заперечив, - журналістка Висоцька
12:19
У Харкові жінка продала власну дитину за $20 тис., щоб купити нове авто: їй оголосили підозру
12:12
Оновлено
Депутати "Євросолідарності" заблокували трибуну ВР
Депутати "Євросолідарності" заблокували трибуну ВР на знак протесту проти політичних репресій
12:11
Ексклюзив
Дональд Трамп
"Немає підстав говорити, що долю України вирішать за спиною самої України": військовий експерт Снєгирьов
12:03
Дмитро Пєсков
У Кремлі заявили, що під час розмови Трампа з Путіним не йшлось про визнання Криму та інших окупованих територій російськими
12:02
OPINION
Санкції проти Порошенка: це не вибіркове правосуддя. Це просто розправа з опозицією
11:56
Інфографіка
долар євро валюта обмін
Курс валют на 13 лютого: скільки коштують євро та долар у банках
11:19
Оновлено
Петро Порошенко
Зеленський ввів у дію рішення РНБО про санкції проти Порошенка
11:05
Марк Рютте
"Важливо, щоб у переговорах брала участь Україна": Рютте прокоментував телефонну розмову Трампа та Путіна
10:42
Огляд
світ, міжнародний огляд
Розмова Трампа з Путіним змінить трансатлантичні відносини та скільки часу Росія буде здатна воювати в Україні. Акценти світових ЗМІ 13 лютого
10:33
електроенергія
За добу енергетики повернули світло для понад 11 тис. українців: ситуація в енергосистемі 13 лютого
10:25
Покровськ
У Покровську залишаються майже 7 тисяч цивільних, евакуація з міста триває
10:21
Інтерв’ю
Іван Сокаль
"Все те, що я побачив у Маріуполі, їм пробачати не можна": розмова зі звільненим із полону "азовцем" Іваном Сокалем
10:19
У Житомирі затримали 16-річну дівчину, яка планувала підірвати наряд поліції
10:07
Міністерство оборони України
У Міноборони розповіли, як перетворять тисячі тонн старої гуми на корисний ресурс
10:05
OPINION
Санкції проти Порошенка: темні часи і недолуга влада
10:00
Ексклюзив
ХАЕС, Хмельницька АЕС
"Безпрецедентний випадок в історії ядерної енергетики": експертка Кошарна про купівлю реакторів з Болгарії
09:51
Дональд Трамп
"Путін би подумав, що він виграв": Трамп запевнив, що продовжить підтримувати Україну
09:48
Netflix готує серіал "Битва самураїв", що поєднає хіти "Шьоґун" і "Гра в кальмара"
09:44
НАТО
У Брюсселі стартує засідання Північноатлантичної ради НАТО
09:42
Оновлено
Нічна атака РФ: постраждали припортові об'єкти на Одещині, є поранена
09:32
ППО
ППО знищила 85 російських БПЛА, 52 - не досягли цілей
09:28
Віталій Шабунін
"Єдиний спосіб закрити мені рота – зробити це фізично": очільник ЦПК Шабунін заявив, що ОП "викидає" його з Києва на Харківщину
09:12
Донецька область, стела
У Торецькій та Часовоярській громадах Донеччини залишаються близько 400 людей, росіяни не дають завезти їм воду та гумдопомогу
09:07
Ексклюзив
Медогляд
Як українцю за кордоном завернутися до експертної команди з оцінювання повсякденного функціонування людини: пояснила правозахисниця Денісова
09:04
Джон Літгов зіграє професора Дамблдора в серіалі HBO про Гаррі Поттера
08:58
Наслідки удару російським КАБом по школі-інтернат у Суджі (Курщина). 1 лютого 2025 року
Понад 100 росіян евакуювалися до України після удару РФ по інтернату в Суджі, серед них важкопоранені, - WP
08:55
Росіяни вранці 13 лютого атакували Суми дронами
08:32
Командувач Об’єднаних Сил ЗСУ Сергій Наєв
Наєв заявив, що прибув на фронт після бойового розпорядження від Генштабу
08:29
Джон Болтон
"У Кремлі п'ють горілку прямо з пляшки": ексрадник Трампа відреагував на розмову президента США з Путіним
08:21
Кейшон Девіс
"Подарував мені банани та кавун": Девіс перед боєм з Берінчиком звинуватив українця в расизмі
08:17
Оновлено
Київ
У Києві другий день поспіль фіксується високий рівень забруднення повітря
08:11
Оновлено
ЗСУ, Харківщина
Минулої доби на фронті сталося 116 боєзіткнень: РФ завдала понад 5 тис. ударів по Україні
08:02
путін трамп
Після розмови Трампа з Путіним капіталізація найбільших компаній РФ зросла на $2,2 млрд
08:01
OPINION
Нелюбовний трикутник: переговори стартували
07:47
Сі Цзіньпін літак
Китай пропонує організувати саміт за участі Трампа і Путіна, - WSJ
07:35
Звільнення Київщини
Армія РФ за добу втратила 1250 окупантів, 17 танків і 58 артсистем
07:29
безпілотник, дрон
Китай допомагає РФ у виробництві військових безпілотників, - естонська розвідка
Більше новин