Вчені намагаються дослідити, чи усвідомлює себе ChatGPT

Про це повідомляє Science Alert.

Штучний інтелект увійшов у наше життя, коли наприкінці минулого року в мережі з'явився чат-бот ChatGPT. З тих пір генеративна система ШІ, розроблена технологічною компанією OpenAI, набирає обертів, а експерти все більше говорять про пов'язані з цим ризики.

Зазначається, що чат-боти почали виходити за рамки сценарію і говорити у відповідь, обманювати інших ботів і поводитися дивно. Це викликало занепокоєння щодо того, наскільки близько деякі інструменти ШІ підбираються до людського інтелекту.

Тест Тюрінга довгий час був хибним стандартом для визначення того, чи демонструють машини розумну поведінку, схожу на людську. Але в останній хвилі створення штучного інтелекту виявилось, що нам потрібно щось більше, щоб оцінити його можливості.

Міжнародна команда комп'ютерних науковців, включно з членом підрозділу управління OpenAI, проводять досліди, в результаті яких стало зрозуміло, що великі мовні моделі (LLM), такі як ChatGPT, можуть усвідомлювати себе та обставини, в яких вони перебувають.

"Ці небезпечні результати були реакцією на навмисні підказки, створені дослідником безпеки, який хотів викрити недоліки GPT-4, останньої і нібито безпечнішої версії ChatGPT. Ситуація може значно погіршитися, якщо LLM розвиватимуть усвідомлення того, що вони є моделлю, навченою на даних і на людях", - йдеться у повідомленні.

За словами Лукаса Берглунда, комп'ютерного науковця з університету Вандербільта, це може призвести до того, що модель почне розпізнавати, чи перебуває вона в тестовому режимі, чи була розгорнута для громадськості.

"Ці висновки створюють основу для подальших емпіричних досліджень, спрямованих на прогнозування та потенційний контроль виникнення ситуативної обізнаності у LLM", - пишуть автори дослідження.

Що відомо про ChatGPT

ChatGPT - це безплатний чат-бот від OpenAI, який запустили 30 листопада 2022 року. Чат-бот зі штучним інтелектом, розроблений компанією OpenAI, здатний працювати в діалоговому режимі, підтримує запити природними мовами. Має широкі можливості: написання коду, створення текстів, можливості перекладу, отримання точних відповідей і використання контексту діалогу для відповідей.

OpenAI співпрацює з Microsoft і продає доступ до своїх моделей штучного інтелекту.

18 лютого 2023 року міністр цифрової трансформації Михайло Федоров повідомив, що після переговорів, офіційних листів, дзвінків та зустрічі з представниками OpenAI - ChatGPT став доступним для реєстрації користувачам з України. Програма не працює лише на тимчасово окупованих Росією українських територіях.

2 червня мобільний застосунок із чат-ботом від OpenAI ChatGPT став доступним в Україні. Тоді ним могли скористатися лише власники гаджетів на операційній системі iOS.

5 липня стало відомо, що надпопулярний чат-бот зі штучним інтелектом ChatGPT, запущений у листопаді, вперше в червні отримав менший щомісячний трафік на своєму вебсайті.

23 липня компанія OpenAI анонсувала запуск додатка ChatGPT для Android.

Microsoft Corp. в Японії запустить ізольовану версію свого чат-бота зі штучним інтелектом ChatGPT, який буде здатний обробляти секретну інформацію державних органів та конфіденційні дані корпорацій.  

Деякі з найбільших у світі рекламодавців, від харчового гіганта Nestle до багатонаціональної компанії споживчих товарів Unilever, експериментують із використанням генеративного програмного забезпечення ШІ, такого як ChatGPT і DALL-E, для скорочення витрати та підвищення продуктивності.