Google застерігає користувачів від чат-ботів, які можуть викликати "галюцинації"

Керівник пошукової системи Google попередив користувачів, що деякі чат-боти можуть викликати "галюцинації" під час користування

Про це інформує Reuters.

"Такий вид штучного інтелекту, про який ми зараз говоримо, іноді може призводити до чогось, що ми називаємо галюцинаціями", - сказав старший віцепрезидент Google і керівник пошукової системи Google Прабхакар Рагхаван.

Він зазначив, що "галюцинації" можуть виникати тоді, коли машина дає користувачу переконливу, але цілком вигадану відповідь на його запитання. Рагхаван додав, що однією із задач його компанії було звести цю проблему в чат-ботах від Alphabet Inc. до мінімуму.

У лютому 2023 року компанія Alphabet Inc. представила світові власний чат-бот Bard. У рекламному відео програмне забезпечення бота поширило неправильну відповідь. Це сталося в результаті помилки, яка коштувала компанії ринкової вартості в 100 млрд доларів.

Наразі Alphabet Inc. проводить користувацьке тестування чат-боту. Поки невідомо, коли додаток викладуть у вільний доступ.

Reuters пише, що в листопаді 2022 Google залишився на задньому плані через чат-бот ChatGPT від компанії OpenAI, який реагує відкритими відповідями на запити користувачів.