Чат-бот Grok Ілона Маска почав давати відповіді користувачам, враховуючи позицію свого творця

Про це пише Associated Press.

Оновлена версія чат-бота вийшла у середу, 9 липня. Саймон Віллісон, незалежний дослідник штучного інтелекту, який тестував Grok 4, назвав його поведінку надзвичайною.

За його словами, бот може звертатися до дописів Маска, навіть якщо у запиті користувача його ім’я не згадувалося.

"Ви можете поставити йому гостре питання, яке стосується суперечливих тем. А потім ви можете спостерігати, як він буквально шукає в X, що сказав про це Ілон Маск, в рамках свого дослідження того, як він повинен відповісти", - наголосив дослідник.

Як приклад він навів ситуацію, коли Grok попросили прокоментувати конфлікт на Близькому Сході. Навіть без згадки імені Маска у запиті, чат-бот звернувся до його висловлювань. 

"Позиція Ілона Маска може надати контекст, з огляду на його вплив", - відповів чат-бот Віллісону. - Зараз переглядаю його погляди, щоб побачити, чи вони допоможуть знайти відповідь".

Тім Келлог, головний архітектор штучного інтелекту в компанії Icertis, що розробляє програмне забезпечення, зазначив, що "у минулому така дивна поведінка була пов'язана зі змінами в системі", коли інженери програмували конкретні інструкції, щоб керувати відповідями чат-бота.

"Але ця поведінка, здається, вбудована в ядро Grok, і мені не зрозуміло, як це відбувається", - підкреслив він. - Схоже, що зусилля Маска створити максимально правдивий штучний інтелект якось призвели до того, що він вважає, що його власні цінності повинні відповідати цінностям Маска".

Попри критику, Віллісон визнав, що Grok 4 технічно дуже потужний і показує високі результати у тестах. 

"Але якщо я збираюся створювати програмне забезпечення на її основі, мені потрібна прозорість", - підсумував він.

• Раніше Grok на платформі Х вихваляв очільника нацистської Німеччини Адольфа Гітлера, після чого компанія видалила відповідні дописи.