ШІ Ілона Маска Grok генерував сексуалізовані зображення дітей

Про це повідомляє Bloomberg.

Відомо, що чат-бот на запит користувачів декілька днів генерував дитячі зображення у мінімалістичному одязі. Наразі фото видалені з платформи.

Команда Grok визнала провину, додавши, що матеріали, пов’язані із сексуальним насильством над дітьми, є незаконними та забороненими.

"Ми зафіксували недоліки в системі безпеки та негайно працюємо над їх усуненням", — йдеться у відповіді Grok на запит користувача в п’ятницю.

Зазначимо, що платформа Grok позиціонує себе як більш поблажливу модель, ніж його конкуренти. Однак, у боті встановлені суворі заборони на модифікацію порнографії, які містять фото реальних людей, а особливо генерацію контенту сексуального характеру за участі неповнолітніх.

Зазначимо, користувачі спонукали Grok цифрово прибирати одяг із фотографій, переважно жінок, залишаючи на зображеннях лише спідню білизну або бікіні. Це стало підставою для того, щоб міністерство інформаційних технологій Індії вимагало комплексного перегляду механізмів безпеки Grok, йдеться в копії скарги, яку в п’ятницю оприлюднила членкиня парламенту Індії Пріянка Чатурведі.

Політика використання хАІ

Не використовуйте сервіс або результати для пропаганди або участі в незаконній діяльності, зокрема:

1. Порушення авторського права, торговельних марок або іншого законодавства про інтелектуальну власність;
2. Порушення права особи на недоторканність приватного життя або її права на публічність;
3. Зображення подібностей осіб у порнографічній манері;
4. Сексуалізація або експлуатація дітей;
5. Діяльність у регульованій галузі або регіоні без дотримання цих правил;
6. Шахрайство, наклеп, шахрайство або спам;
7. Шпигунство, стеження, переслідування, злом, доксинг або фішинг.

Нагадаємо, що компанія OpenAI у ChatGPT запустив нову функцію "для дорослих".