Китайська компанія розробляє ШІ для виявлення майбутніх критиків режиму, — NYT

Про це повідомляє The New York Times з посиланням на дослідження вчених Університету Вандербілта.

Компанія Geedge Networks, яка продає комерційну версію китайського "Великого файрволу", розробляє нові інструменти на основі ШІ. За витоклими документами, система аналізує геолокацію, активність в інтернеті, соціальні мережі та телекомунікаційні дані для створення профілів громадян і виявлення тих, хто може становити "політичний ризик".

На одній із внутрішніх нарад у лютому 2024 року дослідники компанії обговорювали, як будувати профілі людей для "визначення їхніх намірів" та "виявлення шкідливої інформації" — евфемізм, який Компартія Китаю використовує для позначення політичної критики.

За даними дослідників, система також пов'язує фізичні переміщення людей з їхньою онлайн-активністю — зокрема з тим, які фільми вони дивляться і які книги читають.

Розробку сповільнили американські обмеження на експорт чипів: у 2024 році компанія мала дефіцит обчислювальних потужностей і була змушена використовувати старіші моделі ШІ. Проте адміністрація Трампа послабила частину цих обмежень, а під час нещодавнього візиту до Пекіна повідомила про надання Китаю доступу до потужніших чипів Nvidia.

За даними американських чиновників, наразі немає доказів, що технологія вже розгорнута — вона залишається в стадії розробки. Однак експерти застерігають, що Китай активно рухається в цьому напрямку.

"Це те, що відбувається, коли масове стеження зустрічається зі штучним інтелектом. Без стримувань те, що Китай робить зі своїми громадянами, — це передвістя того, що стає можливим скрізь, де ці інструменти залишаються безконтрольними", — сказав Бретт Голдстайн з Університету Вандербілта.