У Китаї визначили, як можна "надурити" автопілот Tesla

Систему автопілота Tesla можна обдурити неправильним розташуванням крапок на асфальті - штучний інтелект може приймати їх за розмітку і звертати, щоб не перетинати неіснуючу лінію розділення

До такого висновку прийшли експерти з китайської компанії Tencent.

В ході дослідження інженери з безпеки спробували обдурити автопілот Tesla. Зазвичай під час таких дослідів фахівці застосовують цифровий підхід, однак в Tencent вирішили, що краще наносити неправдиві мітки в реальності.

В ході дослідження інженерам вдалося домогтися, щоб Tesla виявила неіснуючу розмітку і не помітила справжню.

Для того, щоб автомобіль знайшов неіснуючу розмітку, фахівцям довелося додати білі пластирі до цієї суцільної лінії, проте вони розташовувалися нерівномірно - це дозволило б живому водієві зрозуміти, що розмітка несправжня. Але автопілот не зміг впоратися з цим завданням.

Під час другого експерименту дослідники нанесли на асфальт три квадратні наклейки, які були розташовані в лінію - вона пройшла діагонально по поточній смузі руху. В результаті автопілот прийняв її за справжню і звернув на зустрічну смугу.