У Китаї визначили, як можна "надурити" автопілот Tesla
Систему автопілота Tesla можна обдурити неправильним розташуванням крапок на асфальті - штучний інтелект може приймати їх за розмітку і звертати, щоб не перетинати неіснуючу лінію розділення
До такого висновку прийшли експерти з китайської компанії Tencent.
В ході дослідження інженери з безпеки спробували обдурити автопілот Tesla. Зазвичай під час таких дослідів фахівці застосовують цифровий підхід, однак в Tencent вирішили, що краще наносити неправдиві мітки в реальності.
В ході дослідження інженерам вдалося домогтися, щоб Tesla виявила неіснуючу розмітку і не помітила справжню.
Для того, щоб автомобіль знайшов неіснуючу розмітку, фахівцям довелося додати білі пластирі до цієї суцільної лінії, проте вони розташовувалися нерівномірно - це дозволило б живому водієві зрозуміти, що розмітка несправжня. Але автопілот не зміг впоратися з цим завданням.
Під час другого експерименту дослідники нанесли на асфальт три квадратні наклейки, які були розташовані в лінію - вона пройшла діагонально по поточній смузі руху. В результаті автопілот прийняв її за справжню і звернув на зустрічну смугу.
- Актуальне
- Важливе