Система Rekognition видала 28 помилок, вирішивши, що 28 конгресменів - злочинці, пише The Verge.
Американський союз громадянських свобод - це некомерційна правозахисна організація, і на цьому тижні вона, витративши всього 12 доларів і 33 центи, перевірила систему, від якої цілком може залежати життя і свобода багатьох людей.
Використовуючи налаштування Rekognition, виставлені за замовчуванням, тобто поріг упевненості в 80% (це означає, що система на 80% упевнена в тому, що права, коли дає сигнал про збіг), союз просканував 25000 фотографій злочинців, що лежать у відкритому доступі, і порівняла їх з фотографіями всіх членів Конгресу. В результаті система ідентифікувала 28 конгресменів як злочинців.
"Хоча показник 80% є прийнятним порогом для розпізнавання фотографій хот-догів, стільців, тварин або інших випадків використання в соціальних мережах, було б недоцільно ідентифікувати людей з таким порогом довіри", - підкреслив представник Amazon.
Також він заявив, що для будь-якої ідентифікації, здатної спричинити за собою серйозні наслідки, потрібна впевненість мінімум в 95%.При цьому він не пояснив, що заважає правоохоронним органам використовувати налаштування за замовчуванням.
Наразі Amazon активно рекламує свою систему для поліцейських і охоронних організацій і деякі вже нею користуються, так що ціна такої помилки може виявитися досить дорогою для того, кого впізнали помилково.