Membrii ai Congresului american clasificați drept infractori de Rekognition
Rekognition, software-ul de recunoaștere facială al Amazon, îi ia drept infractori pe 28 dintre membrii Congresului american.
Uniunea Libertăților Civile din SUA a testat Rekognition, software-ul de recunoaștere facială al Amazon. Astfel, fețele celor 535 de membrii ai Congresului american au fost comparate cu o bază de date cu 25.000 de fețe ale persoanelor arestate pentru diverse infracțiuni, scrie securityinforwatch.com.
În cadrul acestui experiment, trei senatori și 25 de membrii au Casei Reprezentanților au fost identificați ca fiind persoane cu antecedente penale. Deși unii oameni sunt supărați din cauza acestui incident, Dave Loebsack, unul dintre membrii Congresului care a fost identificat greșit este îngrijorat că această problemă s-ar putea repeta și în cazul altor oameni.
Loebsack atrage atenția că trebuie găsită o metodă potrivită care să asigure faptul că nimeni nu este acuzat pe nedrept, dar și că poliția își face treaba și păstrează oamenii în siguranță.
Uniunea Libertăților Civile din SUA acuză Amazon de producerea acestui incident, în timp ce Amazon spune că nu au fost setate adecvat de către cei care au folosit software-ul.
Matt Wood, manager general al departamentului de inteligență artificială și deep learning al Amazon spunea că utilizatorii, trebuie să folosească un nivel de încredere mare pentru cazurile în care un nivel mare de acuratețe este important, citează arstechnica.com.
Wood a explicat că a încercat să reproducă experimentul realizat de Uniunea Libertăților Civile din SUA folosind portrete ale celor 535 de membrii ai Congresului. Cu toate acestea, Amazon a folosit o bază de date cu fețe mult mai mare: 850.000. El a precizat că dacă rata de încredere este setată la 99% identificarea greșită scade la zero chiar dacă baza de date este mai mică față de cea folosită de Amazon.
Wood preciza că „nu ar trebui să aruncăm cuptorul deoarece temperatura ar putea fi setată greșit și ar putea arde pizza.” El consideră că este normal ca guvernul să reglementeze modul în care vrea ca această tehnologie să fie folosită.
Rekognition s-a evidențiat în luna mai, când un raport al Uniunii Libertăților Civile din SUA a arătat că sistemul era folosit de agenții de aplicare a legii, inclusiv în cadrul unui program pilot de recunoaștere facială în timp real al poliției din Orlando, scrie theverge.com.
