După IBM, Amazon retrage softul de recunoaștere facială, pentru „comportament” rasist

Tehnologia poate fi o sursă de discriminare? De la moartea lui George Floyd, protestatarii și asociațiile care apără libertățile au solicitat, printre altele, interzicerea tehnologiei recunoașterii faciale. Sub presiunea străzii, IBM a suspendat luni vânzările software-ului și a venit rândul lui Amazon, joi. Gigantul comertului online oferea poliției americane un program numit „Rekognition”.

Amazon tocmai a interzis utilizarea acestuia timp de un an. „Sperăm că această pauză de un an va oferi Congresului suficient timp pentru a pune în aplicare reguli adecvate”, se arată într-un comunicat transmis de Amazon, referindu-se la legea solicitată de democrați în Camera Reprezentanților, care urmărește „schimbarea mentalității” în cadrul poliției din Statele Unite.

Dar cum poate recunoașterea facială să fie rasistă? Această tehnologie este folosită de poliția americană pentru a identifica suspecții, pe baza unei fotografii sau a unui videoclip. Dar uneori această tehnică poate duce la arestarea unor oameni nevinovați și greșelile adesea afectează comunitatea afro-americană.

Lipsa diversității în rândul programatorilor

Aceasta se explică prin modul în care este creat software-ul de recunoaștere facială. Informaticienii dezvoltă algoritmi capabili să găsească identitatea cuiva în raport cu o imagine. Pentru a crea acest algoritm, ele evidențiază anumite caracteristici faciale, fără a ține cont în special de specificul fețelor colorate. Oamenii de știință folosesc cercetări preexistente și date făcute în mare parte de cercetători albi. Prin urmare, programul este orientat spre recunoașterea fețelor albe și apoi testat pe… oameni albi.

Drept urmare, recunoașterea facială nu detectează bine fețele colorate. Cu cât tenul este mai întunecat, cu atât rata de eroare este mai mare. Până la 35%, conform unui studiu realizat în Statele Unite de către MIT și Microsoft în 2018. Dacă fortele de poliție americane trebuie reformate în privința discriminării, sectorul recunoașterii faciale trebuie să se mai mediteze și el la lipsa diversității printre cercetătorii săi.