Sunday, January 23rd, 2022

Facebook, da zapre in izbriše svoj sistem za prepoznavanje obrazov

Facebook ta mesec ukinja svoj sistem za prepoznavanje obrazov in namerava izbrisati skeniranje obrazov več kot 1 milijarde uporabnikov, ki jih je zbral v zadnjem desetletju, podjetje – pripisuje premik vse večji družbeni skrbi – objavili v torek.

Odločitev odpravlja funkcijo, ki je ustvarila predloge obrazov uporabnikov in jih primerjala z drugimi fotografijami in videoposnetki, objavljenimi na platformi. Zbrani podatki so omogočili Facebooku, da obvesti uporabnike, ko so se pojavili na fotografiji ali videu nekoga drugega, in uporabnike spodbudili, da »označejo« prijatelje in družino, ki jih je umetna inteligenca prepoznala v vsebini.

“Obstaja veliko pomislekov glede mesta tehnologije za prepoznavanje obrazov v družbi in regulatorji so še vedno v procesu zagotavljanja jasnega niza pravil, ki urejajo njeno uporabo,” Jerome Presenti, podpredsednik umetne inteligence pri Meta, Facebookovo novo imenovano matično podjetje, je zapisano v objavi na blogu. “Sredi te nenehne negotovosti menimo, da je omejitev uporabe prepoznavanja obraza na ozek nabor primerov uporabe primerna.”

Medtem ko nova sprememba pomeni, da tehnologija Meta ne bo več samodejno prepoznala, če je obraz uporabnika prikazan na fotografiji ali videu, objavljenem na platformi, bo Facebook še vedno uporabljal sistem v omejenih zmogljivostih. Uporabniki bodo lahko pridobili dostop do zaklenjenih računov ali preverili svojo identiteto za finančne produkte.

“To so kraji, kjer je prepoznavanje obrazov tako na splošno dragoceno za ljudi kot tudi družbeno sprejemljivo, če se uporablja previdno,” je dejal Presenti. Podjetje bo v prihodnosti premaknilo “ožje oblike osebne avtentikacije”, je dodal.

Toda obstajajo “težki kompromisi,” je dejal Presenti in spremembe bi lahko negativno vplivale na slabovidno skupnost.

“Možnost, da slepemu ali slabovidnemu uporabniku povemo, da je oseba na fotografiji v njihovem viru novic njihov srednješolski prijatelj ali nekdanji kolega, je dragocena lastnost, ki naredi naše platforme bolj dostopne,” je dejal Presenti, “vendar tudi je odvisna od osnovne tehnologije, ki poskuša oceniti obraze na fotografiji, da bi jih ujemala s tistimi, shranjenimi v bazi podatkov ljudi, ki so se odločili.

Samodejno nadomestno besedilo ali AAT je tehnologija, ki jo Facebook uporablja za ustvarjanje opisov slik za slabovidne in slepe uporabnike. Podjetje je dejalo, da AAT trenutno identificira ljudi na približno 4 % fotografij. Čeprav bo AAT še vedno lahko prepoznal, koliko ljudi je na fotografiji, ne bo več uporabljal prepoznavanja obraza za identifikacijo vsakega uporabnika na fotografiji.

Tehnologija prepoznavanja obrazov je v zadnjih letih napredovala, vendar se njena uporaba vse večja organi pregona je spodbudil pozive k ureditvi strokovnjakov za zasebnost. To je ugotovilo avgustovsko poročilo vladnega urada za odgovornost 18 od 24 anketiranih zveznih agencij je poročalo o uporabi programske opreme za prepoznavanje obrazov in vsaj deset jih namerava razširiti uporabo do leta 2023.

Druga skrb je rasna pristranskost pri uporabi tehnologije za prepoznavanje obrazov, ker lahko napačno prepozna črne in rjave obraze pri bistveno višje stopnje kot njihovi beli kolegi. Strokovnjaki za državljanske pravice so tudi kritizirali kitajsko uporabo tehnologije sledi ujgurskim muslimanom v imenu preprečevanja terorizma.

Strokovnjaki za zasebnost so objavo Facebooka pozdravili kot korak v pravo smer.

Sharon Bradford Franklin, sodirektorka projekta za varnost in nadzor pri Centru za demokracijo in tehnologijo, je dejala, da je prepoznavanje obrazov področje, kjer se tehnologija razvija hitreje kot predpisi, ki jo vodijo.

“Kjer je kongres počasen ali ne more ukrepati, je lahko koristno, če veliki zasebni akterji sprejmejo ukrepe za samoregulacijo ali uvedbo nadzora kot zapolnitev vrzeli,” je dejal Franklin. “Ali bo to povečalo zagon proti regulaciji, je težko reči,” je dodala.

Lansko leto, Amazon, Microsoft in IBM vsi so napovedali, da svoje tehnologije za prepoznavanje obrazov ne bodo prodali organom pregona.

Sporočilo Facebooka prihaja, ko se socialno omrežje ukvarja z intenzivnim javnim nadzorom. Prejšnji mesec je nekdanja uslužbenka Facebooka Frances Haugen, pricurljalo na tisoče internih dokumentov dokazuje, da podjetje pozna svoje izdelke pomagal širiti napačne informacije in razhajajoče vsebinet.

Nathalie Maréchal, višja vodja politike in partnerstev pri Ranking Digital Rights, organizaciji, ki promovira zasebnost na internetu, je podvomila o času objave Facebooka.

Dejala je, da platforma družbenih medijev “poskuša zaobiti resnična in izjemno pomembna vprašanja o svojem zapisu upravljanja in preglednosti.” V začetku tega leta je Facebook rešil tožbo glede zasebnosti v vrednosti 650 milijonov dolarjev v Illinoisu za domnevno uporabo biometričnih podatkov uporabnikov brez njihove privolitve.

“To ne prihaja od nikoder, iz dobrote srca podjetja,” je dejal Maréchal. “To vprašanje prepoznavanja obrazov je bilo za podjetje že dolgo pravi glavobol,” je dodala.

Maréchal je opozoril, da je Facebookova objava nakazala, da bo podjetje, ki preusmerja svoje vire za izgradnjo Metaverse – digitalnega sveta, v katerem ljudje delajo in se igrajo –, v prihodnosti še naprej uporabljalo neko obliko programske opreme za prepoznavanje obrazov.

“Zelo hitro bi lahko znova zgradili isti sistem,” je dejal Maréchal. “Nič jim ne preprečuje, da bi ga ponovno vklopili.”

Leave a Reply

Your email address will not be published. Required fields are marked *