Cijenjeni sveučilišni istraživači zvone na uzbunu zbog tehnologije koja stoji iza Appleovih planova skeniranja iPhone korisničke zbirke fotografija za CSAM ili materijal o seksualnom zlostavljanju djece, nazivajući tehnologiju 'opasnom'.
Jonanath Mayer, docent za informatiku i javne poslove na Sveučilištu Princeton, kao i Anunay Kulshrestha, istraživač u Centru za informacijske tehnologije Sveučilišta Princeton, oboje napisao op-ed za Washington Post , iznoseći svoja iskustva s izgradnjom tehnologije za detekciju slika.
Istraživači su prije dvije godine započeli projekt identificiranja CSAM-a u end-to-end šifriranim online uslugama. Istraživači napominju da s obzirom na njihovo područje 'znaju vrijednost end-to-end enkripcije, koja štiti podatke od pristupa trećih strana'. Ta zabrinutost, kažu, je ono što ih užasava zbog 'širenja CSAM-a na šifriranim platformama'.
kako prikvačiti karticu na Mac
Mayer i Kulshrestha rekli su da žele pronaći sredinu za situaciju: izgraditi sustav koji bi online platforme mogle koristiti za pronalaženje CSAM-a i zaštitu end-to-end enkripcije. Istraživači napominju da su stručnjaci na tom području sumnjali u perspektivu takvog sustava, ali su ga uspjeli izgraditi i pritom uočili značajan problem.
Nastojali smo istražiti moguću sredinu, gdje bi internetske usluge mogle identificirati štetan sadržaj, a u suprotnom sačuvati end-to-end enkripciju. Koncept je bio jednostavan: ako bi netko podijelio materijal koji odgovara bazi podataka poznatog štetnog sadržaja, usluga bi bila upozorena. Kada bi osoba podijelila nevini sadržaj, usluga ne bi naučila ništa. Ljudi nisu mogli pročitati bazu podataka niti saznati odgovara li sadržaj, budući da bi te informacije mogle otkriti metode provođenja zakona i pomoći kriminalcima da izbjegnu otkrivanje.
Upućeni promatrači tvrdili su da je sustav poput našeg daleko od izvedivog. Nakon mnogo lažnih startova, napravili smo radni prototip. Ali naišli smo na očigledan problem.
Od Appleove objave ove značajke, tvrtka je bombardirana sa zabrinutošću da bi se sustav koji stoji iza otkrivanja CSAM-a mogao koristiti za otkrivanje drugih oblika fotografija na zahtjev represivnih vlada. Apple je snažno odbio takvu mogućnost, rekavši da će odbiti svaki takav zahtjev vlada.
Ipak, zabrinutost oko budućih implikacija tehnologije koja se koristi za CSAM detekciju je široko rasprostranjena. Mayer i Kulshrestha rekli su da ih je 'poremetila' njihova zabrinutost oko toga kako bi vlade mogle koristiti sustav za otkrivanje sadržaja koji nije CSAM.
kako preuzeti s iclouda na novi iphone
Strana vlada mogla bi, na primjer, natjerati uslugu ljudima koji dijele politički govor koji nije naklonjen. To nije hipotetičko: WeChat, popularna kineska aplikacija za razmjenu poruka, već koristi podudaranje sadržaja za identifikaciju disidentskog materijala. Indija je ove godine donijela pravila koja bi mogla zahtijevati prethodnu provjeru sadržaja koji je kritičan prema vladinoj politici. Rusija je nedavno kaznila Google, Facebook i Twitter jer nisu uklonili materijale za prodemokratske prosvjede.
Uočili smo i druge nedostatke. Proces podudarnosti sadržaja mogao bi imati lažne pozitivne rezultate, a zlonamjerni korisnici mogli bi igrati sustav kako bi podvrgli nedužne korisnike ispitivanju.
Bili smo toliko uznemireni da smo poduzeli korak koji prije nismo vidjeli u literaturi o informatici: upozorili smo na vlastiti dizajn sustava, potaknuvši daljnja istraživanja o tome kako ublažiti ozbiljne nedostatke...
Apple je nastavio rješavati zabrinutost korisnika zbog svojih planova, objavljivanje dodatnih dokumenata i stranicu s čestim pitanjima . Apple i dalje vjeruje da je njegov sustav detekcije CSAM, koji će se pojaviti na korisnikovom uređaju, usklađen s njegovim dugogodišnjim vrijednostima privatnosti.
Oznake: Appleova privatnost , WashingtonPost.com , Apple sigurnosne značajke za djecu
Popularni Postovi