Potrivit lui Matthew Green, profesor de criptografie la Universitatea Johns Hopkins, Apple se pregătește să lanseze un instrument de detectare a abuzurilor asupra copiilor în fotografii.

Acesta va analiza automat fotografiile pe care utilizatorul le stochează și le creează pe dispozitivul lor, căutând markeri de abuz asupra copiilor. Simplu spus, este o rețea neuronală instruită asupra conținutului ilegal și capabilă să-l detecteze în alte imagini.

Această funcție va funcționa în același mod ca și căutarea fotografiilor prin aplicația standard pentru galerie iOS. Toate calculele au loc pe dispozitiv pentru a asigura confidențialitatea utilizatorilor – până când sistemul observă ceva suspect. Fotografiile pe care sistemul le consideră că ar putea conține conținut ilegal vor fi trimise spre verificare de către oameni.

Cu toate acestea, Greene observă o serie de probleme potențiale cu sistemul. În special, algoritmii moderni nu sunt perfecți și pot detecta mulți falsi pozitivi. Dacă Apple permite guvernelor naționale să acceseze această bază de date, acestea ar putea utiliza sistemul pentru a detecta nu numai conținut ilegal cu copiii, ci și în alte scopuri – în special, pentru a controla opoziția politică.

Singurul mod în care Apple poate implementa noul sistem și proteja utilizatorii este prin utilizarea criptării end-to-end pentru transferul de date. Până în prezent, compania nu a reușit să o implementeze în iCloud, dar poate se va face o excepție pentru a transfera conținut controversat.

Green raportează că Apple se pregătește să anunțe noul algoritm în zilele următoare.