Apple odmaknil uvedbo NeuralHasha za pregledovanje sporočil na telefonih

Apple bo še nekoliko počakal z uvedbo sistema za avtomatično pregledovanje sporočil na iphonih, ki ga je napovedal pred mesecem in je dvignil veliko prahu. Na nevronskih mrežah osnovan sistem NeuralHash bi za vsako prejeto fotografijo izračunal zgoščeno vrednost (hash) in jo primerjal z znanimi vrednostmi za znane posnetke otroške pornografije. Ujemanja bi nato preveril tudi človek in incident prijavil organom pregona, če bi bilo ujemanj dovolj (omenjalo se je število 30). Strokovnjaki so tedaj opozarjali, da je predlagani algoritem slab, ker ga je možno hitro pretentati, za kar naj bi - tako so ugotovili po vzvratnem inženiringu - zadostovalo že vrtenje ali izrezovanje fotografij. Prav tako so hitro pokazali, da je praktično izvedljivo ustvarjanje kolizij.

Zaradi vseh teh odkritij in pritiska javnosti je Apple sporočil, da si bo vzel dodaten čas za premislek in izvedbo. Electronic Frontier Foundation kot ena največjih organizacij za varovanje pravice do zasebnosti je zbrala tudi 25.000 podpisov potrošnikov proti novemu sistemu, ki bi ga bilo možno zlorabiti. Na deklarativni ravni smo seveda vsi proti otroški pornografiji, a rešitve, ki uvajajo več slabosti, pasti, ranljivosti in možnosti za zlorabe, kot pa dejansko rešujejo problem, v javnosti naletijo na nasprotovanje. Apple bo še nekaj mesecev zbiral informacije in pripravljal izboljšave, preden bo izdal nov sistem. To torej pomeni, da se mu ni odpovedal, temveč ga je zgolj nekoliko zamaknil.