Kāpēc Apple atkāpās no savas foto skenēšanas funkcijas?

2021. gada augustā Apple atklāja savus plānus skenēt iPhone, lai atrastu bērnu seksuālās izmantošanas attēlus. Šis solis izpelnījās aplausus no bērnu aizsardzības grupām, taču radīja bažas privātuma un drošības ekspertu vidū, ka šo funkciju var izmantot ļaunprātīgi.

Sākotnēji Apple plānoja iOS 15 iekļaut bērnu seksuālās vardarbības materiālu (CSAM) skenēšanas tehnoloģiju; tā vietā uz nenoteiktu laiku ir aizkavējusies funkcijas izlaišana, lai pirms pilnīgas izlaišanas lūgtu atsauksmes.

Tātad, kāpēc CSAM noteikšanas funkcija kļuva par asu diskusiju objektu, un kas lika Apple atlikt tā ieviešanu?

Ko dara Apple fotoattēlu skenēšanas funkcija?

Apple paziņoja, ka ieviesīs fotoattēlu skenēšanas funkciju, lai cīnītos pret bērnu seksuālo izmantošanu. Visas Apple lietotāju ierīcēs esošās fotogrāfijas tiks skenētas, lai noteiktu pedofīlijas saturu, izmantojot Apple izveidoto algoritmu "NueralHash".

Turklāt visām Apple izmantotajām ierīcēm, kuras izmanto bērni, būtu drošības funkcija, kas automātiski darbosies aizmiglot pieaugušo attēlus, ja tos saņem bērns, un lietotājs tiks divreiz brīdināts, ja viņi mēģinās atvērt viņus.

Neatkarīgi no pieaugušo satura iedarbības samazināšanas, ja vecāki reģistrē bērniem piederošās ierīces papildu drošībai, vecāki tiks informēti, ja bērns no kāda saņem skaidru saturu tiešsaistē.

Lasīt vairāk: Kas jums jāzina par Apple bērnu aizsardzību

Attiecībā uz pieaugušajiem, kuri izmanto Siri, lai meklētu visu, kas seksualizē bērnus, Siri neveiks šo meklēšanu un tā vietā ieteiks citas alternatīvas.

Dati no jebkuras ierīces, kurā ir 10 vai vairāk fotoattēli, kurus algoritmi uzskata par aizdomīgiem, tiks atšifrēti un pakļauti cilvēku pārskatīšanai.

Ja šīs vai citas ierīces fotogrāfijas izrādās atbilstošas ​​kaut kam no piedāvātās datu bāzes Pazudušo un izmantoto bērnu nacionālais centrs, par to tiks ziņots iestādēm, un lietotāja konta darbība tiks apturēta.

Galvenās bažas par fotoattēlu skenēšanas funkciju

CSAM noteikšanas funkcija būtu sākusi darboties līdz ar iOS 15 palaišanu 2021. gada septembrī, taču tas būtu jādara Pēc plašā sašutuma Apple nolēma veltīt vairāk laika, lai apkopotu atsauksmes un veiktu uzlabojumus iezīme. Šeit ir Pilns Apple paziņojums par kavēšanos:

"Pagājušajā mēnesī mēs paziņojām par funkcijām, kas paredzētas, lai palīdzētu aizsargāt bērnus no plēsējiem izmantot saziņas līdzekļus, lai tos pieņemtu darbā un izmantotu, un ierobežotu seksuālās vardarbības pret bērniem izplatību Materiāls.

Pamatojoties uz klientu, aizstāvības grupu, pētnieku un citu personu atsauksmēm, mēs esam nolēmuši veltīt papildu laiku nākamajos mēnešos, lai apkopotu informāciju un veiktu uzlabojumus, pirms atbrīvot šo kritiski svarīgo bērnu drošību Iespējas".

Gandrīz puse no bažām, kas saistītas ar Apple fotoattēlu skenēšanas funkciju, ir saistīta ar privātumu; pārējie argumenti ietver iespējamo algoritmu neprecizitāti un iespējamo sistēmas vai tās nepilnību ļaunprātīgu izmantošanu.

Sadalīsim to četrās daļās.

Iespējama ļaunprātīga izmantošana

Zinot, ka jebkurš materiāls, kas atbilst bērnu pornogrāfijai vai zināmi bērnu seksuālas izmantošanas attēli, iekļūs ierīcē "aizdomīgo" sarakstā, var sākt kibernoziedzniekus.

Viņi var apzināti bombardēt personu ar nepiemērotu saturu, izmantojot iMessage, WhatsApp vai citus līdzekļus, un apturēt šīs personas konta darbību.

Apple ir apliecinājis, ka lietotāji var iesniegt apelāciju gadījumā, ja viņu kontu darbība ir apturēta pārpratuma dēļ.

Iekšējās informācijas ļaunprātīga izmantošana

Lai gan šī funkcija ir paredzēta labestīgam mērķim, tā var pārvērsties par pilnīgu katastrofu noteiktiem cilvēkiem, ja viņu ierīces radinieki, kuri ir ieinteresēti uzraudzīt viņu saziņu, ir reģistrēti sistēmā ar vai bez viņu ziņas.

Pat ja tas nenotiek, Apple ir izveidojis aizmugures durvis, lai lietotāju dati dienas beigās būtu pieejami. Tagad runa ir par motivāciju un apņēmību cilvēkiem piekļūt citu personu personiskajai informācijai.

Saistīts: Kas ir aizmugurējās durvis un ko tās dara?

Tas ne tikai atvieglo būtisku privātuma pārkāpumu, bet arī paver ceļu ļaunprātīgai, toksiskai vai kontrolei radiniekiem, aizbildņiem, draugiem, mīļotājiem, aprūpētājiem un bijušajiem, lai vēl vairāk iejauktos kāda personiskajā telpā vai ierobežotu viņu brīvība.

No vienas puses, tas ir paredzēts, lai apkarotu seksuālu vardarbību pret bērniem; no otras puses, to var izmantot, lai turpinātu cita veida ļaunprātīgu izmantošanu.

Valdības uzraudzība

Apple vienmēr ir sevi dēvējis par zīmolu, kas vairāk rūpējas par privātumu nekā konkurenti. Bet tagad tas, iespējams, ieiet slidenā nogāzē, lai izpildītu nebeidzamās pārredzamības prasības lietotāju dati no valdībām.

Sistēmu, ko tā ir izveidojusi, lai atklātu pedofīlijas saturu, var izmantot jebkura veida satura noteikšanai tālruņos. Tas nozīmē, ka valdības ar kulta mentalitāti var uzraudzīt lietotājus personiskākā līmenī, ja viņi to pieķer.

Apspiedoši vai nē, valdības iesaistīšanās jūsu ikdienas un personīgajā dzīvē var būt satraucoša, un tā ir iejaukšanās jūsu privātumā. Ideja, ka jums jāuztraucas par šādiem iebrukumiem tikai tad, ja esat izdarījis kaut ko nepareizi, ir kļūdaina domāšana un nespēj saskatīt iepriekš minēto slideno nogāzi.

Viltus trauksmes

Viena no lielākajām bažām par algoritmu izmantošanu attēlu saskaņošanai ar datu bāzi ir viltus trauksmes. Jaukšanas algoritmi var kļūdaini identificēt divus fotoattēlus kā atbilstošus, pat ja tie nav vienādi. Šīs kļūdas, ko sauc par "sadursmēm", ir īpaši satraucošas saistībā ar bērnu seksuālās izmantošanas saturu.

Pētnieki atklāja vairākas sadursmes "NeuralHash" pēc tam, kad Apple paziņoja, ka izmantos attēlu skenēšanas algoritmu. Apple atbildēja uz jautājumiem par viltus trauksmēm, norādot, ka rezultātu beigās pārskatīs cilvēks, tāpēc cilvēkiem par to nav jāuztraucas.

Vai Apple CSAM pauze ir pastāvīga?

Apple piedāvātajai funkcijai ir daudz plusi un mīnusi. Katrs no tiem ir īsts un notur svaru. Joprojām nav skaidrs, kādas konkrētas izmaiņas Apple varētu ieviest CSAM skenēšanas funkcijā, lai apmierinātu savus kritiķus.

Tas varētu ierobežot skenēšanu ar koplietotiem iCloud albumiem, nevis iesaistīt lietotāju ierīces. Maz ticams, ka Apple pilnībā atteiksies no šiem plāniem, jo ​​uzņēmums parasti nevēlas padoties saviem plāniem.

Tomēr tas ir skaidrs no plašās pretreakcijas un Apple atturēšanās no saviem plāniem uzņēmumiem jau no paša sākuma būtu jāiekļauj pētnieku kopiena, jo īpaši attiecībā uz nepārbaudītu tehnoloģija.

Drošība internetā: vairāk nekā 50 padomi, kā aizsargāt savus bērnus tiešsaistē

Bērni ir galvenie tiešsaistes plēsēju un kibernoziedznieku mērķi. Šie noderīgie padomi var iemācīt vecākiem, kā nodrošināt viņu drošību tiešsaistē.

Lasīt Tālāk

Par autoru