Vai Deepfake var muļķot sejas atpazīšanu? Jauns pētījums saka jā!

Dziļās viltus un mākslīgā intelekta radītie videoklipi ir šeit, lai paliktu. Bet pēdējo gadu laikā to kvalitāte un daudzums ir pieaudzis, liekot daudziem cilvēkiem uztraukties par valsts drošību un privātumu.

Tomēr neatkarīgi no tā, cik smagi anonīmi tiešsaistes lietotāji mēģināja padarīt savu viltus video reālistisku, viņi nekad nevarēja tikt galā ar uzlaboto sejas atpazīšanas programmatūru. Līdz šim brīdim.

Muļķojošās sejas atpazīšanas API

Pētnieki Sungkyunkwan universitātē Suvonā, Dienvidkorejā, pārbaudīja pašreizējās dziļās viltošanas tehnoloģijas kvalitāti. Viņi pārbaudīja gan Amazon, gan Microsoft API, izmantojot atvērtā pirmkoda un parasti izmantoto dziļi viltus video ģenerēšanas programmatūru, lai redzētu, cik labi tie darbojas.

Pētnieki izmantoja Holivudas slavenību sejas. Lai izveidotu stabilu dziļu viltojumu, programmatūrai ir nepieciešams daudz augstas kvalitātes attēlu no dažādiem to pašu personu leņķi, kurus slavenībām ir daudz vieglāk iegūt, nevis parastus cilvēki.

Pētnieki arī nolēma izmantot Microsoft un Amazon API kā etalonus savam pētījumam, jo ​​abi uzņēmumi piedāvā slavenību sejas atpazīšanas pakalpojumus. Viņi izmantoja publiski pieejamas datu kopas un izveidoja nedaudz vairāk par 8000 dziļu viltojumu. No katra dziļi viltus videoklipa viņi izvilka vairākus sejas attēlus un iesniedza to API.

Izmantojot Microsoft Azure kognitīvos pakalpojumus, pētnieki varēja apmānīt sistēmu 78 procentus laika, izmantojot dziļas viltus. Amazon rezultāti bija nedaudz labāki, jo 68 procenti iesniegto seju tika identificētas kā īstas.

Kā ir ar dziļo viltojumu detektoriem?

Dziļās viltošanas detektori darbojas vairāk vai mazāk tāpat kā dziļi viltoti. Detektori ir programmatūra, kas tika apmācīta, izmantojot mašīnmācīšanās modeļus, kā atklāt dziļi viltotus video.

Bet tā vietā, lai koncentrētos uz hiperreālistiska videoklipa izveidi, lai apmānītu detektorus, dziļās viltošanas tagad katrā kadrā var iekļaut pretrunīgus piemērus, lai sajauktu AI sistēmu. Patiesībā šāda veida dziļi viltotu uzbrukumu veiksmes rādītāji svārstās no 78 līdz 99 procentiem.

Tas kļūst sliktāk

Deepfakes ir mašīnmācīšanās programma. Lai izveidotu pat pārliecinošu attēlu, jums ir nepieciešami simtiem vienas un tās pašas sejas attēlu no dažādiem leņķiem un dažādu emociju attēlojuma.

Tā kā vajadzīgi milzīgi datu apjomi, varētu domāt, ka apdraudēti ir tikai cilvēki ar lielu klātbūtni tiešsaistē, piemēram, slavenības un politiķi. Bet tas tā vairs nav.

Saskaņā ar Deeptrace datiem dziļo viltojumu skaits tiešsaistē gada laikā pieauga par 330 procentiem - no 2019. gada oktobra līdz 2020. gada jūnijam. Nemaz nerunājot par to, ka programmatūra un algoritmi, ko izmanto dziļi viltoti veidotāji, kļūst stiprāki un vieglāk pieejami un pieejami.

Kam draud dziļas viltus?

Kad dziļi viltojumi pirmo reizi kļuva par galveno, primāro bažas bija par privātumu un valsts drošību. Cilvēki baidījās, ka politiķu un oficiālo valdības darbinieku video materiāliem vairs nevar uzticēties.

Bet, lai gan būtu bezatbildīgi neņemt vērā drošības riska dziļo viltojumu, vairākas aptaujas atklāja, ka dziļu viltojumu veidotāji vēl nav tik ieinteresēti traucēt politiku. Lielāko daļu dziļo viltojumu tiešsaistes videoklipu var iedalīt divās kategorijās: smieklīgi slavenību interviju videoklipi un filmas un pornogrāfisks materiāls.

Lai gan nesenais pētījums tika veikts, izmantojot slavenību sejas, lai pārliecinātos, ka dziļas viltības ir augstas kvalitātes, lai maldinātu API, tas nenozīmē, ka jūs nevarat izveidot dziļas viltības ar mazāk datu. Protams, viņiem var nebūt iespējas apmānīt uzlabotas sejas atpazīšanas sistēmas, taču tās var būt pietiekami pārliecinošas, lai apmānītu citus cilvēkus.

Mūsdienās ikviena, kam ir sociāla klātbūtne, dziļi viltus var izdarīt pārliecinoši. Viss, kas viņiem nepieciešams, ir dažas jūsu fotogrāfijas un varbūt videoklips, kurā jūs parādāties. Iegūtais dziļais viltojums var būt zemas kvalitātes, taču tas joprojām ir izpildāms un var kaitēt.

Nākotne joprojām nav zināma

Pastāv daudzas pretrunīgas prognozes par dziļo viltojumu stāvokli, jo tās drīz nepazudīs.

Daži gaida apokaliptisku kibernētisku nākotni, kurā nevar uzticēties nevienam tiešsaistē uzņemtajam materiālam. Citi ir optimistiskāki, salīdzinot dziļos viltojumus ar animāciju un sakot, ka satura ražošanā tam var būt nākotne.

Kā pasargāt sevi no viltus video

Dziļās viltības kļūst arvien izplatītākas. Lūk, kā viņi var apdraudēt jūsu tiešsaistes privātumu un kā izvairīties no uzņemšanas.

Lasīt Tālāk

Par autoru