Microsoft izplata dziļu viltojumu noteikšanas rīku

Ņemot vērā to, cik dziļi viltojumi potenciāli grauj kāda reputāciju un ir ļoti grūti pamanāmi, ja tiek izdarīts pareizi, tie rada nopietnas bažas par drošību. Tagad Microsoft mērķis ir palīdzēt apturēt viltojumus, izlaižot rīku, kas tos var atklāt.

Dziļo viltojumu radītie draudi ir tik būtiski, ka tie arī radīja Facebook, lai aizliegtu visu dziļi viltotu saturu. Tomēr lielākais šķērslis ir tas, kā dziļi viltojumi tiek likti pārliecinoši; kā tādu atrast un apstiprināt dziļu viltojumu ir ļoti grūti.

Facebook aizliedz deffakes un fotošopus

Facebook aizliedz deepfakes un Photoshopped fotogrāfijas. Ideja ir noņemt manipulētus plašsaziņas līdzekļus, kas paredzēti lietotāju maldināšanai.

Kā ziņots par Microsoft par jautājumiem, uzņēmums vēlas to mainīt ar savu jauno rīku. To sauc par Microsoft Video Authenticator, un tas analizē videoklipus, lai meklētu "šuves", kas palikušas aiz dziļu viltojumu izveidošanas. Šīs vīles cilvēka acīm nav redzamas, taču dators tās var pamanīt, izmantojot kadru pa kadram analīzi.

Lai novērstu ļaunprātīgu aģentu tehnoloģisko pārveidošanu, Microsoft Video Authenticator nebūs publisks izlaidums. Tā vietā Microsoft izplata savu sistēmu ziņu un politiskajām organizācijām. Tādā veidā šīs organizācijas var izmantot rīku, lai atdalītu reālo no viltus.

Tomēr Microsoft ir paziņojusi par otro tehnoloģiju, lai identificētu viltojumus. Uzņēmums piedāvā sistēmu, kurā satura veidotājs savus videoklipus var atzīmēt ar unikālu "parakstu". Ja video ir rediģēts, tas ģenerēs citu parakstu nekā oriģināls, tādējādi identificējot a dziļi viltots.

Raksta Deep Fakes and Infocalypse autore Ņina Šika sacīja:

Vienīgais patiešām plaši izmantotais veids, ko līdz šim esam redzējuši, ir pornogrāfija, kas nav vienprātīga pret sievietēm. Bet paredzams, ka sintētiskie nesēji kļūs visuresoši apmēram trīs līdz piecu gadu laikā, tāpēc mums šie instrumenti ir jāattīsta arī turpmāk. Tomēr, uzlabojoties noteikšanas iespējām, uzlabosies arī paaudzes iespējas - tā nekad nav Gadījumā, ja Microsoft var izlaist vienu rīku, kas var noteikt visu veidu video manipulācijas.

Deepfakes ir nozīmīga mediju uzticamības problēma, un uzņēmumiem ir nepieciešams veids, kā to izdarīt pastāstiet, kas ir īsts no daiļliteratūras. Microsoft ir izlaidis rīku, kas palīdz pamanīt rediģētos videoklipus. Tomēr tas, vai rīks būs pietiekams, lai neatpaliktu no dziļo viltojumu izstrādātājiem, vēl nav redzams.

Ja neesat pārliecināts par to, kas ir viltojumi un kāpēc tie ir svarīgi, noteikti ir vērts veltīt kādu laiku, lai par tiem uzzinātu. Deepfakes ir gatavs kļūt par šīs desmitgades ekvivalentu "Photoshopping" attēliem, un, ļaunprātīgi lietojot, tas var radīt nopietnus zaudējumus.

Deepfakes Explained: AI, kas padara viltus videoklipus pārāk pārliecinošus

Mākslīgā intelekta radītie viltus videoklipi pilnībā grauj mūsu izpratni par notikumiem pasaulē. Lūk, kā dziļi viltojumi var visu mainīt.

Par autoru