Kā AI mudināja cilvēkus domāt, ka Tramps ir arestēts

Ja esat aktīvs vietnē Twitter, iespējams, esat redzējis dažus šokējošus attēlus ar bijušo ASV prezidentu Donaldu Trampu, kuru policisti arestēja, cīnās ar viņiem un pat bēg no viņiem. Izrādās, ka nekas no tā nebija īsts. Bet kā tas viss notika?

Donalda Trampa arests, kas nekad nav noticis

Bijušais ASV prezidents ar savas amatpersonas starpniecību dalījās iespējamā informācijas noplūdē Patiesība Sociālais rokturis gada 18. martā. Ziņojumā teikts, ka viņš gaida arestu nākamās nedēļas otrdienā par "vecām un pilnībā atmaskotām" apsūdzībām pret viņu. Nepagāja ilgs laiks, kad visā internetā sāka parādīties attēli ar Trampa arestu.

Attēlos bija redzami kadri ar Trampa arestu, ko veica likumsargu grupa.

Attēli tika ģenerēti ar mākslīgo intelektu

Tomēr attēli nebija autentiski. Tie bija dziļi viltojumi, kas izgatavoti ar Midjourney, AI attēlu ģenerators. Midjourney izmanto dziļas mācīšanās algoritmu, lai ģenerētu attēlus no nulles, izmantojot teksta uzvednes. Šajā gadījumā teksta uzvednes bija Trampa arestēšanas varianti.

Deepfake tehnoloģija ir pastāvējis kādu laiku, un tas kļūst arvien sarežģītāks. AI radītie attēli agrāk bija viegli identificējami: tiem trūka detaļu un reālisma. tomēr Midjourney jaunākais laidiens (v5) atrisināja lielāko daļu šo problēmu, un patiesībā tā bija versija, kas tika izmantota, lai radītu Trampa aresta dziļos viltojumus.

Kā attēli kļuva par vīrusiem

Izmeklējošais žurnālists Eliots Higinss izveidoja pirmās versijas par Trampa aizturēšanas dziļajām viltojumiem, lai vizualizētu, kā izskatītos Trampa arests. Viņš tos ievietoja savā Twitter kontā. Lai gan viņa paraksts jau sākumā bija skaidrs, ka attēli ir viltoti, nepagāja ilgs laiks, līdz ziņa kļuva plaši izplatīta.

Kad attēli izplatījās sociālajos medijos, daudzi cilvēki uzskatīja, ka tas ir īsts. Trampa ieraksts vietnē Truth Social cilvēkiem jau bija aizdomīgs, un reālistiskie attēli tikai kurināja uguni. Pagāja kāds laiks, līdz kļuva skaidrs, ka fotogrāfijas ir viltotas un aizturēšanas stāsts bija mānīšana.

Sociālo mediju ieraksti, kuros "ziņo" par viltus arestu, ir dzēsti vai uz tiem ir dezinformācijas etiķete. Kā sodu Midjourney arī uz mēnesi bloķēja Higinsu no sava servera The Washington Post.

Dziļo viltojumu laikmets prasa modrību

Trampa aizturēšanas dziļie viltojumi izceļ satraucošos AI tehnoloģiju sasniegumus. Viltus attēlus tagad var izveidot ar neticami viegli, un tie izskatās tik reālistiski, ka ir grūti atšķirt, kas ir īsts un kas nav. Modrība tagad ir kritiskāka nekā jebkad agrāk, kad runa ir par tiešsaistes saturu.