Vai AI balss ģeneratori ir nākamais lielais drošības apdraudējums?

Mākslīgais intelekts (AI) ir spēcīga tehnoloģija, kas sola pārveidot mūsu dzīvi. Nekad tas nav bijis tik skaidrs kā šodien, kad jaudīgi rīki ir pieejami ikvienam, kam ir interneta savienojums.

Tas ietver AI balss ģeneratorus, modernu programmatūru, kas spēj atdarināt cilvēka runu tik kompetenti, ka nav iespējams tos atšķirt. Ko tas nozīmē kiberdrošībai?

Kā darbojas AI balss ģeneratori?

Runas sintēze, cilvēka runas mākslīgas veidošanas process, pastāv jau vairākus gadu desmitus. Un tāpat kā visas tehnoloģijas, gadu gaitā tā ir piedzīvojusi pamatīgas izmaiņas.

Tie, kas ir izmantojuši operētājsistēmu Windows 2000 un XP, varētu atcerēties Microsoft Sam, operētājsistēmas noklusējuma vīriešu balsi teksta pārveidošanai runā. Microsoft Sam paveica darbu, taču tā radītās skaņas bija robotiskas, stingras un nedabiskas. Mūsdienās mūsu rīcībā esošie rīki ir ievērojami uzlaboti, galvenokārt pateicoties padziļinātai apmācībai.

Dziļa mācīšanās ir a mašīnmācīšanās metode kas balstās uz mākslīgiem neironu tīkliem. Šo neironu tīklu dēļ mūsdienu AI spēj apstrādāt datus gandrīz tāpat kā cilvēka smadzeņu neironi interpretē informāciju. Proti, jo cilvēciskāks mākslīgais intelekts kļūst līdzīgāks, jo labāk tas līdzinās cilvēka uzvedībai.

Tā īsumā darbojas mūsdienu AI balss ģeneratori. Jo vairāk runas datu viņi tiek pakļauti, jo prasmīgāki viņi kļūst cilvēka runas atdarināšanā. Pateicoties salīdzinoši nesenajiem sasniegumiem šajā tehnoloģijā, jaunākā teksta pārvēršanas runā programmatūra var būtībā atkārtot tās ievadītās skaņas.

Kā draudu aktieri izmanto AI balss ģeneratorus

Nav pārsteidzoši, ka draudu dalībnieki ļaunprātīgi izmanto šo tehnoloģiju. Un ne tikai kibernoziedznieki šī vārda tipiskā nozīmē, bet arī dezinformācijas aģenti, krāpnieki, melnās cepures tirgotāji un troļļi.

Brīdī, kad 2023. gada janvārī ElevenLabs izlaida savas teksta-runas programmatūras beta versiju, galēji labējie troļļi ziņojumu dēļa 4chan sāka to ļaunprātīgi izmantot. Izmantojot progresīvo mākslīgo intelektu, viņi atveidoja tādu personu balsis kā Deivids Attenboro un Emma Vatsone, radot iespaidu, ka slavenības rīkojas zemiskas, naidpilnas tirādes.

Kā Vice tajā laikā tika ziņots, ka ElevenLabs atzina, ka cilvēki ļaunprātīgi izmanto tās programmatūru, jo īpaši balss klonēšanu. Šī funkcija ļauj ikvienam "klonēt" citas personas balsi; Viss, kas jums jādara, ir augšupielādēt vienu minūti garu ierakstu un ļaut AI paveikt visu pārējo. Jādomā, jo ilgāks ir ieraksts, jo labāka ir izvade.

2023. gada martā uzmanību piesaistīja vīrusu TikTok videoklips The New York Times. Videoklipā slavenais podkāsts Džo Rogans un doktors Endrjū Hūbermans, biežs The Joe Rogan Experience viesis, tika dzirdēti apspriežam "libido paaugstinošu" kofeīna dzērienu. Videoklipā šķita, ka gan Rogans, gan Hubermans nepārprotami atbalsta produktu. Patiesībā viņu balsis tika klonētas, izmantojot AI.

Aptuveni tajā pašā laikā Santaklārā, Kalifornijā bāzētā Silīcija ielejas banka sabruka riska pārvaldības kļūdu un citu problēmu dēļ, un to pārņēma štata valdība. Šī bija lielākā banku bankrota Amerikas Savienotajās Valstīs kopš 2008. gada finanšu krīzes, tāpēc tā radīja triecienviļņus pasaules tirgos.

Paniku veicināja viltots ASV prezidenta Džo Baidena audioieraksts. Ierakstā Baidens acīmredzot dzirdēja brīdinājumu par nenovēršamu "sabrukumu" un liek savai administrācijai "izmantot visu plašsaziņas līdzekļu spēku, lai nomierinātu sabiedrību". Faktu pārbaudītājiem patīk PolitiFact steidzās klipu atmaskot, taču, visticamāk, miljoniem to jau bija dzirdējuši.

Ja mākslīgā intelekta balss ģeneratorus var izmantot, lai uzdotos par slavenībām, tos var izmantot arī, lai uzdotos par parastajiem cilvēkiem, un tieši to ir darījuši kibernoziedznieki. Saskaņā ar ZDNet, tūkstošiem amerikāņu iekrīt krāpniecībā, kas pazīstama kā vizhing vai balss pikšķerēšana katru gadu. Viens vecāka gadagājuma pāris nokļuva valsts ziņu virsrakstos 2023. gadā, kad saņēma tālruņa zvanu no sava "mazdēla", kurš apgalvoja, ka atrodas cietumā, un lūdza naudu.

Ja kādreiz esat augšupielādējis YouTube videoklipu (vai piedalījies vienā), piedalījies lielā grupas zvanā ar personām, kuras neesat Ja zināt vai augšupielādējat savu balsi internetā, teorētiski jūs vai jūsu tuvinieki varētu būt apdraudēti. Kas neļautu krāpniekam augšupielādēt jūsu balsi AI ģeneratorā, klonēt to un sazināties ar jūsu ģimeni?

AI balss ģeneratori izjauc kiberdrošības ainavu

Nav nepieciešams kiberdrošības eksperts, lai saprastu, cik bīstams AI var nonākt nepareizās rokās. Un, lai gan ir taisnība, ka to pašu var teikt par visām tehnoloģijām, AI ir unikāls drauds vairāku iemeslu dēļ.

Pirmkārt, tas ir salīdzinoši jauns, kas nozīmē, ka mēs īsti nezinām, ko no tā sagaidīt. Mūsdienu mākslīgā intelekta rīki ļauj kibernoziedzniekiem mērogot un automatizēt savas darbības vēl nebijušā veidā, vienlaikus izmantojot sabiedrības relatīvo nezināšanu šajā jautājumā. Turklāt ģeneratīvā AI ļauj to darīt apdraudējuma dalībniekiem ar mazām zināšanām un prasmēm izveidot ļaunprātīgu kodu, veidot krāpnieciskas vietnes, izplatīt surogātpastu, rakstīt pikšķerēšanas e-pastus, radīt reālistiskus attēlus, un rada bezgalīgas stundas viltota audio un video satura.

Būtiski, ka tas darbojas abos virzienos: AI tiek izmantots arī sistēmu aizsardzībai, un tas, visticamāk, tiks izmantots arī turpmākajās desmitgadēs. Nebūtu nepamatoti pieņemt, ka mūs sagaida sava veida AI bruņošanās sacensība starp kibernoziedzniekiem un kiberdrošības nozare, jo šo rīku aizsardzības un uzbrukuma spējas ir raksturīgas vienāds.

Vidusmēra cilvēkam plaši izplatītā ģeneratīvā AI parādīšanās prasa radikālu drošības prakses pārdomāšana. Lai cik aizraujošs un noderīgs būtu AI, tas vismaz var izjaukt robežu starp to, kas ir īsts un kas nav, un sliktākajā gadījumā saasina esošās drošības problēmas un rada jaunu manevrēšanas telpu apdraudējuma dalībniekiem iekšā.

Balss ģeneratori parāda AI postošo potenciālu

Tiklīdz ChatGPT nonāca tirgū, sākās sarunas par AI regulēšanu. Jebkurš mēģinājums ierobežot šo tehnoloģiju, iespējams, prasītu starptautisku sadarbību tādā mērā, kādu mēs neesam redzējuši gadu desmitiem, kas padara to maz ticamu.

Džins ir ārā no pudeles, un labākais, ko varam darīt, ir pierast pie tā. Tas, un ceru, ka kiberdrošības nozare attiecīgi pielāgosies.