Microsoft Turns Counterfit AI drošības novērtēšanas rīka atvērtā koda

Microsoft ir pagriezis savu AI drošības riska novērtēšanas rīku Counterfit, kas ir atvērts avots, ļaujot ikvienam sākt izmantot rīku bez maksas. Pašlaik organizācijas var izmantot Counterfit, lai automatizētu drošības risku novērtēšanu, nodrošinot, ka viņu izmantotā aizsardzība ir pilnīga.

Sākotnēji Microsoft izstrādāja Counterfit kā iekšēju rīku, kas varētu ātri novērtēt AI un mašīnmācīšanās sistēmu drošību. Tas sāka dzīvi kā skriptu kolekcija, pirms ātri pārveidoja par vispārīgu AI automatizāciju, kuru operators var izmantot, lai vienlaikus "uzbruktu vairākām AI sistēmām".

Microsoft tagad regulāri izmanto Counterfit kā galveno rīku savās AI sarkanās komandas darbībās. Tā kā Counterfit ir vide, modelis un datu agnostiķis, rīks var sniegt precīzu novērtējumu bez pretestības.

Pats rīks ir paredzēts lietošanai drošības speciālistiem. Counterfit ar plašu atbalstu izmanto līdzīgas darbplūsmas kā citi populāri sarkano komandu rīki, piemēram, Metasploit vai PowerShell Empyre. skriptiem, iepriekš ielādētiem uzbrukuma algoritmiem, ievainojamības skenēšanai, uzlabotai reģistrēšanai un daudz ko citu, kam piekļūt, izmantojot komandrindu.

Microsoft ir plaši sadarbojies ar drošības profesionāļiem un lielām organizācijām, lai labāk izstrādātu arī Counterfit. Uz Microsoft drošības emuārsMatilda Rhode, vecākā kiberdrošības pētniece, Airbus, sacīja:

AI arvien vairāk izmanto rūpniecībā; ir ļoti svarīgi skatīties uz priekšu šīs tehnoloģijas nodrošināšanai, jo īpaši, lai saprastu, kur problēmu telpā var tikt veikti uzbrukumi iezīmju kosmosam. Atvērtā koda rīku izlaišana no organizācijas, piemēram, Microsoft, lai drošības speciālisti varētu novērtēt AI sistēmu drošība ir gan apsveicama, gan skaidra norāde, ka nozare risina šo problēmu nopietni.

Jūs varat atrast atvērtā koda Microsoft Counterfit viņu oficiālajā GitHub.

Saistīts: Darba vietas, kuras jūs nekad nezinājāt, veica AI

Kāpēc viltojums ir noderīgs?

Pat Microsoft lieluma uzņēmumam efektīvu drošības novērtējumu aizpildīšana nav vienkārša, it īpaši, ja šie uzņēmumi ir milzīgi Fortune 500 līderi, valdības, bezpeļņas organizācijas un daudz kas cits. Iepriekšējais Microsoft pētījums atklāja, ka liels skaits uzņēmumu nespēj precīzi pārbaudīt savas AI sistēmas.

Mēs noskaidrojām, ka 25 no 28 uzņēmumiem norādīja, ka viņiem nav piemērotu rīku, lai aizsargātu viņu AI sistēmas, un ka drošības speciālisti šajā telpā meklē īpašus norādījumus.

Counterfit atvieglo šo novērtējumu pabeigšanu, automatizējot analīzes un testēšanas procesu.

Saistīts: Veidi, kā jūs varat izmantot AI tehnoloģiju, lai uzlabotu savu biznesu

Turklāt nesen publicēts Gartnera pētījums AI drošības ieviešana uzskaitīta kā viens no svarīgākajiem drošības pasākumiem, ko uzņēmums var veikt, lai uzlabotu aizsardzību. Tajā pašā pētījumā tika atzīmēts, ka "Līdz 2024. gadam organizācijas, kas īsteno īpašas AI riska pārvaldības kontroles, veiksmīgi novērsīs negatīvus AI rezultātus divreiz biežāk nekā tās, kas to nedara".

Īsāk sakot, Counterfit kļūstot par atvērtā koda AI drošības novērtēšanas rīku, vajadzētu palīdzēt pasaulei kļūt nedaudz drošākai.

Šie 4 antivīrusu rīki izmanto AI, lai aizsargātu jūsu sistēmu

Vai nākamajā antivīrusu abonementā ir jāiekļauj mākslīgais intelekts, vai tas ir tikai kārtējais drošības vārda nosaukums?

Lasiet Tālāk

Par autoru