Runājot par sociālajiem medijiem, mēs visi zinām, ka papildus daudzajām priekšrocībām, ko tas sniedz, veidojot savienojumus vieglāk, var būt arī noteikti riski un briesmas, kas saistītas ar mijiedarbību tiešsaistē, īpaši jauniešiem. Par laimi, ir lietotnes, kas darbojas proaktīvas un cenšas ierobežot šo kaitējumu, kas var rasties jauniem cilvēkiem, ieviešot atbilstošas mērenības tehnoloģijas.
YuboTiešraides sociālo atklājumu lietotne, ko visbiežāk izmanto paaudze Z, ir paziņojusi, ka tās tiešraides straumes audio regulēšana tehnoloģija paplašinās līdz lielākajiem tirgiem, proti, ASV, Apvienotajā Karalistē, Austrālijā un Kanāda.
Tas notiek pēc vairākus mēnešus ilgas funkcijas testēšanas dažos ASV apgabalos, jo uzņēmums uzzināja, kā risināt problēmas, kas rodas, analizējot audio reāllaikā.
Satura mērenības nozīme
Satura regulēšana tiešsaistē ir grūts darbs. Mēs to esam redzējuši ar Facebook, Twitter un Instagram un tā tālāk. Lai nodrošinātu šo platformu drošību un lietotāju aizsardzību, starp apvainojumiem, naidpilniem komentāriem vai pat dažkārt vardarbību vai paškaitējumu mērenība ir ļoti svarīga. Spēja slēpties aiz šķietamās anonimitātes, ko piedāvā internets, dažos cilvēkos var atklāt sliktāko.
Nu, Yubo turpina parādīt, ka dara visu iespējamo, lai palīdzētu to novērst, jo īpaši tāpēc, ka tā lietotāju bāze ir daudz jaunāka. Saskaņā ar Yubo teikto, 99% viņu lietotāju ir Z paaudzes vecumā no 13 līdz 25 gadiem. Lai gan tiešsaistes uzmākšanās nevienam nav patīkama, tā var būt īpaši kaitīga pusaudžiem.
Attēlu un video moderēšanas tehnoloģija pastāv jau kādu laiku un ir ieviesta ar dažādiem panākumiem. Audio moderēšanatomēr joprojām ir liels izaicinājums, jo īpaši saistībā ar tiešraides straumēm. Neatkarīgi no tā, vai tā ir tiešraides straume, kas uzņemta, ejot pa ielu, vai tāda, kurā kāds spēlē videospēli, tam nav īsti nozīmes.
Kā darbojas Yubo audio regulēšana
Sākot ar 2022. gada maiju, Yubo sāka izmēģinājuma posmu savai audio moderēšanas tehnoloģijai dažādās ASV teritorijās. Tagad nākamais posms ietver lielāko daļu angliski runājošo reģionu, kur Yubo ir liela lietotāju bāze, lai uzņēmums varētu gūt labāku ieskatu savā jaunajā drošības rīkā.
Lai gan šī tehnoloģija joprojām ir jauna, tā nākotnē varētu tikt plaši izmantota, lai atklātu vardarbību vai paškaitējumu.
Yubo to nedara viens pats, bet gan sadarbībā ar Hive. Hive, ja neesat par tiem dzirdējis, ir uzņēmums, kas izveido un nodrošina satura regulēšanas API, lai apstrādātu attēlus un videoklipus gandrīz reāllaikā.
Yubo ieviestā tehnoloģija darbojas, ierakstot un pārrakstot 10 sekunžu audio fragmentus tiešraides straumēs, kurās piedalās 10 vai vairāk cilvēku. Tekstu nekavējoties analizē mākslīgais intelekts, lai noteiktu vārdus vai frāzes, kas pārkāpj lietotnes kopienas vadlīnijas.
Pagaidiet, šeit tas neapstājas. Lai gan mākslīgais intelekts var lieliski atklāt šādas lietas, tas joprojām ir tālu no tā, lai tas varētu atšķirt faktiskus problemātiskus lietojumus un viltus karogus.
Viltus karodziņi var būt, piemēram, fonā atskaņotas dziesmas vai rotaļīga valoda, kas nav ļaunprātīga.
Šeit darbojas Yubo drošības speciālisti, kas tiek piesaistīti, lai izmeklētu atzīmētos incidentus. Cilvēki ir tie, kas var noteikt, vai situācija prasa eskalāciju vai nē, ja ir darbības kas būtu jāvērš pret cilvēkiem, kuri lieto sliktu valodu, vai pat tad, ja ir jāiesaista tiesībaizsardzība iekšā.
Ja tiešraides straume ir pilnīgi pareiza, neviens atšifrējums netiek pārskatīts vai tiek saglabāts pēc 24 stundu ierobežojuma, tāpēc viss paliek privāts. vai tik privāta, cik var būt tiešraides straume ar vairāk nekā 10 cilvēkiem.
Tomēr, ja algoritmi konstatē, piemēram, vardarbīgus draudus, naida runu vai paškaitējumu, atšifrējumi tiek glabāti līdz vienam gadam. Tas, protams, ir uzņēmuma drošības pasākums gadījumos, kad tiesību aktu izpildei nepieciešama informācija vai arī pašam uzņēmumam ir vajadzīga informācija turpmākai iekšējai izmeklēšanai.
Yubo galvenais operatīvais direktors Marks Antuāns Durands redz uzņēmuma paplašināšanos audio moderēšana tehnoloģiju kā galveno elementu tiešsaistes drošības attīstībā visā nozarē.
“Balss noteikšanas jomā vēl ir daudz darāmā, taču mēs esam lepni, ka varam veidot ceļu saviem vienaudžiem būt pirmais, kas uzsāk audio regulēšanu ar Hive un palīdzot padarīt šo rīku uzticamāku un efektīvāku, izmantojot šo izmēģinājumu, ”Durands teica.
Acīmredzot sociālās platformas nevēlas niknu iebiedēšanu, naida runu un uz vardarbību rosinošus komentārus, jo tas atstumtu citus lietotājus. Šādas mērenības tehnoloģijas ieviešana ir lielisks rīks, lai nodrošinātu lietotāju drošību, kā arī palīdzētu garantēt Yubo izaugsmi un panākumus ilgtermiņā.
