ChatGPT ir jaudīgs jauns AI tērzēšanas robots, kas ātri atstāj iespaidu, tomēr daudzi cilvēki ir norādījuši, ka tajā ir dažas nopietnas nepilnības. Jautājiet tam visu, kas jums patīk, un jūs saņemsit atbildi, kas izklausās tā, it kā to būtu uzrakstījis cilvēks, apguvis savas zināšanas un rakstīšanas prasmes no liela apjoma informācijas internetā.
Tomēr, tāpat kā internets, patiesība un fakti ne vienmēr ir pašsaprotami, un ChatGPT ir vainīgs, ka tas ir kļūdījies. Tā kā ChatGPT ir paredzēts mainīt mūsu nākotni, šeit ir dažas no lielākajām bažām.
Kas ir ChatGPT?
ChatGPT ir liels valodu apguves modelis, kas tika izstrādāts, lai atdarinātu cilvēku sarunu. Tas var atcerēties lietas, ko esat tam teicis pagātnē, un spēj sevi labot, ja tas ir nepareizi.
Tas raksta cilvēkiem līdzīgā veidā, un tajā ir daudz zināšanu, jo tas tika apmācīts par visa veida tekstu no interneta, piemēram, Wikipedia, emuāra ierakstiem, grāmatām un akadēmiskiem rakstiem.
To ir viegli iemācīties kā lietot ChatGPT, taču grūtāk ir noskaidrot, kādas ir tās lielākās problēmas. Šeit ir daži, par kuriem ir vērts zināt.
1. ChatGPT ne vienmēr ir pareizi
Tas neizdodas matemātikā, šķiet, ka nevar atbildēt uz vienkāršiem loģikas jautājumiem un pat aizsniegs pilnīgi nepareizus faktus. Kā var apliecināt sociālo mediju lietotāji, ChatGPT var kļūdīties vairāk nekā vienu reizi.
OpenAI zina par šo ierobežojumu, rakstot, ka: "ChatGPT dažreiz raksta ticamas, bet nepareizas vai muļķīgas atbildes." Šis Faktu un izdomājumu "halucinācijas", kā daži zinātnieki to sauc, ir īpaši bīstamas, ja runa ir par kaut ko, piemēram, medicīnisku. padoms.
Atšķirībā no citiem AI palīgiem, piemēram, Siri vai Alexa, Chat GPT neizmanto internetu, lai atrastu atbildes. Tā vietā tas konstruē teikumu vārdu pa vārdam, atlasot visticamāko "žetonu", kam vajadzētu nākt, pamatojoties uz apmācību.
Citiem vārdiem sakot, ChatGPT iegūst atbildi, veicot vairākus minējumus, kas ir daļa no iemesla, kāpēc tas var apstrīdēt nepareizas atbildes tā, it kā tās būtu pilnīgi patiesas.
Lai gan tas lieliski izskaidro sarežģītus jēdzienus, padarot to par spēcīgu mācību rīku, ir svarīgi neticēt visam, ko tas saka. ChatGPT ne vienmēr ir pareizs — vismaz vēl ne.
2. Sistēmā ir iestrādāta neobjektivitāte
ChatGPT tika apmācīts par cilvēku kolektīvo rakstīšanu visā pasaulē, pagātnē un tagadnē. Tas nozīmē, ka tās pašas novirzes, kas pastāv datos, var parādīties arī modelī.
Patiesībā lietotāji ir parādījuši, kā ChatGPT var sniegt dažas briesmīgas atbildes, dažas, piemēram, diskriminējošas pret sievietēm. Bet tā ir tikai aisberga redzamā daļa; tas var sniegt atbildes, kas ir ārkārtīgi kaitīgas vairākām minoritāšu grupām.
Vaina nav arī tikai datos. OpenAI pētnieki un izstrādātāji izvēlas datus, kas tiek izmantoti ChatGPT apmācīšanai. Lai palīdzētu risināt to, ko OpenAI sauc par "neobjektīvu uzvedību", tā lūdz lietotājus sniegt atsauksmes par sliktiem rezultātiem.
Tā kā var nodarīt kaitējumu cilvēkiem, varat apgalvot, ka ChatGPT nevajadzēja publiskot, pirms šīs problēmas nav izpētītas un atrisinātas.
Līdzīgs AI tērzēšanas robots ar nosaukumu Sparrow (pieder Google mātes uzņēmumam Alphabet) tika izlaists 2022. gada septembrī. Tomēr tas tika turēts aiz slēgtām durvīm, jo bija līdzīgas bažas, ka tas varētu nodarīt kaitējumu.
Varbūt arī Metam vajadzēja vadīt brīdinājumu. Kad tas izlaida Galactica — mākslīgā intelekta valodas modeli, kas sagatavots, pamatojoties uz akadēmiskiem dokumentiem, tas tika ātri atsaukts, jo daudzi cilvēki to kritizēja par nepareizu un neobjektīvu rezultātu izsniegšanu.
3. Izaicinājums vidusskolas angļu valodai
Varat lūgt ChatGPT labot jūsu rakstīto vai norādīt, kā uzlabot rindkopu. Varat arī pilnībā noņemt sevi no vienādojuma un lūgt ChatGPT uzrakstīt kaut ko jūsu vietā.
Skolotāji ir eksperimentējuši ar angļu valodas uzdevumu ievadīšanu ChatGPT un ir saņēmuši atbildes, kas ir labākas par to, ko varētu darīt daudzi viņu skolēni. No pavadvēstuļu rakstīšanas līdz galveno tēmu aprakstīšanai slavenajā literatūras darbā, ChatGPT var to izdarīt bez vilcināšanās.
Tas rada jautājumu: ja ChatGPT var rakstīt mūsu vietā, vai studentiem nākotnē būs jāiemācās rakstīt? Tas varētu šķist eksistenciāls jautājums, taču, kad skolēni sāks izmantot ChatGPT, lai palīdzētu rakstīt savas esejas, skolām būs ātri jāizdomā atbilde. Straujā mākslīgā intelekta ieviešana pēdējos gados ir šokējusi daudzas nozares, un izglītība ir tikai viena no tām.
4. Tas var radīt reālu kaitējumu
Iepriekš mēs minējām, kā nepareiza ChatGPT informācija var nodarīt kaitējumu reālai pasaulei, un acīmredzamākais piemērs ir nepareiza medicīniskā palīdzība.
Ir arī citas bažas. Viltus sociālo mediju konti rada milzīgas problēmas internetā, un, ieviešot mākslīgā intelekta tērzēšanas robotus, interneta krāpniecības kļūs vieglāk īstenojamas. Vēl viena problēma ir viltotas informācijas izplatība, it īpaši, ja ChatGPT liek pat nepareizām atbildēm izklausīties pārliecinoši pareizi.
Ātrums, ar kādu ChatGPT var sniegt atbildes, kas ne vienmēr ir pareizas, jau ir radījis problēmas Stack Exchange — vietnei, kurā lietotāji var ievietot jautājumus un saņemt atbildes.
Drīz pēc tās izlaišanas ChatGPT atbildes tika aizliegtas vietnē, jo liela daļa no tām bija nepareizas. Ja nebūtu pietiekami daudz brīvprātīgo, lai sakārtotu neizpalikto atbilžu skaitu, būtu neiespējami uzturēt augstas kvalitātes atbildes, radot kaitējumu vietnei.
5. OpenAI ir viss spēks
Ar lielu jaudu nāk liela atbildība, un OpenAI ir liela jauda. Tas ir viens no pirmajiem AI uzņēmumiem, kas patiesi satricināja pasauli ar nevis vienu, bet vairākiem AI modeļiem, tostarp Dall-E 2, GPT-3 un tagad arī ChatGPT.
OpenAI izvēlas, kādi dati tiek izmantoti, lai apmācītu ChatGPT un kā tas cīnās ar negatīvajām sekām. Neatkarīgi no tā, vai mēs piekrītam metodēm vai nē, tā turpinās attīstīt šo tehnoloģiju atbilstoši saviem mērķiem.
Lai gan OpenAI uzskata drošību par augstu prioritāti, ir daudz, ko mēs nezinām par modeļu izveidi. Neatkarīgi no tā, vai jūs domājat, ka kodam ir jābūt atvērtam pirmkodam, vai piekrītat, ka tā daļas ir jātur noslēpumā, mēs neko daudz nevaram darīt lietas labā.
Galu galā viss, ko mēs varam darīt, ir paļauties, ka OpenAI pētīs, attīstīs un izmantos ChatGPT atbildīgi. Alternatīvi, mēs varam iestāties par to, lai vairāk cilvēku varētu izteikties, kādā virzienā būtu jāvirzās AI, daloties AI spējā ar cilvēkiem, kuri to izmantos.
Ja jūs interesē tas, ko vēl ir izstrādājis OpenAI, skatiet mūsu rakstus par kā lietot Dall-E 2 un kā lietot GPT-3.
AI lielāko problēmu risināšana
Ar ChatGPT, OpenAI jaunāko izstrādi, ir daudz ko satraukti. Taču papildus tūlītējai lietošanai ir dažas nopietnas problēmas, kuras ir vērts saprast.
OpenAI atzīst, ka ChatGPT var radīt kaitīgas un neobjektīvas atbildes, nemaz nerunājot par tā spēju sajaukt faktus ar daiļliteratūru. Izmantojot šādu jaunu tehnoloģiju, ir grūti paredzēt, kādas citas problēmas radīsies. Tāpēc līdz tam izbaudiet ChatGPT izpēti un uzmanieties, lai neticētu visam, kas tajā teikts.