Mūsdienās miljoniem cilvēku paļaujas uz ChatGPT kā noderīgu resursu gan darbam, gan izklaidei vai izglītībai. Bet vai varat paļauties uz šo AI tērzēšanas robotu, lai vienmēr sniegtu faktus? Vai ChatGPT kādreiz melo vai sniegs tikai faktisku informāciju?
No kurienes ChatGPT iegūst informāciju?
Apmācības periodā ChatGPT tika ievadīti dati no avotiem visā tīmeklī, piemēram, no valdības un aģentūru vietnēm, zinātniskie žurnāli, pētījumi, ziņu raksti, aplādes, tiešsaistes forumi, grāmatas, datu bāzes, filmas, dokumentālās filmas un sociālās plašsaziņas līdzekļi.
Konkrēti, ChatGPT-3 tika apmācīts, izmantojot plašu informācijas datu bāzi, kas sasniedza 570 GB datu. Kā teikts rakstā no Zinātnes fokuss, tās izstrādes laikā GPT-3 sistēmā tika ievadīti 300 miljardi vārdu informācijas.
Šeit ir vērts atzīmēt, ka ChatGPT tika ievadīti tikai dati, kas pastāvēja pirms 2021. gada. Tas nozīmē, ka tērzēšanas robots nevar atbildēt uz jautājumiem, kas saistīti ar neseniem notikumiem. ChatGPT arī nav piekļuves internetam. Dati, kas tika ievadīti apmācībā, ir vienīgie, ko tas izmanto, lai izpildītu lietotāja norādījumus.
Bet vai ChatGPT sniedz jums tikai faktus, vai arī tās atbildēs ir sajaukta kāda neskaidrāka informācija? Turklāt vai ChatGPT var jums melot?
Vai ChatGPT melo?
Lai gan ChatGPT bieži lietotājiem sniedz patiesu informāciju, tai ir iespēja "melot". Protams, ChatGPT neizlemj ļaunprātīgi melot lietotājiem, jo tas vienkārši to nevar izdarīt. Galu galā ChatGPT ir valodas apstrādes rīks, nevis īstas, jūtošas personas imitācija.
Tomēr ChatGPT tehniski joprojām var būt saistīta ar fenomenu, kas pazīstams kā AI halucinācijas.
AI halucinācijas ietver AI sistēmu, kas sniedz informāciju, kas šķiet saprātīga vai ticama, bet patiesībā tā nemaz nav patiesa. Faktiski AI halucinācijas var sniegt informāciju, ka tā nekad netika barota apmācības periodā. Alternatīvi, tas var notikt, ja AI sistēma sniedz informāciju, kas nav saistīta ar uzvedni vai pieprasījumu. AI sistēma pat var apgalvot, ka ir cilvēks halucinācijas gadījumā.
AI sistēmas, piemēram, tērzēšanas roboti, iekrīt halucināciju slazdā vairāku iemeslu dēļ: to izpratnes trūkums par reālo pasauli, programmatūras kļūdas un sniegto datu ierobežojumi.
Kā minēts iepriekš, ChatGPT var sniegt informāciju, tikai izmantojot datus, kas publicēti līdz 2021. gadam, kas noteikti ierobežo to, kādus norādījumus tas var izpildīt.
Viens no ChatGPT lielās problēmas ir tas, ka, sniedzot lietotājiem informāciju, tas var kļūt par neobjektivitātes upuri. Pat ChatGPT veidotāji ir paziņojuši, ka AI sistēma pagātnē ir bijusi "politiski neobjektīva, aizskaroša" un "citādi nosodāma". Kā ziņoja Neatkarīgā, ChatGPT izstrādātāji ir apņēmušies risināt šo problēmu, taču tas nenozīmē, ka tas vairs nerada risku.
Uz jautājumu ChatGPT norādīja, ka iemesli, kas var sniegt neprecīzu informāciju, ir šādi:
- Neskaidrība jautājumā (neskaidras, neskaidras uzvednes);
- Sniegta nepilnīga informācija;
- Sniegta neobjektīva vai nepareiza informācija; vai,
- Tehniskie ierobežojumi (galvenokārt tāpēc, ka trūkst piekļuves pašreizējiem datiem).
Tātad pati ChatGPT paziņoja, ka ir scenāriji, kuros tas lietotājiem nesniegs precīzu informāciju.
Citā atbildē tajā pašā sarunā ChatGPT norādīja, ka "vienmēr ir laba ideja pārbaudīt jebkādu [tā sniegto] informāciju no citiem avotiem".
Vai varat uzticēties ChatGPT?
Jo tas var sniegt nepatiesu informāciju, jūs skaidri nevar uzticēties ChatGPT 100% laika.
Varat samazināt AI tērzēšanas robota halucināciju risku, iestatot konkrētus parametrus par to, kā tas var jums atbildēt. Tomēr joprojām nav garantijas, ka nepatiesa informācija neizslīdīs cauri plaisām.
Tādēļ vislabāk ir pārbaudīt visu informāciju, ko jums sniedz ChatGPT, īpaši, ja pieprasāt informāciju par nesenajiem notikumiem. Šo datu atkārtota pārbaude, atsaucoties uz citiem avotiem, var palīdzēt noteikt, vai ChatGPT ir taisnība, un var novērst nepārdomātu lēmumu pieņemšanu.
ChatGPT ir noderīgs, bet ne vienmēr patiess
Diemžēl jūs nevarat paļauties uz ChatGPT, lai 100% gadījumu sniegtu patiesu, objektīvu informāciju. Šis ar AI darbinātais tērzēšanas robots nenoliedzami ir noderīgs un var jums palīdzēt dažādos veidos, taču vienmēr ir vērts pārbaudīt, vai tā sniegtā informācija ir patiesa.
