Tas ir jaunāks, bet lēnāks. Kas dod?
Līdz ar jaunāko ChatGPT versiju GPT-4, kas tika izlaista 2023. gada martā, daudziem rodas jautājums, kāpēc tā ir tik lēna salīdzinājumā ar tās priekšgājēju GPT-3.5. Tātad, kāds šeit ir galvenais iemesls?
Kāpēc ChatGPT-4 ir tik gausa, un vai tā vietā vajadzētu pieturēties pie GPT-3.5?
Kas ir ChatGPT-4?
ChatGPT-4 ir jaunākais modelis OpenAI tērzēšanas robots, kas parasti pazīstams kā ChatGPT. ChatGPT darbina mākslīgais intelekts, kas ļauj atbildēt uz jūsu jautājumiem un uzvednēm daudz labāk nekā iepriekšējie tērzēšanas roboti. ChatGPT izmanto lielu valodas modeli, ko darbina GPT (ģeneratīvais iepriekš apmācīts transformators), lai lietotājiem sniegtu informāciju un saturu, vienlaikus nodrošinot iespēju sarunāties.
ChatGPT ir plašs iespēju klāsts, kas padara to noderīgu miljoniem. Piemēram, ChatGPT var rakstīt stāstus, formulēt jokus, tulkot tekstu, izglītot lietotājus un daudz ko citu. Lai gan ChatGPT var izmantot arī vairāk nelikumīgu darbību veikšanai, piemēram, ļaunprātīgas programmatūras izveide, tā daudzpusība ir zināmā mērā revolucionāra.
ChatGPT GPT-4 modelis tika izlaists 2023. gada 14. martā. Šī ChatGPT versija ir izstrādāta, lai labāk izprastu emocionālo valodu, izmantojot tekstu, vienlaikus labāk izprotot dažādus valodu dialektus un attēlu apstrādi. GPT-4 var arī uzturēt ilgākas sarunas un efektīvi reaģēt uz ilgākiem lietotāja norādījumiem.
Turklāt GPT-4 parametri lielā mērā pārsniedz GPT-3.5 parametrus. ChatGPT parametri nosaka, kā AI apstrādā informāciju un reaģē uz to. Īsāk sakot, parametri nosaka prasmes, kas tērzēšanas robotam ir jāsadarbojas ar lietotājiem. Kamēr GPT-3.5 ir 175 miljardi parametru, GPT-4 ir neticami 100 triljoni līdz 170 triljoni (baumas — OpenAI nav apstiprinājis šo skaitli).
Tas bija OpenAI GPT-3.5, kas tika izmantots, lai darbinātu ChatGPT, kas tagad ir pasaulē populārākais AI tērzēšanas robots. Tātad, GPT-3.5 ir guvis nenoliedzamu zīmi AI jomā. Taču tehnoloģiju nozarē lietas vienmēr attīstās, tāpēc nav pārsteigums, ka GPT-3.5 tagad ir GPT-4 pēctecis.
Tomēr GPT-4 nekādā gadījumā nav ideāls. Faktiski GPT-4 ilgstošais reakcijas laiks izraisa diezgan lielu satraukumu. Tāpēc apskatīsim šo problēmu un to, kāpēc tā var notikt.
ChatGPT-4 darbojas lēni
Pēc GPT-4 izlaišanas daudzi pamanīja, ka OpenAI jaunais tērzēšanas robots ir neticami lēns. Tādējādi daudzi lietotāji bija neapmierināti, jo GPT-4 bija paredzēts kā solis uz augšu no GPT-3.5, nevis atpakaļ. Rezultātā GPT-4 lietotāji ir apmeklējuši tiešsaistes platformas, piemēram, Reddit un OpenAI kopienas padomi, lai apspriestu šo problēmu.
Ieslēgts OpenAI kopienas forums, vairāki lietotāji ir nākuši klajā ar savām GPT-4 aizkaves vilšanās. Viens lietotājs norādīja, ka GPT-4 bija "ārkārtīgi lēns" un ka pat nelieli tērzēšanas robotam nosūtītie pieprasījumi izraisīja neparasti ilgu aizkavi, kas pārsniedz 30 sekundes.
Citi lietotāji ātri dalījās pieredzē ar GPT-4, viens komentējot zem ziņas, ka "viens un tas pats zvans ar tiem pašiem datiem var aizņemt līdz pat 4 reizēm lēnāk nekā 3,5 turbo."
Citā OpenAI kopienas foruma ziņa, lietotājs komentēja, ka viņu uzvednes dažkārt tiek izpildītas ar "kļūda ķermeņa plūsmā" ziņojumu, kā rezultātā atbildes nav. Tajā pašā pavedienā cita persona paziņoja, ka nevar panākt, lai GPT-4 "sekmīgi atbildētu ar pabeigts skripts." Cits lietotājs komentēja, ka, mēģinot izmantot, joprojām radās tīkla kļūdas GPT-4.
Ar kavēšanos un neveiksmīgām vai pusgatavām atbildēm šķiet, ka GPT-4 ir daudz problēmu, kas lietotājus ātri atbaida.
Tātad, kāpēc tieši tas notiek? Vai kaut kas nav kārtībā ar GPT-4?
Kāpēc GPT-4 ir lēns, salīdzinot ar GPT-3.5?
Iepriekš minētajā OpenAI kopienas foruma ziņojumā viens lietotājs atbildēja, liekot domāt, ka kavēšanās iemesls ir "pašreizēja problēma ar visu infrastruktūru pārslodze”, piebilstot, ka pastāv izaicinājums “tik īsā laikā risināt mērogojamību, ņemot vērā šo popularitāti un lietotāju skaitu gan tērzēšanas, gan API."
Iekšā Reddit ziņa augšupielādēts r/singularity subreddit, lietotājs izklāstīja dažus iespējamos GPT-4 lēnuma iemeslus, sākot ar lielāku konteksta izmēru. GPT ekosistēmā konteksta lielums attiecas uz to, cik daudz informācijas konkrētā tērzēšanas robota versija var apstrādāt un pēc tam sagatavot informāciju. Lai gan GPT-3.5 konteksta izmērs bija 4K, GPT-4 ir divreiz lielāks. Tātad 8K konteksta lielums var ietekmēt GPT-4 kopējo ātrumu.
Reddit autors arī ierosināja, ka uzlabotajai GPT-4 vadāmībai un kontrolei varētu būt nozīme tērzēšanas robota apstrādes laikos. Šeit autors norādīja, ka GPT-4 labāka vadāmība un halucināciju kontrole un nepiemērota Valoda varētu būt vainīga, jo šīs funkcijas pievieno papildu darbības GPT-4 apstrādes metodei informāciju.
Turklāt tika ierosināts, ka GPT-4 spēja apstrādāt attēlus varētu palēnināt darbību. Šo noderīgo funkciju mīl daudzi, taču tā var būt noderīga. Tā kā tiek baumots, ka GPT-4 nodrošinātā attēla apstrāde aizņem 10–20 sekundes, pastāv iespēja, ka šis komponents pagarina atbildes laiku (lai gan tas neizskaidro aizkavēšanos, kas rodas lietotājiem, sniedzot tikai teksta uzvednes).
Citi lietotāji ir norādījuši, ka ChatGPT-4 jaunums spēlē lielu lomu šajās kavēšanās. Citiem vārdiem sakot, daži domā, ka OpenAI jaunākajam tērzēšanas robotam ir jāpiedzīvo augšanas sāpes, pirms var novērst visus trūkumus.
Taču lielākais iemesls, kāpēc GPT-4 ir lēns, ir parametru skaits, ko GPT-4 var izmantot salīdzinājumā ar GPT-3.5. The fenomenāls parametru pieaugums vienkārši nozīmē, ka jaunākajam GPT modelim ir nepieciešams ilgāks laiks, lai apstrādātu informāciju un reaģētu precīzi. Jūs saņemat labākas atbildes ar paaugstinātu sarežģītību, taču to sasniegšana prasa nedaudz ilgāku laiku.
Vai izvēlēties GPT-3.5, nevis GPT-4?
Tātad, ņemot vērā šīs problēmas, vai jums vajadzētu izmantot GPT-3.5 vai GPT-4?
Rakstīšanas laikā šķiet, ka GPT-3.5 ir labāka iespēja salīdzinājumā ar GPT-4. Tik daudzi lietotāji ir saskārušies ar kavēšanos, ka, visticamāk, laika problēma pastāv visās jomās, ne tikai ar dažām personām. Tātad, ja ChatGPT-3.5 pašlaik atbilst visām jūsu cerībām un jūs nevēlaties gaidīt atbildi apmaiņā pret papildu funkcijām, iespējams, ir prātīgi pagaidām pieturēties pie šīs versijas.
Tomēr jāņem vērā, ka GPT-4 ir ne tikai GPT-3.5, bet arī lēnāks. Šai OpenAI tērzēšanas robota versijai ir vairākas priekšrocības salīdzinājumā ar tās priekšgājēju. Ja meklējat modernāku AI tērzēšanas robotu un neiebilstat ilgāk gaidīt atbildes, iespējams, ir vērts pāriet no GPT-3.5 uz GPT-4.
Laika gaitā GPT-4 aizkavēšanās var samazināties vai pilnībā novērsties, tāpēc pacietība varētu būt noderīga. Neatkarīgi no tā, vai mēģināt pārslēgties uz GPT-4 tagad vai pagaidiet nedaudz ilgāk, lai redzētu, kā viss notiek ar šo versiju, jūs joprojām varat gūt daudz no OpenAI lieliskā mazā tērzēšanas robota.
GPT-4 ir uzlabots, taču ar nokavēšanos
Lai gan GPT-4 ir vairākas uzlabotas iespējas salīdzinājumā ar GPT-3.5, tā ievērojamās aizkaves un atbildes kļūdas ir padarījušas to nelietojamu dažiem. Šīs problēmas var tikt atrisinātas tuvākajā nākotnē, taču pagaidām GPT-4 noteikti ir jāpārvar daži šķēršļi, pirms tas tiks pieņemts plašākā mērogā.