Kas ir TensorFlow Lite un kā tas ir padziļināta mācību sistēma?

Iespējams, esat saskāries ar TensorFlow Lite, ejot cauri Edge AI izstrādes dēļiem vai AI paātrināšanas projektiem.

TensorFlow Lite ir programmatūras pakotņu sistēma, kas ļauj ML apmācīt lokāli aparatūrā. Šī ierīcē veiktā apstrāde un skaitļošana ļauj izstrādātājiem darbināt savus modeļus ar mērķtiecīgu aparatūru. Aparatūrā ietilpst izstrādes dēļi, aparatūras moduļi, iegultās un IoT ierīces.

TensorFlow Lite ietvara pārskats

TensorFlow ir populārs termins dziļās mācībās, jo daudzi ML izstrādātāji izmanto šo ietvaru dažādiem lietošanas gadījumiem. Tas nodrošina ērtu ieviešanu mašīnmācīšanās modeļi un secinājumi par AI lietojumiem.

Bet TensorFlow Lite ir dziļa vietējo secinājumu mācīšanās sistēma, īpaši zemas skaitļošanas aparatūrai. Tas ļauj mašīnā mācīties mašīnā, palīdzot izstrādātājiem palaist viņu modeļus saderīgā aparatūrā un IoT ierīcēs.

Izstrādātājam ir jāizvēlas piemērots modelis atkarībā no lietošanas gadījuma. Sistēma arī dod iespēju pārkvalificēt esošo modeli arī pielāgotā datu kopā. Tā kā TensorFlow protokola bufera modelim ir liels izmērs un tam ir nepieciešama uzlabota skaitļošanas jauda, ​​tādējādi tas ļauj pārveidot TensorFlow modeli par TensorFlow Lite modeli.

Parametru optimizēšanas un kvantēšanas pielāgošana ļauj samazināt modeļa izmēru un latentumu.

Papildus TensorFlow Lite latentuma un lieluma priekšrocībām sistēma nodrošina datu drošību, jo apmācība notiek lokāli ierīcē. Turklāt nav nepieciešama interneta savienojamība. Tādējādi lietojumprogrammu izvietošana neaprobežojas tikai ar noteiktām teritorijām ar savienojamību.

Šie faktori galu galā samazina ierīces enerģijas patēriņu, novēršot savienojamības koeficientu un palielinot dziļās mācīšanās secinājuma efektivitāti.

TensorFlow Lite ietvara modeļi pastāv starpplatformu formātā, kas pazīstams kā FlatBuffers. Tā ir serializācijas bibliotēka, kas hierarhiskos datus glabā plakanā binārā buferī, lai tieša piekļuve būtu iespējama bez izpakošanas. Varat arī novērot TensorFlow Lite modeļu paplašinājumu “.tflite”. Šis attēlojuma paņēmiens ļauj optimizēt aprēķinus un samazina atmiņas prasības. Tādējādi padarot to daudz labāku nekā TensorFlow modeļi

TinyML vietnē TensorFlow Lite Micro

Tā kā TensorFlow Lite ir saderīgs ar dažādām Edge AI lietojumprogrammu platformām, bija nepieciešama turpmāka bibliotēkas saplūšana. Tādējādi organizācija nāca klajā ar TensorFlow Lite apakškopas bibliotēku, kas pazīstama kā TensorFlow Lite Micro. TensorFlow Lite Micro īpaši vada mašīnmācīšanās modeļus mikrokontrolleros lokāli ar minimālajām atmiņas prasībām aptuveni dažus kilobaitus.

Procedūras galvenais izpildlaiks tiek integrēts ar 16KB Arm Cortex M3 un var strādāt ar dažādiem modeļiem. Sistēmai nav nepieciešams papildu OS atbalsts vai citas augsta līmeņa valodu bibliotēkas, jo tās ir atkarīgas no secinājuma palaišanas ierīcē.

TensorFlow Lite Micro izstrāde sakņojas līdz C ++ 11, kurai saderībai nepieciešama 32 bitu arhitektūra. Runājot vairāk par arhitektūrām, bibliotēka lieliski darbojas ar spēcīgu procesoru klāstu, kas balstīts uz Arm Cortex-M sērijas arhitektūru citiem dizaina arhitektūras, piemēram, ESP32.

Darba plūsma TensorFlow Lite mikro lietojuma gadījumos

Neironu tīkla apmācības procesam nepieciešama augsta skaitļošanas aparatūra. Tādējādi tas tiek apmācīts par ģenerāli TensorFlow modelis. Apmācība ir nepieciešama tikai tad, ja pielāgota datu kopa iekļaujas dziļas mācīšanās modelī, savukārt lietojumprogrammām var izmantot arī iepriekš apmācītus modeļa modeļus.

Pieņemot, ka lietojumprogrammas datu kopai ir pielāgota lietojuma gadījums, lietotājs apmāca modeli vispārējā TensorFlow sistēmā ar lielu apstrādes jaudu un arhitektūru. Kad apmācība ir beigusies, modeļa novērtēšana, izmantojot testēšanas paņēmienus, pārbauda modeļa precizitāti un uzticamību. Tālāk process seko, pārveidojot TensorFlow modeli par aparatūru saderīgu TensorFlow Lite modeli .tflite formātā.

.Tflite formāts ir plakans bufera fails, kas kopīgs TensorFlow Lite ietvaram un saderīgai aparatūrai. Modeli var tālāk izmantot secinājumu apmācībai par reāllaika datiem, kas saņemti par modeli. Secinājumu apmācība optimizēja modeļus stingriem lietošanas gadījumiem. Tādējādi secināšanas apmācības iespējai ir izšķiroša nozīme AI lietojumprogrammas.

Lielākā daļa mikrokontrollera programmaparatūras neatbalsta vietējo failu sistēmu, lai tieši iegultu TensorFlow Lite modeļa plakano bufera formātu. Tādējādi .tflite faila konvertēšana ir nepieciešama masīva struktūras formātā, kas ir saderīgs ar mikrokontrolleriem.

Programmas iekļaušana C masīvā, kam seko normāla kompilācija, ir vienkāršs paņēmiens šādai konvertēšanai. Iegūtais formāts darbojas kā avota fails un sastāv no rakstzīmju masīva, kas ir saderīgs ar mikrokontrolleriem.

Ierīces, kas atbalsta TensorFlow Lite Micro

TensorFlow Lite ir piemērots jaudīgām ierīcēm, taču tam ir procesora lielākas slodzes trūkums. Lai gan TensorFlow Lite Micro ir maza izmēra faili, kuriem ir tendence uz nepietiekamu aprīkojumu, optimizējot der atmiņā var ievērojami uzlabot izvadi mazjaudas un zemas apstrādes aparatūras, piemēram, mikrokontrolleri.

Šeit ir saraksts ar izstrādes dēļiem no oficiālās TensorFlow dokumentācijas, kas atbalsta TensorFlow Lite Micro:

• Arduino Nano 33 BLE Sense
• SparkFun Edge
• STM32F746 Atklāšanas komplekts
• Adafruit EdgeBadge
• Adafruit TensorFlow Lite mikrokontrolleru komplektam
• Adafruit Circuit Playground Bluefruit
• Espressif ESP32-DevKitC
• Espressif ESP-EYE
• Wio termināls: ATSAMD51
• Himax WE-I Plus EVB Endpoint AI izstrādes padome

TensorFlow Lite Micro ir pieejams arī kā Arduino bibliotēka, lai paplašinātu atbalstu mikrokontrolleriem. Tas var arī veidot projektus aparatūras izstrādes vidēm, kas līdzīgas Mbed.

TensorFlow Lite piedāvā daudz

TensorFlow Lite dziļo mācību sistēma paver iespējas vairākām visaptverošām AI lietojumprogrammām. Tā kā sistēma ir atvērta pirmkoda AI entuziastiem, kopienas atbalsts padara to vēl populārāku mašīnmācīšanās lietošanas gadījumos. TensorFlow Lite kopējā platforma uzlabo vidi iegulto un IoT ierīču visaptverošo lietojumprogrammu pieaugumam

Turklāt iesācējiem ir dažādi piemēri, lai palīdzētu viņiem ietvaru praktisko lietojumu gadījumos. Daži no šiem piemēriem ietver personu noteikšanu atkarībā no izstrādes paneļa attēla sensora un visu izstrādes paneļu standarta sveiciena pasaules programmas apkopotajiem datiem. Piemēri ietver arī tādas lietojumprogrammas kā žestu noteikšana un runas atpazīšana arī īpašām izstrādes plāksnēm.

Lai iegūtu vairāk informācijas par TensorFlow Lite un TensorFlow Lite Micro, varat apmeklēt organizācijas oficiālās dokumentācijas lapu. Lai labāk izprastu sistēmu, ir daudz konceptuālu, kā arī apmācības sadaļu.

Sāciet darbu ar attēlu atpazīšanu, izmantojot TensorFlow un Raspberry Pi

Vai vēlaties iepazīties ar attēlu atpazīšanu? Pateicoties Tensorflow un Raspberry Pi, jūs varat sākt darbu uzreiz.

Lasiet Tālāk

Par autoru