
 
 
 
 
 
 Autori : (1) Jaehyeon Moon, Yonsei Universitāte un Articron; (2) Dohyung Kim, Yonsei Universitāte; (3) Junyong Cheon, Yonsei Universitāte; (4) Bumsub Ham, korespondents no Yonsei universitātes. Authors: (1) Jaehyeon Moon, Yonsei Universitāte un Articron; (2) Dohyung Kim, Yonsei Universitāte; (3) Junyong Cheon, Yonsei Universitāte; (4) Bumsub Ham, korespondents no Yonsei universitātes. Kreisā galda Abstract and 1. Introduction Abstrakts un 1. ievads 
 
 
 
 
 
 
 Related work 
 
 
 
 
 Method 3.1. Uniform quantizer 3.2. IGQ-ViT 3.3. Group size allocation 
 
 
 
 Experiments 4.1. Implementation details and 4.2. Results 4.3. Discussion 
 
 Conclusion, Acknowledgements, and References Saistītie darbi Secinājumi, atzinumi un atsauces Supplementary Material A. Vairāk īstenošanas detaļu B. Savietojamība ar esošo aparatūru C. Latence uz praktiskām ierīcēm D. Pieteikums DETR Abstraktā Pēc apmācības segmentu kvantificēšana (PTQ) ir efektīva modeļa saspiešanas tehnika, kas kvantificē priekšapmācītu pilnas precizitātes modeli, izmantojot tikai nelielu kalibrēšanas kopumu neuzzīmētus paraugus bez pārkvalifikācijas. PTQ metodes konvolucionāriem neironu tīkliem (CNNs) nodrošina kvantificēšanas rezultātus, kas ir salīdzināmi ar pilnas precizitātes kolēģiem. Tieši to piemērojot redzes transformatoriem (ViTs), tomēr rodas nopietna veiktspējas degradācija, galvenokārt sakarā ar atšķirībām arhitektūrās starp CNNs un ViTs. Jo īpaši katra kanāla instances aktivēšanas kanālu sadalījums atšķiras atkarībā no dažādām ievades instancēm, padarot PTQ 1 Ievads Transformatori [35] var uzņemt ilgtermiņa atkarības starp secīgajiem ievadiem, kas ir būtiski dabiskās valodas apstrādē, apkopojot kontekstuālo informāciju un nodrošinot diskriminējošas iezīmes. Nesen redzes transformatori (ViTs) [10] ir pierādījuši transformatoru efektivitāti attēliem, nodrošinot mūsdienīgus rezultātus dažādos vizuālās atpazīšanas uzdevumos, tostarp attēla klasifikācijai [25, 34], objektu noteikšanai [25, 42] un semantiskai segmentācijai [25, 33, 39]. Tomēr virkne pilnībā savienotu (FC) un paša uzmanības slāņu ViTs prasa ievērojamu atmiņas un aprēķinu izmaksu apjomu, kas padara to izaicinājumu ieviest ierīcēs ar ierobežotiem resursiem (piemēram, Tīkla kvantificēšana parasti samazina svara bitu platumu un aktivizē modeli efektīvam inferences procesam, ko var iedalīt divās grupās: kvantificēšanas apmācība (QAT) un pēcapmācības kvantificēšana (PTQ). QAT metodes [11, 43, 44] apmāca pilnas precizitātes modeļus, simulējot kvantificēšanas procesu, ievietojot diskretizatorus tīklos, lai kvantificētu, tādējādi, ka atšķirība starp pilnvērtīgu un kvantificētu modeļiem tiek samazināta līdz minimumam. Tas liecina, ka QAT metodēm ir nepieciešami veseli apmācības paraugi, un tie ir aprēķinoši dārgi, padarot tos nepraktiskus neironu tīklu ātrai izvietošanai. PTQ metodes [19, 27, Vairākas PTQ metodes transformatoriem [9, 26, 40] piemēro slāņu kvantificēšanas paņēmienus, kur vienreizējs kvantificētājs tiek piemērots visām aktivēšanas vērtībām efektivitātes labad. Tomēr šīs metodes nav tieši piemērojamas kvantificēšanas modeļiem, izmantojot ārkārtīgi zemu bitu platumu (piemēram, 4-bitu), jo katra kanāla aktivācijas ir ievērojami mainījušās mērogā. Izmantojot kanālu kvantificētājus (t.i., piemērojot dažādus kvantificētājus katram kanālam) varētu būt potenciāls risinājums, bet uz aprēķina kopsummu rēķina rēķina, sakarā ar kanālu iznākumu plūstošo punktu summām matricas reizināšanai. Grupu kvantificēšanas paņēmieni [7, 32] varētu Šajā rakstā mēs prezentējam instance-aware grupu kvantificāciju ViTs (IGQ-ViT), kas efektīvi un efektīvi risina kanālu izplatīšanas variācijas dažādās ievades instancēs (Fig. 1b). Konkrēti, mēs dinamiski sadalām aktivācijas kartes kanālus vairākās grupās, tādējādi, ka aktivācijas vērtības katrā grupā dalās līdzīgās statistiskajās īpašībās, un pēc tam kvantificē aktivācijas grupā, izmantojot identiskus kvantificēšanas parametrus. Mēs arī ierosinām izmantot instance-aware grupēšanas paņēmienu softmax uzmanībai, jo uzmanības vērtību sadalījums ievērojami atšķiras atkarībā no žetoniem. Turklāt mēs piedāvājam vienkāršu, bet efektīvu metodi, lai optimizētu grupu skaitu atsevišķiem slāņiem, • Mēs ieviešam jaunu PTQ metodi ViTs, ko dēvē par IGQViT, kas dinamiski sadala aktivizācijas karšu kanālus vairākās grupās atbilstoši ievades instancēm. • Mēs iepazīstinām ar grupu lieluma piešķiršanas tehniku, meklējot optimālu grupu skaitu katram slānim, ņemot vērā BOP ierobežojumu. • Mēs izveidojām jaunu mākslas stilu attēlu klasifikācijā [8], objektu noteikšanā un instances segmentācijā [22] ar dažādām ViT arhitektūrām [10, 25, 34]. 
 
 Šis dokuments ir pieejams arhivā saskaņā ar CC BY-NC-ND 4.0 Deed (attribution-Noncommercial-Noderivs 4.0 International) licenci. Šis dokuments ir Saskaņā ar CC BY-NC-ND 4.0 Deed (attribution-Noncommercial-Noderivs 4.0 International) licences. Pieejams arhīvā Pieejams arhīvā

Part of HackerNoon's growing list of open-source research papers, promoting free access to academic material.

Instancing.TECH

Pioneering instance management, driving innovative solutions for efficient resource utilization, and enabling a more sus

Instancing's blog

Šis audio ir izveidots stāsta oriģinālvalodā!

Instance-Aware grupas kvantificēšana redzes transformatoriem

About Author

KOMENTĀRI

PAKARINĀT TAGUS

ŠIS RAKSTS TIKS PĀRSTRĀDĀTS

Related Stories

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps