Bord til venstre Abstract and 1. Introduction Abstract og 1. introduktion 
 
 
 
 
 
 
 Related work 
 
 
 
 
 Method 3.1. Uniform quantizer 3.2. IGQ-ViT 3.3. Group size allocation 
 
 
 
 Experiments 4.1. Implementation details and 4.2. Results 4.3. Discussion 
 
 Conclusion, Acknowledgements, and References Relateret arbejde Konklusioner, anerkendelser og referencer Supplementary Material A. Flere gennemførelsesdetaljer Kompatibilitet med eksisterende hardware C. Latens på praktiske enheder D. Anvendelse til DETR 4 Eksperimenter I dette afsnit beskriver vi vores eksperimentelle indstillinger (sektion 4.1) og evaluerer IGQ-ViT på billedklassificering, objektdetektion og semantisk segmentering (sektion 4.2). 4.1 Detaljer om gennemførelse Vi evaluerer vores IGQ-ViT-ramme på opgaver inden for billedklassificering, objektdetektion og instanssegmentering. Vi bruger ImageNet [8] datasæt til billedklassificering, som indeholder ca. 1,2M billeder til træning og 50K til validering. Vi bruger COCO [22] til objektdetektion og instanssegmentering, som omfatter 118K træning, 5K validering og 20K testbilleder. Vi vedtager forskellige transformatorarkitekturer, herunder ViT [10], DeiT [34] og Swin transformator [25] til billedklassificering. Til opgaver inden for objektdetektion og instanssegmentering bruger vi Mask R-CNN [14] og Cascade Mask R-CNN [5] med Swin transformatorer som backbone. Efter [9, 21] 4.2 Resultater Vi viser i tabel 2 den øverste 1-nøjagtighed (%) på valideringssplitten af ImageNet [8] med forskellige ViT-arkitekturer. Vi rapporterer nøjagtigheden med en gennemsnitlig gruppestørrelse på 8 og 12. Vi opsummerer vores resultater som følger: (1) Vores IGQ-ViT-ramme med 8 grupper allerede overgår standarden med undtagelse af ViT-B [10] og Swin-S [25] under 6/6-bit-indstilling, mens brugen af flere grupper yderligere øger ydeevnen. (2) Vores tilgang under 4/4-bit-indstilling overgår konsekvent RepQ-ViT [21] med en stor margin. Ligesom vores, RepQ-ViT adresserer også skala variationer mellem kanaler, men det kan anvendes til aktiveringer med den foregående LayerNorm. Results on ImageNet. Vi viser i tabel 3 kvantificeringsresultaterne for objektdetektion og instanssegmentering på Results on COCO. COCO [22]. Vi kvantificerer rygsøjlerne i Swin-transformatorer [25] og de konvolutionære lag i halsen og hovedet af Mask R-CNN [14] og Cascade Mask R-CNN [5]. Vi observerer, at PTQ4ViT [40] og APQ-ViT [9], der bruger lagvise kvantificatorer til aktiveringer, ikke fungerer godt. I modsætning hertil overgår IGQ-ViT kun kun kun kun 8 grupper, og kvantificeringens ydeevne øges yderligere ved at udnytte flere grupper. 
 
 
 
 
 
 Forfattere af: (1) Jaehyeon Moon, Yonsei Universitet og Articron; (2) Dohyung Kim, Yonsei Universitet (3) Junyong Cheon, Yonsei Universitet (4) Bumsub Ham, korrespondent forfatter fra Yonsei University. Authors: (1) Jaehyeon Moon, Yonsei Universitet og Articron; (2) Dohyung Kim, Yonsei Universitet (3) Junyong Cheon, Yonsei Universitet (4) Bumsub Ham, korrespondent forfatter fra Yonsei University. 
 
 Denne artikel er tilgængelig på arkiv under CC BY-NC-ND 4.0 Deed (Attribution-Noncommercial-Noderivs 4.0 International) licens Dette papir er Under CC BY-NC-ND 4.0 Deed (Attribution-Noncommercial-Noderivs 4.0 International) licens Tilgængelig i arkivet Tilgængelig i arkivet

Part of HackerNoon's growing list of open-source research papers, promoting free access to academic material.

Instancing.TECH

Pioneering instance management, driving innovative solutions for efficient resource utilization, and enabling a more sus

Instancing's blog

Denne lyd er produceret på historiens originalsprog!

Instance-Aware Grouped Quantization (IGQ-ViT) sætter nye benchmarks for ViT PTQ

About Author

KOMMENTARER

HÆNG TAGS

DENNE ARTIKEL BLEV PRÆsenterET I

Related Stories

Meet Sentry: HackerNoon Company of the Week

Meet IONOS: HackerNoon Company of the Week

Meet Timescale: HackerNoon Company of the Week

Meet KuCoin Community Chain: HackerNoon Company of the Week

Meet Sentry: HackerNoon Company of the Week

Meet IONOS: HackerNoon Company of the Week

Meet Timescale: HackerNoon Company of the Week

Meet KuCoin Community Chain: HackerNoon Company of the Week

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps