테이블 왼쪽 Abstract and 1. Introduction abstract 및 1.introduction 
 
 
 
 
 
 
 Related work 
 
 
 
 
 Method 3.1. Uniform quantizer 3.2. IGQ-ViT 3.3. Group size allocation 
 
 
 
 Experiments 4.1. Implementation details and 4.2. Results 4.3. Discussion 
 
 Conclusion, Acknowledgements, and References 관련 작업 결론, 인정 및 참조 Supplementary Material A. 더 많은 구현 세부 사항 B. 기존 하드웨어와의 호환성 C. 실용적인 장치에 대한 지연 D. DETR에 대한 응용 4) 실험 이 섹션에서, 우리는 우리의 실험 설정을 설명합니다 (4.1 섹션), 그리고 이미지 분류, 개체 감지 및 정의 분할 (4.2 섹션)에 대한 IGQ-ViT를 평가합니다. 4.1 구현의 세부 사항 우리는 이미지 분류, 개체 탐지 및 인스턴스 분할 작업에 대한 우리의 IGQ-ViT 프레임 워크를 평가합니다. 우리는 이미지 분류에 대한 ImageNet [8] 데이터 세트를 사용하여, 교육을 위해 약 1.2M 이미지를 포함하고 검증을 위해 50K 이미지를 포함합니다. 우리는 개체 탐지 및 인스턴스 분할 작업을 위해 COCO [22]를 사용합니다. 118K 훈련, 5K 검증 및 20K 테스트 이미지를 포함합니다. 우리는 이미지 분류를 위해 ViT [10], DeiT [34] 및 Swin 변환기 [25]를 포함한 다양한 변압기 아키텍처를 채택합니다. 개체 탐지 및 인스턴스 분할 작업을 위해 우리는 Mask R-CNN [14] 및 Cascade Mask R-CNN [5]를 사용하여 스윈 변 4.2 결과 우리는 표 2에서 다양한 ViT 아키텍처에서 ImageNet [8]의 검증 분할에서 상위 1의 정확성을 보여줍니다. 우리는 평균 그룹 크기 8과 12로 정확성을보고합니다. 우리는 다음과 같이 결과를 요약합니다: (1) 우리의 IGQ-ViT 프레임 워크 8 그룹은 이미 6/6-비트 설정에서 ViT-B [10] 및 Swin-S [25]를 제외한 예술의 상태를 뛰어넘는 반면, 더 많은 그룹을 사용하면 성능이 향상됩니다. (2) 4/4-비트 설정에서 우리의 접근 방식은 RepQ-ViT [21]를 훨씬 뛰어넘습니다. 우리와 마찬가지로 RepQ-ViT는 채널 간 규모 변화를 해결하지만 이전 LayerNorm과 함께 활성화에 적용 할 수 있습니다. 반대로, 우리의 방법은 FC Results on ImageNet. Table 3에서는 객체 탐지 및 인스턴스 분할에 대한 정량화 결과를 보여줍니다. Results on COCO. COCO [22]. 우리는 스윈 변환기 [25]의 척추와 마스크 R-CNN [14] 및 캐스케이드 마스크 R-CNN [14]의 목과 머리에 있는 회전층을 양성합니다. 우리는 PTQ4ViT [40] 및 APQ-ViT [9], 활성화를 위해 계층형 양성기를 사용하는 것이 잘 작동하지 않는다는 것을 관찰합니다. 대조적으로, IGQ-ViT는 8 그룹 만으로 최첨단 성능을 뛰어넘고 있으며, 양성 성능은 더 많은 그룹을 활용함으로써 더욱 향상됩니다. 특히, 6/6-비트 설정에 대한 완전 정밀 성능과 거의 동일한 결과를 제공합니다. 이것은 다른 채널 또는 토큰 간의 규모 변동이 객체 탐지 및 인스턴스 분할에 
 
 
 
 
 
 저자 : (1) Jaehyeon Moon, Yonsei University 및 Articron; (2) Dohyung Kim, Yonsei University (3) Junyong Cheon, Yonsei University (4) Bumsub Ham, Yonsei 대학의 편집자. Authors: (1) Jaehyeon Moon, Yonsei University 및 Articron; (2) Dohyung Kim, Yonsei University (3) Junyong Cheon, Yonsei University (4) Bumsub Ham, Yonsei 대학의 편집자. 
 
 이 논문은 CC BY-NC-ND 4.0 Deed (Attribution-Noncommercial-Noderivs 4.0 International) 라이선스 아래에 저장되어 있습니다. 이 종이는 CC BY-NC-ND 4.0 Deed (Attribution-Noncommercial-Noderivs 4.0 International) 라이선스 Archive 에서 이용 가능 Archive 에서 이용 가능

Part of HackerNoon's growing list of open-source research papers, promoting free access to academic material.

Instancing.TECH

Pioneering instance management, driving innovative solutions for efficient resource utilization, and enabling a more sus

Instancing's blog

이 오디오는 이야기의 원래 언어로 제작되었습니다!

너무 오래; 읽다

인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스턴스 인스

About Author

코멘트

태그 걸기

이 기사는 다음에서 발표되었습니다.

Related Stories

텔레그램: 크립토 아일랜드에서 본토로 연결되는 다리

볼츠만 뇌 이론에 대한 간략한 소개

이 18가지 개발자 도구로 생산성을 높이세요 🚀🔥

사용자 중심의 암호화 제품 만들기: 고객 피드백의 중요성

텔레그램: 크립토 아일랜드에서 본토로 연결되는 다리

볼츠만 뇌 이론에 대한 간략한 소개

이 18가지 개발자 도구로 생산성을 높이세요 🚀🔥

사용자 중심의 암호화 제품 만들기: 고객 피드백의 중요성

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps