Efficient Net이 뭐지?

https://github.com/tensorflow/tpu/tree/master/models/official/efficientnet 참고했습니다.

EfficientNet 모델 정보

• EfficientNets는 최첨단 정확성을 달성하면서도 이전 모델에 비해 규모가 작고 빠른 이미지 분류 모델 제품
• AutoML과 복합 스케일링을 기반으로 EfficientNets를 개발함
• 특히 AutoML MNAS Mobile Framework를 사용하여 EfficientNet-B0라는 이름의 모바일 크기 기준 네트워크를 개발한 후 복합 스케일링 방법을 사용하여 이 기준선을 스케일업하여 EfficientNet-B1에서 B7까지 얻는다
  

  

  
  플롭스(FLOPS, FLoating point Operations Per Second)는 컴퓨터의 성능을 수치로 나타낼 때 주로 사용되는 단위이다. 초당 부동소수점 연산이라는 의미로 컴퓨터가 1초동안 수행할 수 있는 부동소수점 연산의 횟수를 기준으로 삼는다.
• EfficientNets는 ImageNet에서 효율을 크게 향상시켜 최첨단 정확도를 달성
  • 정밀도가 높은 EfficientNet-B7은 66M 파라미터와 37B FLOPS로 ImageNet에서 최첨단 84.4% Top-1 정확도를 달성하여 이전 최고 Gpipe보다 8.4배, CPU 추론 속도 6.1배 향상되었다.
  • EfficientNet-B1이 ResNet-152보다 7.6배 작고 CPU 추론 속도가 5.7배 더 빠르며 ImageNet의 정확도가 유사
  • EfficientNet-B4는 널리 사용되는 ResNet-50과 비교하여 유사한 FLOPS 제약 조건에서 상위 1위 정확도를 ResNet-50의 76.3%에서 82.6%(+6.3%)로 향상

사전트레인 된 EfficientNet 체크포인트 사용

• ImageNet에서 EfficientNet을 교육하기 위해 임의로 선택한 25,022개의 이미지(이미지 파일 이름 또는 전체 조각 1024개 중 20개)를 'minival' 분할로 유지
• 이 'minival' 분할을 기반으로 하여 조기 중지를 실시,
• 최종 정확도는 원래 ImageNet 유효성 검사 세트에 보고됨

EfficientNet의 체크포인트 목록

• 기본 ResNet 사전 처리를 통해 기존 ICML 문서와 유사한 결과를 얻는다.
• AutoAugment preprocessing으로 우리는 원래의 ICML 종이보다 더 높은 정확도를 얻는다.
  • AutoAugment : 데이터의 정확성을 향상시키는 기술, 개선된 데이터를 확장(?_하는 기술)
• RandAugment 사전 처리를 통해 정확도는 더욱 향상된다.
• AdvProp을 사용하면 최신 결과(추가 데이터 포함)를 얻을 수 있다.
• NoiseStudent를 사용하면 최신 결과(추가 JFT-300M 미표시 데이터 포함)를 얻을 수 있다.

•