Edge TPU 성능 벤치마크

개별 Edge TPU는 각 TOPS에 대해 0.5와트(와트당 2 TOPS)를 사용하여 초당 4조(테라) 작업을 수행할 수 있습니다. 응용 프로그램의 성능으로 변환하는 방법은 다양한 요인에 따라 다릅니다. 모든 신경망 모델에는 각각 다른 요청이 있으며 USB Accelerator 장치를 사용하는 경우 전체 성능도 호스트 CPU, USB 속도 및 기타 시스템 리소스에 따라 달라집니다.


구매 대리점: htps : ///s. g 등 ぃ ty k k. 이 m

그럼에도 불구하고 아래 표 1은 Edge TPU에서 몇 가지 일반적인 모델과 단일 추론을 수행하는 데 걸린 시간을 비교한 것입니다.

이것은 Edge TPU와 호환되는 소수의 모델 아키텍처를 나타냅니다. 자신의 모델을 테스트하려면 모델 아키텍처 요구 사항을 읽으십시오.

참고: 이 숫자는 모델을 실행하는 데 필요한 시간만 측정합니다. 입력 데이터를 처리하는 시간(입력 텐서에 맞추어 이미지를 축소하는 등)은 포함되지 않습니다. 이것은 시스템과 응용 프로그램에 따라 다릅니다. 이러한 테스트도 C++ 벤치마크 테스트를 사용하여 실행되지만, 우리의 공용 Python 벤치마크 스크립트는 Python의 오버헤드로 인해 느려질 수 있습니다.

1. 추론당 시간, 밀리초(ms)

데스크탑 CPU: 64비트 인텔(R) 제온(R) E5-1650 v4 @ 3.60GHz

임베디드 CPU : 쿼드 코어 Cortex-A53 @ 1.5GHz

Dev Board: 쿼드 코어 Cortex-A53 @ 1.5GHz + Edge TPU

일부 작업은 CPU에서 실행해야하므로 성능이 저하됩니다.

Edge TPUランタイムのバージョン10ではサポートされていません。 アップデートは近日中に公開される予定です。