OpenVINO를 사용하여 WSL 속도 확인

5663 단어 CNNOpenVINOWSLDNN

목적



OpenVINO를 사용하여 WSL의 속도를 확인합니다.

그다지 좋은 속도 검증의 소재가 생각나지 않기 때문에, OpenVINO의 데모를 사용했습니다.

검증 환경



PC: ideapad 320S
CPU: Intel Core i3-7100U CPU @ 2.40GHz

OS:Windows10 버젼 1803(OS 빌드 17134.829)
WSL (Windows Subsystem for Linux) : 위의 Windows 10과 같습니다.
Linux:Ubuntu 18.04LTS
디스플레이: VcXsrv 버전 1.20.1.4
opencv:3.4.0
 ※3.4.1이라든가는 아닙니다.

이용한 소프트:openvino_2019.1.087※1
데모 소프트 이름: demo_security_barrier_camera
※1 WSL측은, 나중에 넣었으므로, openvino_2019.1.144



검증 결과



inference(추론) 부분만. 5 번 실행하고 각 fps를 보여줍니다.

--demo_security_barrier_camera
Windows 23.7 50.0 56.3 54.6 37.5fps
WSL 20.8 51.0 55.2 53.6 54.5fps

다음은 이전 Windows에서 측정 결과.
CPU FP32 22.6, 17.3fps

런타임 출력 발췌
Windows
[ INFO ] InferenceEngine:
        API version ............ 1.6
        Build .................. 22443
[ INFO ] Parsing input parameters
[ INFO ] Capturing video streams from the video files or loading images
[ INFO ] Files were added: 1
[ INFO ]     C:\Program Files (x86)\IntelSWTools\openvino_2019.1.087\deployment_tools\demo\\car_1.bmp
[ INFO ] Number of input image files: 1
[ INFO ] Number of input video files: 0
[ INFO ] Number of input channels: 1
[ INFO ] Display resolution: 1920x1080
[ INFO ] Loading plugin CPU

        API version ............ 1.6
        Build .................. 22443
        Description ....... MKLDNNPlugin
[ INFO ] Loading network files for VehicleDetection
[ INFO ] Batch size is forced to  1
[ INFO ] Checking Vehicle Detection inputs
[ INFO ] Checking Vehicle Detection outputs
[ INFO ] Loading Vehicle Detection model to the CPU plugin
[ INFO ] Loading network files for VehicleAttribs
[ INFO ] Batch size is forced to 1 for Vehicle Attribs
[ INFO ] Checking VehicleAttribs inputs
[ INFO ] Checking Vehicle Attribs outputs
[ INFO ] Loading Vehicle Attribs model to the CPU plugin
[ INFO ] Loading network files for Licence Plate Recognition (LPR)
[ INFO ] Batch size is forced to  1 for LPR Network
[ INFO ] Checking LPR Network inputs
[ INFO ] Checking LPR Network outputs
[ INFO ] Loading LPR model to the CPU plugin
[ INFO ] Start inference





WSL
[ INFO ] InferenceEngine:
        API version ............ 1.6
        Build .................. custom_releases/2019/R1.1_28dfbfdd28954c4dfd2f94403dd8dfc1f411038b
[ INFO ] Parsing input parameters
[ INFO ] Capturing video streams from the video files or loading images
[ INFO ] Files were added: 1
[ INFO ]     /opt/intel/openvino_2019.1.144/deployment_tools/demo/car_1.bmp
[ INFO ] Number of input image files: 1
[ INFO ] Number of input video files: 0
[ INFO ] Number of input channels: 1
[ INFO ] Display resolution: 1920x1080
[ INFO ] Loading plugin CPU

        API version ............ 1.6
        Build .................. 23780
        Description ....... MKLDNNPlugin
[ INFO ] Loading network files for VehicleDetection
[ INFO ] Batch size is forced to  1
[ INFO ] Checking Vehicle Detection inputs
[ INFO ] Checking Vehicle Detection outputs
[ INFO ] Loading Vehicle Detection model to the CPU plugin
[ INFO ] Loading network files for VehicleAttribs
[ INFO ] Batch size is forced to 1 for Vehicle Attribs
[ INFO ] Checking VehicleAttribs inputs
[ INFO ] Checking Vehicle Attribs outputs
[ INFO ] Loading Vehicle Attribs model to the CPU plugin
[ INFO ] Loading network files for Licence Plate Recognition (LPR)
[ INFO ] Batch size is forced to  1 for LPR Network
[ INFO ] Checking LPR Network inputs
[ INFO ] Checking LPR Network outputs
[ INFO ] Loading LPR model to the CPU plugin
[ INFO ] Start inference


검증 결과(추가)



다시 한번 헤아려 보았습니다.

inference(추론) 부분만. 각 fps를 보여줍니다.
[]내의 숫자는, 측정을 실시한 차례.
(13회째까지는, 노트북 PC의 전원은 미접속.)

--demo_security_barrier_camera
Windows
20.66[1], 16.72[5], 26.71[6], 55.72[7], 48.82[8], 54.99[9],
21.86[17], 53.89[18], 54.09[19]fps

WSL
2.88[2], 12.06[3], 19.34[4], 18.39[10], 17.68[11], 22.25[12], 18.32[13],
21.54[14], 20.52[15], 18.94[16]fps

⇒ 오늘은, WSL은, 전혀, 의욕이 없는 것 같습니다.
  (좋은 가감한 검증으로, 죄송합니다.)

보충(작동시키기 위한 작업 메모)



하기 사이트에 기재된 커맨드와 같이 실시하였다.
htps : // / cs. 오페 ゔ ぃ ㄱ ㅇ 오 rg / ㅁ st / _ ds cs_ in s tai l_ gui s_ in s t e g g ぺんゔ ぃ의 ぃ ん x. html # in s ta l

빌드에서 다음과 같은 오류가 (대량으로) 나왔습니다.
/opt/intel/openvino_2019.1.144/opencv/lib/libopencv_highgui.so.4.1.0: undefined reference to `gtk_main_iteration'

이하의 대응을 실시했다(여러가지 대처를 시험했으므로, 하기가 올바른 대처인가는 불명)
$ sudo apt-get install libgtk-3-dev

요약



Windows에서의 실행과, WSL상에서의 실행으로, 속도 차이는 없는 느낌.
원래, 측정마다의 큰 편차 쪽이 문제.
좀 더, 괜찮은 측정 방법을 생각할 필요가 있다.
이전 결과에 비해 극단적으로 빠르고 있는 이유 불명.
그래서,
문제밖에 없는, 정리입니다.

미래



코멘트 등 있으면 부탁드립니다.

관련



OpenVINO를 사용하여 CPU 내장 GPU의 속도 확인

좋은 웹페이지 즐겨찾기