GPU에서 신경 분석 작업 최적화

서버가 재시작된 후 NVIDIA GPU에서 신경 분석 알고리즘을 실행하는 데 몇 분 정도 걸릴 수 있습니다. 이 동안 신경 모델은 현재 GPU 유형에 맞게 최적화됩니다.

캐싱 기능을 사용하면 이 작업이 한 번만 수행되도록 할 수 있습니다. 캐싱은 최적화 결과를 하드 드라이브에 저장하고 이후의 분석 실행 시 이를 사용합니다.

DetectorPack 3.9부터는 Axxon One을 사용하지 않고도 GPU 신경망 캐시를 생성할 수 있는 유틸리티가 Neuro Pack 애드온에 추가되었습니 (DetectorPack 애드온 설치 참조). 캐시가 존재하면 초기화가 빨라지고 비디오 메모리 소비가 최적화됩니다.

GPU에서 신경 분석 작업을 최적화하려면 다음을 수행하십시오.

1. 서버를 종료합니다 (서버 종료 참조).
   

   Attention!

   시스템에 GPU에서 실행 중인 소프트웨어가 있는 경우, 해당 소프트웨어의 작동을 중지해야 합니다.

2. GPU_CACHE_DIR 시스템 변수를 생성하려면  (부록 9. 시스템 변수 생성 참조), 변수 값 필드에 캐시 위치를 지정하고 임의의 폴더 이름을 입력합니다. 예를 들어, D:\GPU_cache. 지정된 디렉터리는 사용되는 모든 감지 도구와 신경망의 캐시를 저장합니다.
   캐시 크기는 사용되는 신경망의 수와 종류에 따라 달라지며, 최소 크기는 70MB입니다.
   

   Attention!

   이 기능은 신경 분석을 사용하는 모든 감지 도구(General information on Neural Analytics 참조)에서 베타 모드로 작동하며, Face detection을 제외한 모든 도구에서 적용됩니다.  Face detection의 GPU 작동 최적화를 위해서는 GPU_CACHE_DIR 시스템 변수를 사용하는 추가 작업을 수행해야 합니다 (Optimizing the operation of Face detection on GPU 참조). 

3. 유틸리티를 호출하려면 명령줄에서 다음 경로를 열고 Enter 키를 누릅니다: C:\Program Files\Common Files\AxxonSoft\DetectorPack\NeuroPackGpuCacheGenerator.exe

4. 필요한 GPU의 ID를 지정하고 (General Information on Configuring Detection 참조) Enter 키를 누릅니다.

GPU에서 신경 분석 작업 최적화가 완료되었습니다. 유틸리티는 Neuro Pack 애드온에 포함된 네 가지 신경망의 캐시를 생성합니다.

• GeneralNMHuman_v1.0GPU_onnx.ann—사람
• smokeScanned_v1_onnx.ann—연기 감지
• fireScanned_v1_onnx.ann—화재 감지
• reid_15_0_256__osnetfpn_segmentation_noise_20_common_29_onnx.ann—Neural Tracker에서 유사한 객체 검색 (이미지 검색 참조)
  
  

GPU 신경망 캐시를 생성하는 파라미터:

1. -p는 특정 신경망에 대한 캐시를 생성하는 파라미터입니다.
   명령 예시:

   C:\Program Files\Common Files\AxxonSoft\DetectorPack\NeuroPackGpuCacheGenerator.exe -p "<System disk>\<Neural network location directory>\Neural_network_name.ann"

   여러 신경망에 대한 캐시를 생성하려면 선택한 신경망들의 경로를 공백으로 구분하여 나열합니다.
   명령 예시:

   C:\Program Files\Common Files\AxxonSoft\DetectorPack\NeuroPackGpuCacheGenerator.exe -p "<System disk>\<Neural network location directory>\Neural_network_name.ann" "C:\Program Files\Common Files\AxxonSoft\DetectorPack\NeuroSDK\WaterLevelRuleNet_origin_onnx.ann"

2. -v는 캐시 생성 중 절차 로그를 콘솔에 출력하는 파라미터입니다.
   로그 출력을 포함하여 Neuro Pack 애드온에 포함된 네 가지 신경망의 캐시를 자동으로 생성하는 명령 예시:
   

   C:\Program Files\Common Files\AxxonSoft\DetectorPack\NeuroPackGpuCacheGenerator.exe -v

   명령 예시:

   C:\Program Files\Common Files\AxxonSoft\DetectorPack\NeuroPackGpuCacheGenerator.exe -p "<System disk>\<Neural network location directory>\Neural_network_name.ann" -v

3. --int8=1은 양자화가 가능한 신경망에 대해 양자화된 버전의 캐시를 생성하는 파라미터입니다. 기본적으로 --int8=0 파라미터는 비활성화되어 있습니다.
   명령 예시:
   

   C:\Program Files\Common Files\AxxonSoft\DetectorPack\NeuroPackGpuCacheGenerator.exe --int8=1

   Attention!

   양자화 모드가 가능한 신경망은 *.info 파일과 함께 Neuro Pack 애드온에 포함되어 있습니다.

   양자화 모드가 가능한 신경망은 다음과 같습니다 (Neurotracker 기반 장면 분석 검출 도구 설정 참조).
   

   • GeneralNMCar_v1.0GPU_onnx.ann—차량
   • GeneralNMHuman_v1.0GPU_onnx.ann—사람
   • GeneralNMHumanTopView_v0.8GPU_onnx.ann—사람, 상단 뷰

DetectorPack 3.11부터는 다음과 같은 신경망이 추가되었습니다.

• • GeneralNMHumanAndVehicle_Nano_v1.0_GPU_onnx.ann—사람과 차량 (Nano)
  • GeneralNMHumanAndVehicle_Medium_v1.0_GPU_onnx.ann—사람과 차량 (Medium)
  • GeneralNMHumanAndVehicle_Large_v1.0_GPU_onnx.ann—사람과 차량 (Large)