Page History

서버가 재시작된 후 NVIDIA GPU에서 신경 분석 알고리즘을 실행하는 데 몇 분 정도 걸릴 수 있습니다. 이 동안 신경 모델은 현재 GPU 유형에 맞게 최적화됩니다.

캐싱 기능을 사용하면 이 작업이 한 번만 수행되도록 할 수 있습니다. 캐싱은 최적화 결과를 하드 드라이브에 저장하고 이후의 분석 실행 시 이를 사용합니다.

DetectorPack 3.9부터는 Axxon One을 사용하지 않고도 GPU 신경망 캐시를 생성할 수 있는 유틸리티가 Neuro Pack 애드온에 추가되었습니 (DetectorPack 애드온 설치 참조). 캐시가 존재하면 초기화가 빨라지고 비디오 메모리 소비가 최적화됩니다.

GPU에서 신경 분석 작업을 최적화하려면 다음을 수행하십시오.

1. 서버를 종료합니다 (서버 종료 참조

It may take several minutes to launch neuroanalytics algorithms on NVIDIA GPU after Server restart. Meanwhile, the neuromodels are optimized for the current GPU type.

You can use the caching function to ensure that this operation is performed only once. Caching saves the optimization results on the hard drive and uses it for the subsequent analytics runs. 

Starting with DetectorPack 3.9, a utility was added to the Neuro Pack add-ons (see DetectorPack 애드온 설치), which allows you to create GPU neural network caches without using Axxon One. The presence of the cache speeds up the initialization and optimizes video memory consumption.

To optimize the operation of the neural analytics on GPU, do the following:

1. Stop the Server (see 서버 종료).
   

   Note
   title Attention!
   If the system has the software running on GPU, it is necessary to stop its operation.
   시스템에 GPU에서 실행 중인 소프트웨어가 있는 경우, 해당 소프트웨어의 작동을 중지해야 합니다.

   
   

2. Create the GPU_CACHE_DIR system variable (see 시스템 변수를 생성하려면  (부록 9. 시스템 변수 생성) by specifying in the Variable value field the path to the cache location with an arbitrary folder name. For example 참조), 변수 값 필드에 캐시 위치를 지정하고 임의의 폴더 이름을 입력합니다. 예를 들어, D:\GPU_cache. The specified directory will store the cache for all used detection tools and neural networks.
   The cache size depends on the number of neural networks used and their type, the minimum size is 70 MB지정된 디렉터리는 사용되는 모든 감지 도구와 신경망의 캐시를 저장합니다.
   캐시 크기는 사용되는 신경망의 수와 종류에 따라 달라지며, 최소 크기는 70MB입니다.
   

   Note
   title Attention!
   This function works in beta mode for all detection tools which use neuroanalytics (see 이 기능은 신경 분석을 사용하는 모든 감지 도구(General information on Neural Analytics 참조)에서 베타 모드로 작동하며, except  Face detection을 제외한 모든 도구에서 적용됩니다. To optimize Face detection operation using the 의 GPU 작동 최적화를 위해서는 GPU_CACHE_DIR system variable, you need to perform additional actions (see 시스템 변수를 사용하는 추가 작업을 수행해야 합니다 (Optimizing the operation of Face detection on GPU 참조).

   
   

3. To call the utility, open in the command line: C유틸리티를 호출하려면 명령줄에서 다음 경로를 열고 Enter 키를 누릅니다: C:\Program Files\Common Files\AxxonSoft\DetectorPack\NeuroPackGpuCacheGenerator.exe and press Enter.

4. 필요한 GPU의 ID를 지정하고 (Specify the ID of the required GPU (see General Information on Configuring Detection 참조) and press Enter .키를 누릅니다.

GPU에서 신경 분석 작업 최적화가 완료되었습니다. 유틸리티는 Neuro Pack 애드온에 포함된 네 가지 신경망의 캐시를 생성합니다.Optimizing the operation of the neural analytics on GPU is complete. The utility will create the caches of four neural networks included in the Neuro Pack add-ons:

• GeneralNMHuman_v1.0GPU_onnx.ann—human;—사람
• smokeScanned_v1_onnx.ann—smoke detection;ann—연기 감지
• fireScanned_v1_onnx.ann—fire detection;ann—화재 감지
• reid_15_0_256__osnetfpn_segmentation_noise_20_common_29_onnx.ann—search for the similar in the Neural Tracker (see ann—Neural Tracker에서 유사한 객체 검색 (이미지 검색 참조).
  
  

Creating GPU neural network caches using parameters:

GPU 신경망 캐시를 생성하는 파라미터:

1. -p는 특정 신경망에 대한 캐시를 생성하는 파라미터입니다.
   명령 예시-p is a parameter to create a cache for a particular neural network.
   Command example:

   Code Block
   C:\Program Files\Common Files\AxxonSoft\DetectorPack\NeuroPackGpuCacheGenerator.exe -p "<System disk>\<Neural network location directory>\Neural_network_name.ann"

   To create a cache for multiple neural networks, list the paths to the selected neural networks, separated by a space.
   Command example여러 신경망에 대한 캐시를 생성하려면 선택한 신경망들의 경로를 공백으로 구분하여 나열합니다.
   명령 예시:

   Code Block
   C:\Program Files\Common Files\AxxonSoft\DetectorPack\NeuroPackGpuCacheGenerator.exe -p "<System disk>\<Neural network location directory>\Neural_network_name.ann" "C:\Program Files\Common Files\AxxonSoft\DetectorPack\NeuroSDK\WaterLevelRuleNet_origin_onnx.ann"

   
   

2. -v is a parameter to output the procedure log to the console during cache generation.
   Command example to automatically create caches of four neural networks included in the Neuro Pack add-ons with log output는 캐시 생성 중 절차 로그를 콘솔에 출력하는 파라미터입니다.
   로그 출력을 포함하여 Neuro Pack 애드온에 포함된 네 가지 신경망의 캐시를 자동으로 생성하는 명령 예시:
   

   Code Block
   C:\Program Files\Common Files\AxxonSoft\DetectorPack\NeuroPackGpuCacheGenerator.exe -v

   Command example명령 예시:

   Code Block
   C:\Program Files\Common Files\AxxonSoft\DetectorPack\NeuroPackGpuCacheGenerator.exe -p "<System disk>\<Neural network location directory>\Neural_network_name.ann" -v

   
   

3. --int8=1 is a parameter to create a quantized version of the cache for those neural networks for which quantization is available. By default, the 은 양자화가 가능한 신경망에 대해 양자화된 버전의 캐시를 생성하는 파라미터입니다. 기본적으로 --int8=0 parameter is disabled파라미터는 비활성화되어 있습니다.
   Command example명령 예시:
   

   Code Block
   C:\Program Files\Common Files\AxxonSoft\DetectorPack\NeuroPackGpuCacheGenerator.exe --int8=1

   
   

   Note
   title Attention!
   The neural networks for which the quantization mode is available are included in the Neuro Pack add-ons together with the *.info file.
   양자화 모드가 가능한 신경망은 *.info 파일과 함께 Neuro Pack 애드온에 포함되어 있습니다.

   양자화 모드가 가능한 신경망은 다음과 같습니다 (The neural networks for which the quantization mode is available (see Neurotracker 기반 장면 분석 검출 도구 설정 참조):.
   

   • GeneralNMCar_v1.0GPU_onnx.ann—vehicles.차량
   • GeneralNMHuman_v1.0GPU_onnx.ann—human.—사람
   • GeneralNMHumanTopView_v0.8GPU_onnx.ann—human, top view.ann—사람, 상단 뷰

DetectorPack 3.11부터는 다음과 같은 신경망이 추가되었습니다.Starting with DetectorPack 3.11, the following neural networks were added:

• • GeneralNMHumanAndVehicle_Nano_v1.0_GPU_onnx.ann—human and vehicle —사람과 차량 (Nano).
  • GeneralNMHumanAndVehicle_Medium_v1.0_GPU_onnx.ann—human and vehicle —사람과 차량 (Medium).
  • GeneralNMHumanAndVehicle_Large_v1.0_GPU_onnx.ann—human and vehicle —사람과 차량 (Large).