Akceleracja uruchamiania analityk neuronowych wykorzystujących GPU

Po zrestartowaniu Serwera, załadowanie sieci neuronowych na NVIDIA GPU może zająć do kilku minut. Czas ten jest niezbędny do optymalizacji modułów sieci neuronowej do konkretnego typu GPU w systemie.

Jeśli wykorzystany zostanie caching, ten proces będzie musiał odbyć się tylko raz. Caching zapisuje wynik optymalizacji na dysku twardym; wynik ten jest wykorzystywany przy każdym następnym uruchomieniu analityk neuronowych.

Aby włączyć caching, utwórz zmienną systemową GPU_CACHE_DIR, a jako jej wartość określ folder, w której będzie przechowywane wyniki optymalizacji (zobacz: Załącznik 10. Tworzenie zmiennych systemowych).

Rozmiar cache zależy od ilości sieci neuronowych oraz ich typów; minimalna wielkość cache to 70MB.