Über TensorRT
TensorRT ist NVIDIAs Inference-Optimizer. Es macht Modelle auf NVIDIA-GPUs extrem schnell. TensorRT ist für Production-Inference gemacht. Es macht GPU-Inference optimal.
Hauptfeatures
- NVIDIA Inference
- Optimization
- High Performance
- Deep Learning