Open Source
Open-source

Triton Inference Server

Website besuchen

Über Triton Inference Server

Triton ist NVIDIAs Inference-Server. Es unterstützt alle Frameworks und ist hochperformant. Triton ist Open Source. Es macht Inference auf GPUs optimal.

Hauptfeatures

  • NVIDIA Inference
  • Multi-Framework
  • High Performance
  • Open Source

Ähnliche Tools

KServe

Open Source
Open-source

Modell Serving auf Knopfdruck in deinem Kubernetes-Cluster.

Text Generation WebUI

Open Source
Open-source

Erstelle einen Web-Assistenten für deine eigenen LLMs.

JAX

Open Source
Open-source

Mach NumPy differenzierbar für dein ML-Projekt.

Auto-sklearn

Open Source
Open-source

Automatischer ML-Helfer für komplexe Aufgaben

Zurück zur Übersicht