Triton Inference Server ✓
平台介绍
NVIDIA Triton是开源的推理服务器，支持TensorFlow、PyTorch、ONNX等多种框架。提供高性能推理、动态批处理和模型编排。是构建生产级AI推理服务的专业工具。
支持模型
价格信息
开源免费
NVIDIA Triton是开源的推理服务器，支持TensorFlow、PyTorch、ONNX等多种框架。提供高性能推理、动态批处理和模型编排。是构建生产级AI推理服务的专业工具。