Nebullvm是一个创建人工智能模型优化版本的库,其运行速度可达20倍。它确定了在特定硬件上执行模型的最佳方式,而不影响模型的准确性。
nebullvm目标是让任何开发人员从深度学习 (DL) 编译器中受益,而无需花费大量时间来理解、安装、测试和调试这项强大的技术。
支持的框架:
- PyTorch
- TensorFlow
- Hugging Face
支持的深度学习编译器:
- OpenVINO
- TensorRT
- TVM
- MLIR (Coming soon)
Nebullvm基于开源社区和主要硬件供应商在深度学习编译器方面所做的杰出工作。目前nebullvm支持作为 AI 编译器:
- OpenVINO(在英特尔机器上)
- TensorRT(在NVIDIA GPU 上)
- Apache TVM
点击标题