与trtorch等项目的优劣对比

[aaronchan90]

与trtorch等项目的优劣对比

[zhaoyiluo]

Hello @aaronchan90 ，感谢您对 Forward 项目的支持。

Forward 和 NV 提供的 trtorch、tf-trt 等项目，它们解决的问题都是相同的，即实现模型的部署和推理。

对于您提出的问题，我总结了以下几点：

1、Forward 实现了一次编译即能同时支持四种深度学习框架的推理（TF，Torch，Keras，ONNX）；

2、Forward（除 fwd_onnx 以外）自定义了 TensorRT 网络层，这会使得和 NV 自身推理项目的支持范围不同；

3、fwd_torch、fwd_tf 和 trtorch、tf-trt 支持的算子范围不同，同时，我们也对部分基础算子进行了优化，提升推理性能；

4、对于同一框架，假设算子范围和性能相同的前提下，可以理解为对应的两个项目是“相同的“。

欢迎在使用的过程中继续交流！

[github-actions]

This issue is stale because it has been open 30 days with no activity. Remove stale label or comment or this will be closed in 5 days.

[github-actions]

This issue was closed because it has been stalled for 5 days with no activity.