在 CGO 2023 会议中 C4ML 研讨会上的演讲

在 CGO 2023 会议中 C4ML 研讨会上的演讲

在现有的生产环境机器学习编译器中采用开源编译器基础设施是充满挑战和棘手的问题。在这次演讲中,来自 ByteIR 的 Li-wen Chang 分享了我们如何采用 MLIR 并改革我们现有的生产环境机器学习编译器的经验,并讨论了我们学到的教训和获得的好处。我们的编译器涉及跨服务、图和循环的多个级别的优化,以便自动无缝地部署模型。在这次演讲中,他还涵盖了每个部分的优化,并深入探讨了它们的技术需求和挑战,以及我们相应的解决方案。您可以在我们的海报上查看更多关于我们的 Linalg 方言优化的信息: