欢迎使用 ByteIR

字节跳动的端到端模型编译解决方案

开始 Github

为什么选 ByteIR?

ByteIR提供端到端的模型编译解决方案,包括前端、编译器和运行时。并且保证了高性能的运行从而达到好的用户体验。

最先进的模型

ByteIR会负责维护前端模型转换到Mhlo,并且提供模型库方便科研和测试。

方便好用

ByteIR直接使用上游MLIR方言和Google Mhlo,为编译器提供兼容的passes和基础设施。允许混合使用passes去建构编译器,这包括ByteIR,上游MLIR方言,Mhlo或是自己写的passes。

新硬件支持

ByteIR提供大量Mhlo和Linalg方言的图优化,Loop优化,或者张量优化,新硬件编译器可以复用,大大化简编译器开发。

原理

how it works picture

出品方

谁在用