mlc-ai/mlc-llm 是一个 Python 开源项目,星火仓评分 82 分,A 级。MLC LLM 是一个通过机器学习编译技术,实现大语言模型在任意硬件平台上高效原生部署的通用引擎。
mlc-llm (mlc-ai) 开源项目详情