Pipeshift创新推出模块化推理引擎，助力企业AI推理GPU使用率骤降75%
发布时间：2025-01-24 10:41:18来源：网易
Pipeshift近期发布了一款端到端平台，助力企业高效训练、部署及扩展开源生成式AI模型。该平台支持多环境运行，并能显著提升推理速度和降低成本。针对企业模型切换难题，Pipeshift的模块化推理引擎（MAGIC框架）允许灵活组合推理组件，优化性能。一家财富500强零售公司通过整合模型至单一GPU实例，实现了推理速度五倍提升及60%的成本降低。
目前，Pipeshift已与30家公司签订年度授权协议，并计划推出数据集构建工具，进一步加速实验和数据准备，提升客户工作效率。详情访问：[https://pipeshift.com/](https://pipeshift.com/)
免责声明：本答案或内容为用户上传，不代表本网观点。其原创性以及文中陈述文字和内容未经本站证实，对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺，请读者仅作参考，并请自行核实相关内容。 如遇侵权请及时联系本站删除。
