Pipeshift创新推出模块化推理引擎，助力企业AI推理GPU使用率骤降75%

Pipeshift近期发布了一款端到端平台，助力企业高效训练、部署及扩展开源生成式AI模型。该平台支持多环境运行，并能显著提升推理速度和降低成本。针对企业模型切换难题，Pipeshift的模块化推理引擎（MAGIC框架）允许灵活组合推理组件，优化性能。一家财富500强零售公司通过整合模型至单一GPU实例，实现了推理速度五倍提升及60%的成本降低。

目前，Pipeshift已与30家公司签订年度授权协议，并计划推出数据集构建工具，进一步加速实验和数据准备，提升客户工作效率。详情访问：[https://pipeshift.com/](https://pipeshift.com/)

　　免责声明：本文由用户上传，与本网站立场无关。财经信息仅供读者参考，并不构成投资建议。投资者据此操作，风险自担。 如有侵权请联系删除！