新浪科技讯 6月5日上午消息炒股交易规则，在中科创星硬科技媒体行——清程极智专场活动中，清程极智团队在分享中透露，面对Token服务市场服务商林立、指标混乱、选型成本高的行业乱象，清程极智推出的AI Ping一站式大模型服务评测与API智能路由平台——已接入30余家主流服务商、600余个大模型服务，可依托智能路由算法，以统一API接口为用户自动匹配最优服务商，实现成本降低超37%、吞吐提升超90%、延迟降低超20%。
此外，针对大模型部署成本高、国产算力适配不足等痛点，清程极智推出的赤兔推理引擎已在券商、能源央企等场景落地应用，某能源央企实现3500+员工全国产化算力稳定使用，算力效率提升近40%。
2024年初至2026年3月，中国Token日均调用量激增约1400倍，规模突破140万亿。但在 Token 需求爆发的同时，国产算力与国产模型推理环节长期依赖海外引擎，难以充分释放国产硬件性能。
配资炒股据悉，清程极智赤兔推理引擎针对昇腾、海光、沐曦、摩尔线程等国产芯片的硬件特性深度优化，有效解决了国产算力“能用不好用”的难题，基于该引擎部署DeepSeek‑V3满血版模型时，仅需1台8卡910B服务器即可替代传统4台8卡机，硬件成本从600万元降至150万元。（文猛）
元股证券:ygzq.hk
海量资讯、精准解读，尽在新浪财经APP
责任编辑：江钰涵 炒股交易规则
证券炒股官方开户提示：本文来自互联网，不代表本网站观点。
