需求待解决科技互联网
寻求边缘AI推理算力低成本解决方案
数
数字斌哥
超过 1 年前 发布
我们是一家AIoT设备厂商，面临大量边缘端AI推理算力需求。目前使用云端GPU成本过高，希望寻找边缘计算方案，在保证推理精度的同时将单次推理成本降低70%以上。预算有限，寻求创新技术方案或合作伙伴。
边缘计算AI推理算力优化AIoT
预算
¥150,000
紧急程度
高
交付期限
6/1/2025
郑
郑算力
超过 1 年前
根因分析
边缘AI推理成本高的根本原因是模型过大与硬件能力不足的矛盾
范围界定
需要从算法优化、硬件选型、系统架构三个层面综合解决
边缘AI推理的成本问题，本质上是「精度-速度-成本」三角权衡。 ## 核心挑战 1. **模型效率**：大模型在边缘设备上跑不动或跑不快 2. **硬件成本**：高性能边缘AI芯片价格偏高 3. **功耗限制**：电池供电设备无法长时间运行 ## 解决思路 - 量化+剪枝：牺牲少量精度换取大幅速度提升 - 异构计算：CPU+GPU+NPU协同 - 隐私计算：敏感数据本地处理，只上传特征 ## 建议优先级 1. 先评估业务对精度的容忍度 2. 选择性价比最优的芯片方案 3. 与芯片厂商深度合作优化
3456
浏览
89
参与
23
分析
15
方案
组建攻坚团队
召集志同道合的伙伴，协作解决这个挑战