5月7日,联想创新科技大会(Tech World)在上海举办。会上,联想展示了与清华大学及无问芯穹联合研发的“联想推理加速引擎”,这是专为高效AI PC推理设计的软硬件协同优化平台,可让普通PC本地推理能力媲美OpenAI的o1-mini云端模型。现场还展示了搭载该引擎的台式电脑,造价约4万元,预计下半年上市,可大幅降低企业用户私有化部署大模型的成本,模型本地训练成本可下降98%。
今年年初,AI一体机批量现世,让企业尤其是中小型企业部署AI和大模型的成本从动辄百万元下探到了20万元左右。几个月后,这一成本有望进一步下探至数万元级别。5月7日,以“让AI成为创新生产力”为主题的联想创新科技大会(Tech World)在上海举办,《每日经济新闻》记者现场参会。
会上,联想集团展示了其在端侧算力方面的最新成果“联想推理加速引擎”。《每日经济新闻》记者在发布会现场了解到,这款由联想、清华大学及无问芯穹联合研发的推理引擎是专为高效AI PC推理而设计的软硬件协同优化平台,可让一台普通PC(笔记本电脑)的本地推理能力媲美OpenAI去年发布的o1-mini云端模型。
从实现逻辑上看,“联想推理加速引擎”主要通过高性能并行解码、算子融合优化以及异构计算技术,需与大模型推理芯片相结合,从而实现多种应用场景下推理速度的提升,同时降低功耗和内存占用。
联想集团董事长兼CEO杨元庆在发布会现场称,消费者将在即将发布的下一代AI PC上体验到“联想推理加速引擎”。“今天随着AI需求的爆发式增长,端侧计算和推理能力的提升将依然保持指数级增长的速度,甚至更快。未来12个月,端侧AI综合能力将实现至少三倍的提升,这也许不是梦想!”杨元庆称。
《每日经济新闻》记者还在展台现场发现,联想集团此次还展示了搭载上述加速引擎的台式电脑产品。据展台现场工作人员介绍,该款产品内置了1张中阶显卡、1张显存扩容卡以及“联想推理加速引擎”,整体造价约在4万元左右,可实现32B大模型的本地训练,预计今年下半年上市,有望进一步降低金融、教育、法律等领域的企业用户尤其是中小企业用户私有化部署大模型的成本。
据上述工作人员介绍,市面上的32B大语言模型传统训练方案的整体造价很高,如国内某厂商的成本约在200万元左右,最少需要8张英伟达显卡,对中小企业来说部署成本过高。在联想此次展示的电脑上,通过内置的“AI Studio”软件平台,用户可将自己的数据库及个性化信息通过自选大模型(32B模型)进行训练,模型本地训练成本可下降98%。
如需转载请与《每日经济新闻》报社联系。未经《每日经济新闻》报社授权,严禁转载或镜像,违者必究。
特别提醒:如果我们使用了您的图片,请作者与本站联系索取稿酬。如您不希望作品出现在本站,可联系我们要求撤下您的作品。
“终结者”会走进千家万户吗? 人形机器人量产前夕,有公司把造价打到10万元内
大厂鏖战AI PC联想卷轴屏电脑量产 英伟达游戏本也加入战局|CES黑科技速递
最新!巴基斯坦宣布进入紧急状态,全国教育机构停课!特朗普称印度对巴方的军事行动“线
印巴冲突升级 ,巴基斯坦称击落印度6架战机!印度对9个巴方目标发动导弹袭击!印度北部地区部分机场关闭
中国外交部呼吁:冷静克制!巴方宣布:击落3架阵风+1架米格+1架苏-30!莫迪彻夜“观战”,印方称巴方开火致10死48伤
突发!印度向巴基斯坦发射导弹,巴方:击落印度两架战机!特朗普最新发声:真可耻!巴所有主要城市进入紧急状态
下周四,降准!公积金贷款利率下调,新贷款即可享受,存量贷款明年1月开始执行
外交部回应中美经贸高层会谈:这次会谈是应美方请求举行的,中方坚决反对美国滥施关税这一立场没有任何变化
巴基斯坦公布细节:两国战机均未侵入对方领空!巴军方获授权自主决定对印反击!巴方召见印度驻巴临时代办