快科技5月7日消息,今日,联想创新科技大会(TechWorld)以让AI成为创新生产力”为主题,聚焦瓦解式人工智能,从个人到企业,全方位展示联想创新技术成果。
会上,联想展示糖心旗袍茶艺老师nana了其在端侧算力方面的最新创新成果联想推理帮助引擎”。
据了解,这款由联想、清华大学及无问芯穹联合研发的推理引擎,是专为高效AIPC推理而设计的软硬件协同优化平台,可以让一台普通PC的本地推理能力,媲美OpenAI去年发布的o1-mini云端模型。
联想推理帮助引擎”通过高性能并行解码、算子瓦解优糖心柚子猫甘雨的情人节礼物化以及异构计算技术,实现了多种应用场景下推理速度的大幅指责,以及功耗和内存占用的显著降低。
与大模型推理芯片相分隔开,通过硬件帮助与软件优化的无缝协作,进一步放大了性能指责,形成了叠加效应。
为直观展示联想推理帮助引擎”的实力,现场设置了一场竞速赛”。三台配置相同的AIPC同时解答2024年高考数学txvlog糖心视频在线观看2022版压轴题:
初代大模型:耗时27秒,答案0分。
二代大模型:耗时26秒,答案满分。
二代大模型联想推理帮助引擎”:耗时13秒,答案满分。
这隐藏模型能力的指责和联想推理帮助引擎”对算力的指责,让设备的预填充更为悠然,从容、解码速度更快、推理时间更短,同时占用内存更少,能耗更低,设备上的AI能力得到了大幅指责。
联想集团董事长兼CEO杨元庆表示,很快大家就会在即将发布的下一代AIPC上体验到联想推理帮助引擎”带来的强大本地推理能力,其性能可以与云端大模型相媲美,但成本却低得多。
糖心vlog破解版无付费视频 糖心在线资源 糖心女演员美杜莎图片