首页>经济频道>要闻 > 内容详情

英特尔高宇:联想小新Pro超轻薄笔记本可离线流畅运行AI本地大模型

2023-12-10 17:34:55 大字体 小字体 扫码带走
打印

12月7日,在首届AI PC产业创新论坛上,英特尔中国区技术总经理高宇在主题分享中表示,AI PC需要CPU、GPU和NPU提供的混合算力来支持。目前,经过英特尔与联想的共同优化,CPU的通用算力已经可以流畅地运行本地大模型。

高宇在现场演示了在联想小新Pro超轻薄笔记本上离线运行7B(70亿参数)AI本地大模型的效果。这台笔记本配备了英特尔13代酷睿13900H CPU。在只使用CPU通用算力的情况下,这台联想小新Pro笔记本半秒钟左右就可以获得首个token输出,流畅的速度完全满足人眼阅读需求。 

英特尔7B AI本地模型可在联想小新Pro超轻薄笔记本上流畅运行

据高宇介绍,将于12月15日发布的14代酷睿Ultra新平台上,这个7B参数的AI本地大模型将运行在iGPU上,性能和使用体验会更上一个台阶。

高宇表示,联想作为行业领导企业,也是英特尔多年最核心的战略合作伙伴,在很多战略决策上双方都坚定地走到了一起。在即将到来的AI PC时代,英特尔也将与联想共同携手,推动AI PC的普及和发展。

 

速豹新闻网·山东商报编辑:杜姿霖