AIPC行业深度:背景及概念、市场价值、产业链及相关公司深度梳理.pdf

AI大模型在云端运行存在数据泄露、传输延迟、运营成本越来越高等诸多问题,阻碍大模型的商业化应用,因此将AI大模型嵌入终端设备,形成混合AI架构是促进大模型普及的重要措施。AIPC将AI模型与PC结合,带来架构设计、交互方式、内容、应用生态等创新,将深入变革PC产业。随着AIPC发展得如火如茶,能够认为2024年将会成为AIPC元年。
本篇文章的研究对象将是AIPC,我们将对AIPC的发展背景进行详细分析,并讲解其概念及功能等内容,分析其演进趋势。接下来,我们将深入探讨AIPC对个人电脑行业所带来的价值,并对AIPC产业链进行梳理,分析其为传统个人电脑产业链带来了哪些变化,列举可能受益的相关公司。希望这些内容能够增进大家对AIPC的认识1、数据安全和高成本阻碍大模型普及
AI大模型在云端运行存在数据泄露、传输延迟、云端运营成本越来越高等诸多问题,阻碍大模型的商业化应用。在数据安全方面,以ChatGPT为例,根据Cyberhavem的统计,每个使用ChatGPT的公司每周向ChatGPT泄露数百次机密材料,而ChatGPT正在将这些材料纳入其公开的知识库并进行共享。在云端大棋型运行成本方面,生成式AI大模型的参数量以数十、数百亿计,只有云端服务器可以满足模型训练、优化、推理的需求,而随着用户量及使用请求的逐渐增多,云端尝试的运营成本越来越高。端侧AI部暑成为AI实现规模化扩展及应用落地的关键。2、端云协同模式成为主流
目前移动端AI部署的方式分为端侧部署、端云协同两种。
端侧部暑:即在终端如手机、PC等上进行大模型本地部署:
端云协同:即终端和云端协同工作分流AI计算的工作负载,根据工作负载分流模式,高通提出三种云
端混合的模式:1)以终端为重心的混合AI,其中终端将充当锚点,云端仅用于分流处理终端无法充分
执行的任务:2)基于终端感知的混合AI,在边缘侧运行的模型将充当云端大语言模型(类似大脑)的传感器输入端(类似眼睛和耳朵),向云端处理输入文字信息:3)终端与云端协同处理的混合AI,终端向云端发送多个token,云端仅需读取一次完整模型参数来并行计算多个tokem输入,提升模型运算效率并节省功耗。

本文来自知之小站

 

PDF报告已分享至知识星球,微信扫码加入立享3万+精选资料,年更新1万+精选报告

(星球内含更多专属精选报告.其它事宜可联系zzxz_88@163.com)