端侧大模型定义为运行在设备端的大规模人工 智能模型，这些模型通常部署在本地设备上， 如智能手机、loT、PC、机器人等设备。与传 统的云端大模型相比，端侧大模型的参数量更 小，因此可以在设备端直接使用算力进行运行， 无需依赖云端算力。
端侧大模型在成本、能耗、可靠性、隐私和个 性化方面相比云端推理具有显著优势，并能够 以低能耗提供高效且安全的AI处理，减少延迟 并保护用户隐私，适合个性化的AI应用。取决 于行业对数据安全、隐私保护的需求、行业本 身智能设备的普及程度以及AI大模型技术的成 熟度，这些因素的相互作用和共同推动，端侧 大模型将推动各行业智能化发展的步伐。
端侧大模型面临的行业壁垒包括技术、硬件、 数据、成本以及市场等方面，要求产业界在技 术创新、标准制定、生态建设和市场推广等方 面进行深入合作，以克服挑战，实现端侧大模 型的广泛应用和落地。
2023年中国端侧大模型市场规模达8亿元，持 乐观态度估计，预计2024年中国端侧大模型 市场将达到21亿元
生成式Al市场的蓬勃兴起，正驱使大模型厂商积极 探索端侧应用新蓝海，以此作为增长的新引擎。端 侧大模型通过在设备本地运行，有效降低了数据传 输延迟，增强了隐私保护，拓宽了AI应用场景的广 度与深度。
与此同时，下游市场需求的强劲增长，特别是手机 与自动驾驶行业的蓬勃发展，正强力拉动端侧大模 型市场的扩张，2023年中国端侧大模型市场规模达 8亿元，预计2024年中国端侧大模型市场将达到21 亿元。
依托技术实力和生态建设，头部大模型厂商纷纷投 入端侧大模型市场，利用在云端大模型领域的技术 优势，商汤商量、阿里通义以及面壁智能率先在端 侧大模型领域取得领先突破。
本文来自知之小站
PDF报告已分享至知识星球，微信扫码加入立享3万+精选资料，年更新1万+精选报告
（星球内含更多专属精选报告.其它事宜可联系zzxz_88@163.com）
