华中科技大学何强教授分享如何用“黑科技”,把大模型“塞进”你的手机!｜《追AI的人》第58期来咯～

本期热点讨论

💙 端云协同+早退出机制真能两全其美？

💙 剪枝、量化、蒸馏……哪些“黑科技”能让大模型在边缘设备上轻装上阵？

💙 下一代智能终端会是什么样？

💙 端侧大模型将如何重塑我们的日常生活？

明晚（12月18日）19:00，《追AI的人》系列直播第58期邀请了华中科技大学何强教授分享《算力受限怎么玩转大模型？揭秘端侧智能的部署、加速与安全之道！》。

直播主题:《算力受限怎么玩转大模型？揭秘端侧智能的部署、加速与安全之道！》

直播时间: 2025年12月18日(周四)19:00

直播地点: 微信搜索“阿里巴巴AI治理中心”视频号，B站搜“AAIG课代表”

包括ChatGPT和DeepSeek在内的大模型展现了惊人能力，但它们大多运行在庞大的云端服务器上。你是否想过，如果让这些“超级大脑”住进我们的手机、无人机或智能汽车里，会发生什么？我们使用AI服务时的延迟和隐私泄露的风险都将大幅降低。

但是，端侧智能也面临着巨大的挑战：端侧设备的“脑容量”（存储）和“反应速度”（算力）远不如云端服务器。本次直播将带你深入端侧大模型（Edge AI）的世界，从部署、运行、训练、安全四个维度，利用各种“黑科技”解决这些痛点。无论你是AI算法工程师，还是对边缘智能感兴趣的开发者，这都是一份不可错过的端侧大模型“体检报告”与“实战指南”。

💛【课程大纲】：

1、部署难题：如何以任务定制化剪枝，实现端侧大模型极致轻量化？

2、运行加速：如何通过端云协同+早退出机制，实现模型快准推理？

3、训练突破：如何在保护隐私数据前提下，实现端边协同训练？

4、安全防线：如何通过“哨兵”机制，保障端侧模型运行完整性？

5、未来展望：下一代端侧智能系统的机遇与挑战