高通公司亮相2024世界人工智能大会：通过终端侧

　　7月4日，2024世界人工智能大会暨人工智能全球治理高级别会议正式开幕。高通公司中国区研发负责人徐晧出席“AI赋工业，数智启未来”人工智能赋能新型工业化主题论坛并发表主题演讲，探讨AI如何为工业生产注入智能化的基因，实现高质量发展，推动人工智能技术在工业领域应用。

　　徐晧表示，异构计算、量化压缩等技术手段能帮助云端大模型落地终端，从而赋能广泛的工业应用。5G与AI相结合，将助力打造更加智能的工业环境。以工业场景中的机器人用例为例，现在的机器人主要利用计算机视觉或者深度学习完成理解和功能执行。随着生成式AI突破性的发展，未来机器人能够理解我们提出的要求，加上机器人学科实现的出色定位、导航和机械臂控制，可以打造非常智能的应用。结合5G与AI，机器人能够实现网络连接，赋能运维和质检等生产环节，打造更加智能和现代化的工业环境。

　　以下为演讲全文：

　　大家好。刚才的嘉宾分享了行业应用，我想分享一下更底层的算法设计，以及我们如何从终端侧把AI普及到人们的日常生活中。今天论坛的主题是人工智能赋能新型工业化，因此最后我会分享一些工业应用上的AI用例。

　　生成式AI的能力在不断增强，主要体现在以下方面：

　　● 语音UI，我们有更多更智能的语音支持，带来自然直观交互;

　　● 多模态大模型，除了早期与ChatGPT进行的文字对话，现在我们看到了更多的视频/图像处理，以及图像/文字的共同处理;

　　● 在视频和3D方面，我们有更多的沉浸式体验;

　　● 更长的上下文窗口，现在有越来越长的文章甚至于一整本书，都可以用AI处理一次性总结出来;

　　● 个性化，终端侧的AI应用可以带来更加个性化的内容处理;

　　● 智能体，人们可以根据自己的喜好来打造个人AI智能体;

　　● 最后，现在可以看到越来越多由AI增强的高清晰度图像和视频。

　　此前，我们带来了全球首个运行在Android手机上的Stable Diffusion终端侧演示，最近，我们还实现了全球首个在Android手机上运行的多模态大模型(LMM)演示。比如用户可以给冰箱里的食材拍一张照片，然后问大语言模型“你看到了什么?”，AI可以很快地识别所有物体。然后用户可以接着问“基于这些食材，请给我推荐一个菜谱”，AI就可以把菜谱展示出来。这比最开始我们仅仅能问AI“今天天气怎么样”或者“给我讲一个笑话”要好很多。这个是我们在手机端或者用户端，看到大语言模型以及多模态模型能够支持的更多用例。

　　从技术上来说，哪些是我们把大语言模型应用落地到端侧必须实现的核心技术?首先，很多最基本的大语言模型都是10亿甚至30亿以上的参数规模，这种规模的模型想要在手机上应用其实具有一定挑战。所以，我们需要把云端的大模型算法，通过最简单、最有效且最节能地方式部署在手机和其他智能终端上。如果我们的手机能够做一些最基本的生成式AI运算支持，这要比把所有的照片和视频都传到云端运算再传回来更高效、更安全。