多家科技巨头布局边缘侧。近期，在COMPUTEX 2023大会上，英伟达发布了全新的Jetson AGXOrin模块，其中包括服务器、边缘设备、工业PC、载板、AI软件等。这些产品将推出有风扇和无风扇配置并且提供多种连接和接口选项，还会加入适用于机器人、制造、零售、运输、智慧城市、医疗等重要经济部门或加固型应用的规格。同时，高通高级副总裁Alex Katouzian在大会上表示高通正在从一家通信公司转型为一家“智能边缘计算”公司。在今年世界移动通信大会上，高通展示了其通过量化、编译和硬件加速等针对Stable Diffusion的全栈优化，使得Stable Diffusion能够在搭载第二代骁龙8移动平台的手机上运行。其次，根据韩媒Chosun报道，三星电子于近日开始了大语言模型的开发工作。
　　交互只是表象，无监督学习能力助力边缘侧AI智能化飞升。云端通用大模型的关键并不在于其交互能力，交互只是其显露出来的表象。其核心之处在于其强大的机器学习能力。云端大模型可被视作一个巨大的智慧大脑，具备极强的自我学习能力，能够吸纳并学习人类所拥有的各种知识。而在边缘侧部署的大模型，则承载着这种智慧大脑的能力，与边缘侧的场景和算力相匹配。在企业场景下，只有通过将大模型部署在边缘侧，才能在兼顾隐私性和时效性的同时，对数据进行有效分析。总之，云端通用大模型在实现商业应用上具有很大的潜力。其强大的机器学习能力和适配端侧需求的部署方式，使其成为企业在数据处理和分析方面的有力助手。私有化部署的边缘侧AI将为企业提供安全、高效的解决方案，助力其在竞争激烈的市场中保持领先地位。
　　边缘侧AI在工业物联网领域潜力突显。边缘侧AI技术的突出特点是其强大的实时数据处理和分析能力。传统的工业物联网系统在数据收集和传输过程中存在着延迟和带宽限制的问题。然而，通过在边缘设备上部署AI算法和模型，可以实现数据的本地处理和分析，从而显著降低了对云端的依赖。这使得工业设备能够快速响应、实时决策，并有效解决生产过程中的问题。其次，边缘侧AI的部署也为工业物联网系统带来了更高的安全性和可靠性。由于边缘设备能够本地处理和存储数据，敏感信息可以在本地进行加密和保护，减少了数据在网络传输中的风险。此外，边缘侧AI的本地决策能力也减轻了对云端网络连接的依赖性，降低了系统受到网络故障和延迟的影响，提高了整体的可靠性。