当前位置 > 首页 > 新闻动态 > 行业动态 > 2024年三大趋势：人工智能驱动更多的边缘智能、RISC-V和芯粒

2024年三大趋势：人工智能驱动更多的边缘智能、RISC-V和芯粒

在2024年1月9日星期二举行的2024年国际消费电子展（CES）主题演讲中，英特尔首席执行官Pat Gelsinger将探讨芯片如何通过创新和开放软件得到增强，从而为消费者和企业提供人工智能功能。高通公司总裁兼首席执行官Cristiano Amon将重点介绍更多设备将如何无缝融入我们的生活；人工智能在设备上普遍持续运行将改变用户体验，使其更加自然、直观、相关和个性化，同时需要提高即时性、隐私性和安全性。

这意味着越来越多的机器学习（ML）应用于越来越多受限设备中的传感器上，无论是用于物联网（IoT）、工业自动化、自主移动和软件定义车辆（SDV），还是用于健康和可穿戴设备。

在嵌入式领域方面，以下趋势将促进这一发展：

一、边缘智能变得更好

如果这能表明未来的发展方向，那么苹果刚刚发布的关于在内存有限的资源受限设备上部署大型语言模型（LLM）的研究论文无疑具有指向性。这篇题为《闪存中的LLM：有限内存下高效的大型语言模型推理》的论文通过将模型参数存储在闪存中并根据需要将它们带到DRAM内，有效解决了有效运行超过可用DRAM容量的LLM的问题。

苹果团队表示，他们的方法包括构建一个与闪存行为相协调的推理成本模型，从而在两个关键领域进行优化：减少从闪存传输的数据量，并以更大、更连续的块读取数据。为此，他们引入了两种技术——一种称为“窗口化”，通过重复使用先前激活的神经元来战略性地减少数据传输，另一种称为“行-列捆绑”，以增加从闪存读取的数据块的大小。

文章指出，“这些方法共同使运行模型的大小达到可用DRAM的两倍，与CPU和GPU中的简单加载方法相比，推理速度分别提高了4-5倍和20-25倍。我们集成了稀疏感知、上下文自适应加载和面向硬件的设计，为在内存有限的设备上有效推理LLM铺平了道路。”

这表明，该行业的发展总方向是在边缘部署更多的机器学习和推理。

二、RISC-V的采用变得更加明显

2023年8月，几家公司宣布成立一家新的未命名公司，这将有助于加速RISC-V硬件在全球的商业化。上周，该公司被命名为Quintauris，Alexander Kocher被任命为首席执行官。该公司总部位于德国慕尼黑，投资者包括博世、英飞凌、北欧半导体、恩智浦半导体和高通技术股份有限公司。虽然该网站目前内容较少，但它声明：

公司将成为实现兼容RISC-V产品的单一来源，提供参考架构，并帮助建立行业广泛应用的解决方案。初期聚焦汽车领域，未来将扩展至移动和物联网。

Quintauris与总部位于瑞士苏黎世的RISC-V International相邻。毫无疑问，该行业协会将负责维护指令集架构（ISA）的规范，而Quintauris则可能成为需要现成参考板和系统进行自身开发的开发人员的资源。

当许多评论家谈论RISC-V时，经常被忽略的一点是，开发人员正在设计基于异构架构的系统——因此，多种ISA很可能是芯片的一部分，而RISC-V则被部署用于各种功能。

SHD Group公司在2023年11月于美国举行的RISC-V峰会上重点介绍了其自身的RISC-V市场分析，预计今年将发布一份报告。在2023年12月与embedded.com的简报中，SHD Group的首席分析师Richard Wawrzyniak告诉我们，“我们处在一个异构的世界。并不是说明RISC-V正在接管世界，而是生态系统正在建立，设计师需要创建自己的芯片的所有元素。

他的研究重点强调了出货带有RISC-V的零部件数量，而不是RISC-V内核的实际数量。他说：“任何形式或功能的SoC中都有数十亿个RISC-V内核。该报告着眼于六个不同类别的54个应用，预测到2030年，基于RISC-V的SoC的芯片收入将接近1000亿美元，知识产权收入将达到16亿美元。大约在2027年，研究项目将从许可驱动收入转变为特许权使用费驱动收入。

三、芯粒业务将像IP业务开始展开

去年芯粒一直备受关注，而2024年可能会成为其发展历程中的一个关键节点，就像20年前的知识产权（IP）业务一样。我们中的一些人可能会记得，最初成立于2000年的虚拟组件交易所，其目标就是成为知识产权买家和卖家的门户。

现在，芯粒是克服当今ML密集型产品的大规模计算需求挑战的答案之一，而无需以最先进（和最昂贵）的工艺技术构建一个整体芯片。正如去年在加利福尼亚举行的芯片峰会主席查克·索贝所说：“芯粒在提高芯片可扩展性、模块性和灵活性方面可以发挥很大作用。但只有产品开发人员能够快速廉价地集成它们，这个想法才有效。有效的集成平台需要许多工具。所有领域的供应商都必须提供一个平台，并支持生态系统和开源工作，以填补接口和软件空白。

2023年在这个领域中脱颖而出的最有趣的初创公司之一是Zero ASIC。该公司表示，他们正在通过芯粒设计和仿真平台实现芯片制造的民主化。该公司在10月份亮相，提供3D芯粒的可组合性以及完全自动化的基于无代码的芯粒设计。该公司表示，其平台能够从已知的良好芯粒目录中自动进行设计、验证和组装系统级封装（SiP）。基于网络的设计和仿真工具允许用户在订购物理设备之前快速准确地测试定制设计，使用云FPGA在定制SoC中实现每个芯粒的RTL源代码。

芯粒的激增和使用来自各种来源的芯粒的能力当然取决于标准，但随着UCIe规范的演变，这已经成为行业思考的一部分。

四、不要忘记驱动这些趋势的人工智能/机器学习：英伟达

归根结底，是机器学习（ML）的需求推动了上述趋势。毫无疑问，特定领域的人工智能/机器学习将是2024年的关键驱动力，这将使我们超越围绕人工智能和生成人工智能的泛泛宣传。此外，人们还会关注准确性、隐私、数据安全和安全连接等问题。

数据量也将是关键，开发人员无疑将更加关注数据加密、硬件和连接层的网络安全以及使用机器学习来应对这些问题。

多家公司已对2024年的人工智能预测和趋势发表了看法。英伟达高管强调了其对2024年的17项预测。该公司负责企业计算的副总裁马努维尔·戴夫表示，没有一种模型能适用于所有情况，将会有数百个客户大型语言模型（LLM）为企业内部的大量数据提供准确、具体、明智的回应；为了实现这一目标，开源软件和现成的AI和微服务将发挥主导作用。

在医疗保健领域，英伟达医疗保健副总裁Kimberly Powell谈到将仪器、成像、机器人技术和实时患者数据与人工智能相结合，以实现更好的外科医生培训、手术过程中的更多个性化以及即使在远程手术期间也能通过实时反馈和指导实现更好的安全性。她说，这将有助于弥补所需但尚未进行的1.5亿次手术的差距，特别是在低收入和中等收入国家。

在汽车领域，该公司的汽车副总裁XinZhou Wu表示，生成式人工智能将有助于使智能工厂中的汽车生产生命周期现代化，并创建数字孪生体。除了汽车产品生命周期，生成式人工智能还将使自动驾驶汽车（AV）开发取得突破，包括将记录的传感器数据转化为完全交互式的3D模拟。这些数字孪生体环境以及合成数据生成将用于在现实世界中部署之前，安全地大规模开发、测试和验证AV。

英伟达嵌入式、边缘计算和计算副总裁Deepu Talla表示，生成式人工智能将为机器人开发代码，并创建新的模拟来测试和训练它们。他补充说：“LLM将通过自动构建3D场景、构造环境和从输入生成资产来加速模拟开发。由此产生的模拟资产对于合成数据生成、机器人技能培训和机器人应用测试等工作流程至关重要。”他说，为了扩大机器人行业规模，机器人必须变得更加通用化，即它们需要更快地获得技能或将其带到新的环境中。“在模拟中训练和测试的生成式人工智能模型将是推动更强大、更灵活、更易于使用的机器人的关键因素。”

五、改变计算格局的趋势——Ampere的报告

Ampere Computing的首席产品官Jeff Wittich在博客中分享了他对2024年通用计算趋势的看法，具体有如下三点：

• 人工智能推理和大规模部署成为焦点

• 在人工智能的背景下，可持续性和能源效率变得更加重要

• 计算和数据处理正变得更加分散和复杂

第三点总结了我们2024年的趋势，引用Wittich的话说：“随着AI的崛起，曾经‘简单’的设备变得越来越智能，导致比以往更多的计算设备。为了在云端实时处理这些设备中的数据，高性能计算被部署到各个地方——公共和私有云，但现在也部署到了边缘，导致与集中区域相比，超级本地区域对计算的需求更大。这些环境的复杂性需要行业五年前没有的解决方案，而且会有比以往更多的专业供应商试图解决这个问题。”