用“小AI”解决人工智能的“大”烦恼

本篇文章2591字，读完约6分钟

随着人工智能的不断发展，其背后的计算能力消耗也是惊人的。统计数据显示，谷歌开发的伯特预训练语言模型有3.4亿个数据参数，一次训练所需的能量足够一个美国家庭使用50天。

人工智能承载着人类未来的伟大梦想、可能性和挑战，它已经燃烧了这么多年，并取得了巨大的进步。与之互补的是日益“庞大”的人工智能架构系统，如数十亿个计算单元和巨大的云计算数据中心...人工智能的现实和未来会变得越来越“大”吗？

最近，麻省理工学院科技评论发表了年度十大突破技术排名，其中微型人工智能排名。从大到小，人工智能正在回归自然吗？

不可持续的“大”人工智能

众所周知，随着研究人员不断地向算法输入大量数据，机器学习变得越来越智能，但它们也变得更加环保了吗？答案是否定的。

不可否认，人工智能在过去的几年里取得了许多突破。深度学习是许多人工智能系统实现高精度的突破之一。研究人员发现，尽管人工智能每天都在变得更加精确，但它也带来了隐藏的环境成本。

“当前的人工智能承载着巨大的数据集，并被输入到云数据中心，然后通过无数的算法进行分析。”威海北洋电气集团有限公司副总工程师秦志良表示，将数据上传到云中心，通过复杂的算法结构和精湛的训练方法获得高精度算法模型的过程，不仅会产生惊人的碳排放，还会限制算法模型的运行和部署速度，同时带来很多隐私问题。

马萨诸塞大学研究人员的一项研究结论支持秦志良的说法。通过揭示算法训练的能量强度，他们发现训练一个算法产生的二氧化碳排放量相当于普通汽车一生中二氧化碳排放量的五倍，或者相当于纽约和旧金山之间大约300次往返飞行。研究人员认为，在追求人工智能高精度的过程中，人们似乎失去了对能源效率的关注。

事实上，“大”人工智能不适合离线和实时决策，例如自动驾驶解决方案，并且它越来越依赖于巨大的能量和巨大的带宽，这在经济上和生态上都是不可持续的。

此外，令研究人员担忧的是，这一趋势可能会加速人工智能研究在少数科技巨头手中的集中。在学术界或资源匮乏的国家，资源不足的实验室根本无法使用或开发高计算成本的模型。

权力下放或未来趋势

虽然人工智能已经融入了公共生活，但最终的成功取决于“落地”和实现大规模商业化，这应该是推动微人工智能发展的直接原因。

“为了实现人类对人工智能的崇高梦想，我们必须想得小，甚至小。云数据主导的趋势正在改变，未来的人工智能环境将是分散的。”海南普及型智能科技有限公司首席执行官陈小香

海南众志信信息技术有限公司总经理于建刚说:“这是一条与计算机发展相反的道路。计算机的发展经历了从个人终端到互联网和虚拟化的过程。微人工智能首先被网络化、虚拟化，然后被终止。”

以伯特为例。伯特是一个训练前语言模型(plm)，由谷歌公司的R&D高级科学家雅各布·德夫林和他的团队开发。它能理解单词和语境，并能独立提出写作或完成句子的建议。根据麻省理工学院科技评论，伯特有3.4亿个数据参数。此外，一次训练所需的能量足够一个美国家庭使用50天。

华为研究人员发表了一篇文章，称他们制作了微型伯特模型，比伯特模型小7.5倍，快近10倍。谷歌的研究人员也发表了一篇文章，称他们创造了一个比伯特小60多倍的版本，但其语言理解能力比华为的版本略差。

华为和谷歌是如何做到的？事实上，两家公司都使用一种常见的压缩技术变体，称为“知识提取”。它可以让想要缩小的大型人工智能模型在图像中训练小得多的模型，就像老师训练学生一样。

我们可以理解，微人工智能应该是人工智能研究团体为减少算法规模而做出的努力。这不仅减小了模型的大小，还加快了推理速度，并保持了高水平的准确性。此外，可以在边缘部署小得多的算法，而不是将数据发送到云，而是在设备上做出决策。

缩小现有模式的三个方面

微数据、微硬件、新材料、微算法、微人工智能是一种综合方法，涉及数据、硬件和算法的联合开发。

秦志良认为，如何在不明显影响模型精度的情况下减少现有的深度学习模型，可以从三个方面入手。一是硬件上的边缘计算，二是算法上的模型简化，三是数据上的小样本训练。

无论是新技术还是新概念，公众关注的是其在市场中的渗透率，尤其是产品的大规模生产和应用。

“微型人工智能的具体登陆场景包括语音助手、数码化妆等。，涉及即时场景理解和边缘目标检测等技术；此外，微型人工智能还将使新的应用成为可能，例如基于移动设备的医学图像分析，或者需要更快响应时间的自动驾驶模型的开发。”秦之良说道。

“现在微型算法一般在几百兆到几千兆字节，可以安装在手机上。”于建刚表示，微人工智能可以应用于所有需要前端控制的应用。尽管5g的覆盖范围已经加快，网络延迟已经减少，但需要快速响应的应用，如工业控制、自动驾驶和航空航天，需要在本地部署人工智能算法。他认为未来的商业形式应该是终端给出简单快速的反馈，服务器做出重要的决定。

在2019年底的世博会上，人工智能初创企业推出了“微型人工智能”(tiny ai)，它集成了低功耗、小体积的npu，以适应市场上各种主流2d/3d传感器。满足2d/3d图像、声音等识别需求的人工智能解决方案。引起了业界的关注。此外，英伟达、华为等公司也推出了终端图形处理器，这种处理器体积小、功耗低，能够满足简单算法的要求。

期待在技术的早期阶段有一个宽松的开发环境

微人工智能仍处于发展的初级阶段，该领域的安全、伦理、隐私等问题也引起了人们的关注。

秦志良有两个顾虑。首先，算法识别可能会激增。他说，算法区分难以解决的原因在于算法的可解释性和训练数据之间的不平衡。与传统的云训练相比，微人工智能的训练数据集样本更少，数据分布可能更有偏差。另一个隐患是数据伪造的影响。以甘为代表的视频图像技术和深度伪造技术一直是人工智能算法研究的热点。随着这些技术的普及，未来的客户很有可能接收或生成大量的虚拟伪造数据。微人工智能受到计算能力的限制。在分布式网络架构中，如何有效地识别这些伪造的数据很可能是一个隐患。

于建刚认为，微人工智能将导致分布式人工智能的兴起，每个终端都将成为一个人工智能节点，每个终端都可以独立生存，拥有类似区块链的应用。网络侧的控制将减少，政府控制的风险将增加。然而，技术有两个方面。据于建刚分析，尽管存在这些风险，人工智能控制技术也在发展。我们应该相信微型人工智能的积极作用，不应该在技术的早期阶段限制太多的规则和条例。