为什么TinyML是一个巨大的机会

在新的十年开始之际,我们正在听到从完全远程的劳动力到量子计算的各种预测。但是,科技博客几乎没有提到一种新兴趋势-这种趋势虽然形式很小,但蕴含着巨大的潜力。我们正在谈论微控制器。

当今世界上有2500亿个微控制器。仅2018年一年就售出了281亿个单元,IC Insights预测,到2023年,年出货量将增长到382亿个。

但是,也许我们会领先一步,因为您可能不完全了解微控制器的含义。微控制器是专用于在设备内执行一项任务或程序的小型专用计算机。例如,电视中的微控制器控制频道选择器和扬声器系统。当它从电视遥控器接收到输入时,它将更改这些系统。微控制器及其管理的组件统称为嵌入式系统,因为它们被嵌入在其控制的设备中。环顾四周-这些嵌入式系统几乎在任何现代电子设备中无处不在。您的办公机器,汽车,医疗设备和家用电器几乎肯定都包含微控制器。

在过去的几年里,关于云计算,移动设备渗透,人工智能和物联网(IoT)的讨论越来越多,这些微控制器(以及它们所支持的嵌入式系统)在很大程度上未被重视。这将改变。

近年来,微控制器销售的强劲增长很大程度上是由物联网的广泛顺风推动的。微控制器促进了电子系统中的自动化和嵌入式控制,以及传感器和应用程序与物联网的连接。这些方便的小设备也非常便宜,平均价格为60美分(并不断下降)。尽管成本很低,但是微控制器在系统级别实现的经济影响是巨大的,因为来自物理世界的传感器数据是工业数字化转型的命脉。但是,这只是故事的一部分。

多种趋势的融合使微控制器不仅成为实现物联网应用的渠道,而且还具有强大的独立处理机制。近年来,硬件的进步使微控制器可以更快地执行计算。加之更高效的开发标准改进的硬件使人们更容易为开发商到这些设备上生成程序。不过,也许最重要的趋势是小型机器学习或TinyML的兴起。自从在这个领域投资一家初创公司以来,我们一直在遵循这项技术。

潜力大

TinyML广泛地封装了机器学习技术领域,该技术能够以极低的功耗执行设备上传感器数据的分析。在硬件的进步和TinyML社区在机器学习方面的最新创新之间,现在可以直接在微控制器上运行日益复杂的深度学习模型(大多数现代人工智能应用程序的基础)。深入了解一下,这在根本上是可能的,因为深度学习模型受计算限制,这意味着它们的效率受到完成大量算术运算所需时间的限制。TinyML的进步使得可以在现有的微控制器硬件上运行这些模型。

换句话说,打印机,电视,汽车和起搏器中的2500亿微控制器现在可以执行以前只有计算机和智能手机才能处理的任务。由于微控制器,我们所有的设备和电器都变得越来越智能。

TinyML代表着嵌入式超低功耗系统与机器学习社区之间的协作,而传统上,机器学习社区通常是独立运作的。该联盟为设备上机器学习的新的激动人心的应用打开了闸门。但是,关于深度学习和微控制器是绝配的知识却非常独特,被隐藏在Google和Apple这样的科技巨头的身后。当您了解到这种在微控制器上运行经过修改的深度学习模型的范式负责了已经存在多年的“ Okay Google”和“ Hey Siri”功能时,这一点就变得更加明显。

但是,为什么能够在微控制器上运行这些模型很重要?由于成本,带宽或功率限制,有时甚至是这三者的结合,今天生成的许多传感器数据都将被丢弃。例如,拍摄一个图像微卫星。此类卫星配备了能够捕获高分辨率图像的照相机,但受到它们可以存储的照片的大小和数量以及将这些照片发送到地球的频率的限制。结果,这样的卫星必须以低分辨率和低帧频存储图像。如果仅当图像中存在感兴趣的物体(例如船或天气模式)时,我们可以使用图像检测模型保存高分辨率照片怎么办?虽然这些微型卫星上的计算资源历来太小,无法支持图像检测深度学习模型,但TinyML现在使之成为可能。

在微控制器上部署深度学习模型的另一个好处是,微控制器仅消耗很少的能量。与需要直接连接到电网或需要频繁充电或更换电池的系统相比,微控制器可以使用单个硬币电池连续运行图像识别模型一年。此外,由于大多数嵌入式系统未连接到Internet,因此这些智能嵌入式系统基本上可以部署在任何地方。通过无需连续连接互联网就可以进行决策,在嵌入式系统上部署深度学习模型的能力为全新的产品类型创造了机会。

早期的TinyML应用

抽象地讨论应用程序很容易,但是让我们将注意力集中在未来几年可能会影响我们工作或生活方式的特定应用程序上:

移动性:如果我们将TinyML应用于提取实时交通数据的传感器,则可以使用它们来更有效地路由交通并减少紧急车辆的响应时间。像Swim.AI之类的公司在流数据上使用TinyML,以通过有效的路由改善乘客安全并减少拥堵和排放。

智能工厂:在制造业中,TinyML可以通过启用实时决策来停止由于设备故障而导致的停机。它可以根据设备状况提醒工人必要时进行预防性维护。

零售:通过监控店内货架并在物品数量减少时立即发送警报,TinyML可以防止物品脱销。

农业:农民可能因动物疾病而遭受严重的利润损失。来自家畜可穿戴设备的数据可监测心率,血压,体温等健康状况,有助于预测疾病和流行病的发作。

在TinyML成为主流之前...

像TinyML一样令人着迷的是,我们还处于起步阶段,我们需要看到一些趋势,然后才能被主流采用。

每个成功的生态系统都建立在参与社区上。充满活力的TinyML社区将提高其知名度和采用率,从而可以加快创新速度。我们需要在支持TinyML的开源项目上进行更多投资(例如Google为围绕更广泛的机器学习而在TensorFlow方面所做的工作),因为开源使每个贡献者都可以在其他贡献者的基础上创建彻底而强大的解决方案。

其他核心生态系统参与者和工具也将是必要的:

芯片组制造商和平台(如高通,ST和ETA Compute)可以与开发人员携手合作,以确保芯片组已为预期的应用做好准备,并且平台集成旨在促进快速的应用开发。

云播放器可以投资于端到端的优化平台解决方案,这些解决方案可以在设备和云之间无缝交换和处理数据。

需要设备级软件基础设施公司的直接支持,例如正在努力提高固件可靠性的Memfault和正在处理设备级数据安全性和共享的Argosy Labs。这些变化使开发人员可以从几乎任何设备上获得更高的安全性,从而更好地控制软件部署。

需要构建Lifecycle TinyML工具,以方便数据集管理,算法开发和版本管理,并增强测试和部署生命周期。

但是,创新者最终才是推动变化的因素。我们需要更多的机器学习专家,他们有资源来挑战现状并使TinyML更加易于访问。TensorFlow移动团队负责人Pete Warden的雄心勃勃的任务是构建仅使用助听器电池供电的机器学习应用程序,该应用程序在微控制器上运行一年。我们需要像Pete这样的领导者加紧努力并取得突破,以使TinyML成为近期现实。

总结:TinyML是一个巨大的机会,而且刚刚开始出现。预计在未来一两年内,该领域会发生很大变化。