【奇景】深耕技术，tinyML商机潜力大！

当AI微型化到几乎无所不在的边缘装置，应用的想象空间变得更大;换言之，也就代表市场相当发散，很难仅靠单一厂商、单一规格的产品通吃市场，因此更需要生态系...

人工智能(AI)模块微型化、物联网(IoT)趋势，加上节能减碳的意识崛起，让大众开始思考，如何能让边缘装置多做一点; tinyML的概念, 因此应运而生。tinyML主打以超低功耗进行AI运算的特性,很快在半导体业界注入新的刺激，2019年并新成立tinyML基金会，赞助商名单中不乏高通(Qualcomm)、Arm等大厂,可说是星光熠熠。除了显见业界对tinyML的重视,集结不同领域大厂的会员结构,更凸显此概念的实现, 生态圈的完整是重中之重。

根据tinyML基金会的定义，运用微控制器(MCU)等IC,在mW等级的功耗执行AI运算, 得以赋能传感器、电子卷标等常时启动、仰赖电源供电的边缘装置AI运算能力。在这样的概念下，像原本可能仅做数据收集的传感器，就能藉由基本的AI运算进行数据运算,初步分析数据甚至直接下决策,减少数据传输的频率，包括云端负担、整体装置的功耗、以及数据传输衍生的资安风险,都有望因此降低。

tinyML让AI应用更深入场域, 生态系为重中之重

当AI微型化到几乎无所不在的边缘装置，应用的想象空间变得更大；换言之,也就代表市场相当发散，很难仅靠单一厂商、单一规格的产品通吃市场，因此更需要生态系。奇景光电(Himax)超低功耗智能感测产品中心副总陈有栋直言,tinyML不是一个产品,而是一个概念,它打破以往B2B (企业对企业)、B2C (企业对消费者)的概念，背后代表是整个生态系，而它正用很快的速度重整生态系。

奇景在tinyML耕耘三年多时间，并为tinyML基金会的成员之一,对tinyML有一定程度的研究。陈有栋说,tinyML让应用变得更多元，需要的客制化涵盖更多层面，包括AI算法、系统整合等，很难全部仰赖原厂完成，必须对场域最清楚的人去开发，尤其场域的Know-how是电子业未必清楚的，因地区不同等因素，也会衍生不同的应用。

因此,陈有栋认为提供开源(Opensource)平台变得非常重要，这也就是奇景的价值所在，AI世界最重要的是数据，我们的解决方案跟很多伙伴合作，我们提供相对完整的工具链跟环境，合作的方案商提供整套No code AI做好很多模块，客户把数据放进工具训练，训练完就放到可以直接生成Code应用，省去写Code的时间，对B2B或B2C应用来说都大大降低门坎。

找到真正要开发产品的人，提供平台让他们可以尽情发想创意跟可以做的产品，是奇景应对发散的tinyML市场所规划的商业模式之一。比如，奇景开发的WE-I Plus多功能AIoT开发板，搭配电池供电AIoT应用的WE-I Plus系列超低功耗边缘智能微处理器，以及多个智能传感器，并供影像识别，语音识别及震动异常侦测等开源AI模型，为的就是协助客户更快开发及部署tinyML AI解决方案。

奇景产品经理郭恬如举例，公司有一个英国客户的应用，是透过在座位装置摄影机，让员工透过App就知道办公室是否还有座位，如何判断有人、如何传到手机等功能，就是当地的系统整合商(SI)必须协助做到的事情，奇景提供的就是好开发的平台给SI使用。

影像辨识方案实现超低功耗, 奇景揭露秘诀

一般AI芯片追求高算力，相对不那么在意功耗，奇景关注的则是低功耗且靠近传感器端的应用。因应tinyML概念，奇景结合原有的CMOS影像传感器技术，开发AI影像辨识的解决方案，陈有栋直言,我们是唯一可以在MCU等级做到影像辨识的公司！据奇景内部统计，其解决方案运行时，AI芯片加影像传感器加起来平均功耗约2.2mW，若以一天唤醒一次进行影像判别有无人经过的应用，CR2032的钮扣电池有机会撑至少三年；智慧水表用他们的解决方案辨识表上读数回传数据，更可能撑5~8年。

奇景相当有自信的说，他们的解决方案可优于其他MCU的表现，相同一张VGA格式的影像输入，他牌MCU处理可能需要超过1秒，奇景的方案则约35毫秒(ms)就完成。陈有栋透露，这是多层面优化下的成果，影像传感器我们已经做超过10年，因此可以做到非常低功耗，AI处理器也做非常多的优化，包括加速器、软件等，进一步降功耗，整个解决方案才能做到如此低的功耗。

不过，谈及成就奇景解决方案优势的关键，陈有栋再次强调生态系的重要性，我们从第一天就走开源平台的路！他指出，要把AI模块放到硬件上，编译程序(Compiler)如何将AI模型运算值充分应用到硬件上，至关重要，但一般AI芯片公司可能硬件做得很好，编译程序效能却比较差，奇景则从第一天就知道，有好用且有效率的Compiler才是AI产品的重点，开发硬件时就跟伙伴合作，从AI模块的映像到硬件的编译跟工具都做成开放资源，无论B2B或B2C客户都可以拿去开发。

陈有栋表示,奇景的开源开发平台的合作对象是Google Tensorflow lite for microcontroller，工具是由Google维护,每天都不断优化编译效能,我可以说tinyML平台我们是少数几间原生跟Google合作密切的公司，而且是少数在tinyML甚至AIoT (智慧物联网)可以提供整套开发工具，且都是开源开发平台，Library也是找方案商合作。比起其他公司花很多成本在维护，我们花比较多时间建立生态系，因为我们知道自己做一定有局限。

将来要传递的不只是硬件而是服务，我们必须拥抱这样的生态系；陈有栋强调，IoT应用非常碎片化，尤其tinyML平台很多软硬件、云端或工具链等应用都在生态系内，更有很多新的商业模式正在产生，服务就必须靠生态系完成，这也是为什么他们宁愿把资源跟人力花在建立生态系，我们关注不再仅止于功耗多低或单一装置，更重要是跟谁合作转化为对客户更有价值的服务，让装置经由生态系的连结升级，这是物联网或tinyML相关应用将来的趋势。

下图是今年三月刚发布的内建AI模型的全时感测智能模块

tinyML商机潜力大 ,奇景多管齐下备战

过往传感器单纯收集资料没经过清洗，容易徒增云端的负担，tinyML的出现，有机会解决这样的问题。陈有栋举例，比如工业计算机需要传感器收集数据，一次做20台摄影机运算可能带宽算力会不够，就需要边缘AI做侦测，后端建置成本有望降低，反馈时间也会快很多，也把更多有意义的资料送到后端，现在业界发现tinyML成本、隐私跟延迟性等好处，慢慢加快启动布局。

着眼tinyML隐含的庞大商机，奇景接下来多管齐下，从硬件、工具链等方面持续深耕技术。陈有栋表示，硬件部分会对架构、韧体及硬件设计优化，AI运算做更多加速功能，追求更低功耗；再者跟方案商合作强化AI运算力，开发下一代的AI加速器；最后在生态圈也要找更多IoT合作伙伴，包括AI运算、工具链、云端等，尤其工具链会更优化，对云端跟安全性应用都会有大幅改善，新品预计今年底推出。

综观市场，陈有栋指出，像笔电摄影机的应用是已有在做的，应用是像摄影机看人靠近可以自动开启屏幕并登入，远离自动休眠，部分商用笔电可以防窥，另外人靠近才打开摄影镜头的智慧门铃、检查货架状况并可提醒补货的智能零售应用、以及转为因应使用者状态主动式调节设备运作的智能家庭产品等应用，也都有在进行发展, 市场才刚开始，且发展速度加快很多。

  关于淇诺