CES2019：英特尔要开发的推理芯片有何特点？

  【天极网网络频道】前言：AI芯片无疑是一个庞大的产业发展趋势，各大芯片巨头在AI芯片领域上的竞争可以说是越来越激烈。日前，英特尔在第52届国际消费类电子产品展览会(CES2019)上表示，正与Facebook合作开发一款人工智能芯片，2019年下半年完成开发。该芯片将有帮助研究人员进行“推理”，即利用一种人工智能算法并加以应用。

  英特尔与Facebook合作开发推理AI芯片，欲保持行业领先地位

  2019年1月8日，2019美国拉斯维加斯国际消费品电子展(CES2019)开幕。作为国际上最受业界瞩目的科技盛会，自然少不了半导体厂商的参与。日前，全球领先的半导体厂商英特尔公司在国际消费电子展(CES)上表示，将与Facebook展开合作，共同开发新款人工智能芯片。这款新芯片将有助于研究人员所称的推理预测的应用，即采用人工智能算法并将其投入使用，例如在照片中自动标记好友。据了解，英特尔与Facebook合作开发的新款芯片预计将在2019年下半年完成。

  当然，英特尔并非是唯一一家研发推理AI芯片的企业。早在2018年9月，英伟达公司就推出了自己的推理预测芯片。另外，在2018年11月召开的re:Invent大会上，亚马逊旗下的云计算服务部门AWS曾表示，已经开发了一款推理预测AI芯片，从2019年开始，亚马逊将基于该芯片上的云业务向客户提供服务。

  英特尔研发推理AI芯片的举动表明，其试图保持在快速增长的人工智能计算市场上的主导地位。不过，这个新款芯片必将面临来自英伟达公司和亚马逊AWS部门同类AI芯片的竞争。

  什么是推理AI芯片？

  可能有一些人对上面提到的用于推理的芯片不太了解。事实上，人工智能的实现包括两个环节：推理(Inference)和训练(Training)。

  推理是指利用训练好的模型，使用新数据推理出各种结论。就是借助现有的神经网络模型进行运算，利用输入的新数据来一次性获得正确结论的过程。这也有叫做预测或推断。

  训练是指通过大数据训练出一个复杂的神经网络模型，通过大量标记过的数据来训练相应的系统，使其能够适应特定的功能。训练需要较高的计算性能、能够处理海量的数据、具有一定的通用性，以便完成各种各样的学习任务。

  所以根据承担任务的不同，AI芯片可以分为两类，它们分别是训练AI芯片和推理AI芯片。

  1、训练芯片：用于构建神经网络模型，注重绝对的计算能力;

  2、推理芯片：利用神经网络模型进行推理预测，注重综合指标，单位能耗算力、时延、成本等都要考虑。

  推理AI芯片分为哪几类？

  需要强调的是，AI芯片部署的位置分为两种：云端以及终端;

  云端，即数据中心，在深度学习的训练阶段需要庞大的数据量，以及大运算量，单一处理器是无法独立完成的，因此训练环节仅能够在云端实现。

  终端，即手机、汽车、智能家居以及各种物联网设备等执行边缘计算的智能设备。终端的数量庞大，并且需求的差异性明显。训练推理的完成目前主要集中在云端，但随着越来越多芯片厂商的努力，很多的应用将逐渐转移到终端。

  所以，根据部署位置，推理AI芯片又可细分为云端推理AI芯片和终端推理AI芯片：

  1、云端推理

  云端推理AI芯片可作为深度学习推理加速的协处理器，也可作为主处理器从以太网接口或USB接口接收视频流、图片或其它数据，执行推理和其他计算机视觉任务。目前，除了英伟达、谷歌、赛灵思、英特尔等这些国外芯片大厂涉足云端推理芯片外，寒武纪、比特大陆等中国企业同样积极布局该领域。

  2、终端推理

  目前，终端推理AI芯片主要应用于智能手机、自动驾驶、机器人、智能家居等设备。它可作为深度学习推理加速的协处理器，还可以作为主处理器从以太网接口或USB接口接收视频流、图片或其它数据，执行推理和其他计算机视觉任务。目前，除了英伟达、谷歌、赛灵思、英特尔等这些国外芯片大厂涉足云端推理芯片外，寒武纪、比特大陆等中国企业也在领域进行积极的布局，并取得了不俗的成绩。

  写在最后：

  在人工智能技术快速发展的当下，要实现更高效、更“聪明”的人工智能，需要的不仅仅是算法、架构，还有推动人工智能发展的核心，那就是AI芯片。据预测，推理AI芯片市场规模将在2022年达到230亿美元，推理AI芯片将有可能是下一个蓝海市场。毫无疑问，作为人工智能得以运行的有效载体，AI芯片的发展将影响着人工智能技术的前进的步伐。