AI进入大规模推理时代,英特尔技术矩阵强力支撑“深度森林”落地

   2020-08-16 聪慧网sxxjymy70
核心提示:发表于: 2020年08月16日 23时12分40秒

    AI不是围城——外面的人依然想冲进去,但里面的人不想逃出来,而是思索如何呆得更久。

    但企业难找“城门”,如何让AI与自身业务更好的结合,实现落地亦是一大难题,即使已经入局的AI明星初创公司也并非全能选手。

    据英特尔预测,2020年,推理与训练周期比率超过5:1,“大规模推理”时代将至。这一时代的来临将有助于打破AI落地瓶颈,而这一过程仍有不少难题需要解决,例如:

    推理将占用近80%的AI流程,这会提高对硬件的要求——加速AI深度学习推理的技术;

    目前三大主流AI技术路径:机器学习、深度学习和基于规则的学习都有局限性,面对复杂情况时,混合技术路径才是王道;

    AI初创企业以及高校实验室大多都更专注于算法软件方面的研究,但其研究领域,例如自动驾驶,则面临着海量数据处理需求,这就提出对计算、存储等硬件功能方面的挑战。

    这家51岁的老牌芯片大厂正在用AI技术矩阵解决这些难题。

    2020年推理与训练周期比率超过5:1,“大规模推理”时代将至,可打破落地瓶颈

    AI迎来第三次浪潮后,以深度学习为代表的人工智能已经进入应用阶段。

    深度学习分为训练和推理两个阶段。

    训练阶段需要大量的算力和数据,并且对数据吞吐量要求很高;而推理方面,通常在数据量方面要求没有那么高,但需要的是尽可能快的响应和能耗效率优化。

    按照英特尔预测,到2020年,推理周期和训练周期之间的比率将从深度学习初期的1:1提高至超过5:1。也就是说,在人工智能领域,推理的比重将会越来越重要。

    英特尔称这一转变为“大规模推理”

    事实上,让人工智能落地更多是推理层面的工作——根据真实世界中的少量数据,迅速地提供正确的答案。

    加载数据

    如果未来推理将占用近80%的AI流程,硬件架构就成为AI落地的重中之重。

    而做大规模推理,CPU平台具有较大优势,用户学习门槛低、部署速度快的同时还能保证低风险。

    今年4月,第二代英特尔至强可扩展处理器全面上市,针对企业落地AI的需求,特意嵌入了新技术:

    集成加速AI深度学习推理的技术,加速数据中心、企业和智能边缘计算环境中的AI推理工作负载,例如图像识别、对象检测及图像分割等。

    支持英特尔傲腾数据中心级持久内存,为英特尔以数据为中心的计算产品组合提供兼具经济性和大容量的持久内存功能。

    但没有一种方案能解决所有问题,AI并非“一策万能”。除硬件外,根据不同推理需求,英特尔提供不同的软件,对深度学习推理进行大量的软硬件调优。

    传统行业实现AI落地的主要目的之一通常是提升工作效率,物流行业的巨头——韵达就计划用机器视觉技术来提升快件测量的效率与质量。

    英特尔AnalyticsZoo平台提供的图像分类技术在其中发挥了作用——利用内置的图像识别模型,AI应用首先能够提取出待测量的快件轮廓,进而通过平台提供的TensorFlow等深度学习框架,结合至强可扩展处理器提供的算力,完成从模型训练、模型重定义到模型推理的AI处理全流程,终获得准确的大小件测量数据。

    除了传统行业外,互联网公司目前也试图用AI增强自身业务,爱奇艺将AI与云计算结合,构建了创新的Jarvis深度学习云平台。

    平台的成功很大程度上在于提升深度学习推理效率。除至强可扩展处理器提供的强劲算力外,还基于英特尔架构处理器的技术特性,对平台的深度学习推理进行了大量的软、硬件调优,包括利用OpenVINO执行的系统级优化。

    来自爱奇艺的测试数据显示,OpenVINO的引入,帮助Jarvis平台将实时弹幕显示的推理速度提升达5倍左右。

    AI并非一策万能,创新“三明治”结构呈现混合技术路径优势

    如今,深度学习虽然火爆,但实现人工智能的途径并非只有这一条,同时也要考虑是否试用。

    在一些行业的AI落地过程中,例如金融的一些应用,要求结果是可追溯的,这种情况下单使用深度学习并不可取,需要选择其他路径。

    深度学习、一般的机器学习和基于规则的学习都是目前AI领域的主流技术路径,下图为这三种AI技术路径的优势与局限性:

    AI技术优劣势

    现阶段主流AI技术路径的优势、适用场景和局限性总结来源:英特尔

    技术路径

    人工智能、机器学习及深度学习的关系示意图来源:英特尔

    可以看出,每种AI技术路径都有其局限性,所以在现实场景中,这些技术路径可基于不同特性来实现互补。

    例如,在AI技术进行银行卡反欺诈中,如果只使用一般的机器学习,将出现对序列化交易特征学习能力不足;而只使用深度学习,则会出现单笔交易内特征学习能力有限。

    在这样的场景下,两大技术融合才是更好的解决路径:区别于传统的分类器方法或单一的RNN方法,银联电子商务与电子支付国家工程实验室和众安科技,以及英特尔公司共同提出了GBDT→GRU→RF三明治结构欺诈侦测模型架构。

    模型架构

    融合了一般的机器学习和深度学习的三明治结构欺诈侦测模型架构

    这种混合路径,对于底层硬件设施的性能有着很高的要求,尤其是对各类AI技术的兼容性。

    “三明治”这一创新模型选择了基于英特尔至强处理器的CPU平台——CPU架构对目前几乎所有的AI主流技术、乃至新涌现的技术都有出色的兼容性,同时辅之各个层面的加速与优化。

 
举报收藏 0打赏 0评论 0
 
更多>同类资讯
  • sxxjymy
    加关注0
  • 没有留下签名~~
推荐图文
推荐资讯
点击排行
网站首页  |  用户协议  |  关于我们  |  联系方式  |  隐私政策  |  版权隐私  |  网站地图  |  排名推广  |  积分换礼  |  网站留言  |  RSS订阅  |  违规举报  |  浙ICP备16039256号-5  |  浙公网安备 33060302000814号