首页 云计算 服务器 大数据 存储 IT 安全 物联网 软件 商品

云计算

云资讯频道旗下栏目: 云资讯 云安全 云开发 云趋势

有英特尔加持的百度 AI:算力不再成为业界难题

来源:36氪   发布时间:2019-07-09
摘要:7月3日,一年一度的Baidu Create 2019百度AI开发者大会如期召开,虽然这仅仅是AI开发者大会召开的第三年,但是今年仍然像往常一样集结了中国人工智能领域行业中最顶尖的人才和思想,带来了持续的来自AI的想象力,并继续吸引着来自全国的目光。 在本届大会

7月3日,一年一度的“Baidu Create 2019”百度AI开发者大会如期召开,虽然这仅仅是AI开发者大会召开的第三年,但是今年仍然像往常一样集结了中国人工智能领域行业中最顶尖的人才和思想,带来了持续的来自AI的想象力,并继续吸引着来自全国的目光。

在本届大会上,英特尔公司副总裁兼人工智能产品事业部总经理Naveen Rao宣布,英特尔正与百度合作开发英特尔® Nervana™神经网络训练处理器(NNP-T)。这一合作包括全新定制化加速器,以实现极速训练深度学习模型的目的。

在百度推出的飞桨开源深度学习平台上,英特尔发布了INT8离线量化方案,可以在不影响预测准确度的情况下,使多个深度学习模型在使用INT8时的推理速度,加速到使用FP32时的2-3倍之多,从而提升用户深度学习应用的效率。

通过这届百度AI开发者大会回顾英特尔与百度合作,不难看出,英特尔所提供的人工智能硬件和软件解决方案可以帮助开发者解决个性化的问题,从而让它们可以更方便地进行人工智能的开发。英特尔将“打破理论与现实的壁垒”作为这次参会的口号,道出了他们一直以来努力的目标。英特尔也将继续凭借技术的力量成为人工智能发展有力的助推者。

在本次大会的英特尔人工智能论坛中一场以“论深度学习框架和硬件芯片对AI产业化的影响”为主题的圆桌论坛也同样给行业带来了不一样的思考,来自百度和英特尔的四位嘉宾从深度学习和硬件芯片的协同视角,共同探讨了AI产业未来如何发展的议题,并指出在数据、算力和算法这三个人工智能发展的基础要素中,算力最有可能成为瓶颈。

算力成为人工智能技术发展的关键

事实上,人工智能技术并非新鲜事物,在长达60余年的历史上,这个技术经历了至少三次的潮起潮落。“当人工智能刚刚兴起的时候,人们普遍持比较悲观的看法,因为当时的算力远远不能满足算法的需求。计算机有限的内存和处理速度不足以解决任何的实际问题”,英特尔互联网行业资深架构师王加森先生在论坛中说。

对于任何技术来说,实际落地场景和问题解决能力的缺乏都将会让技术止步于实验室内,从而限制技术生态的发展。在当时,算力问题成为了研究者们难以逾越的基础性障碍。即使近年来算力开始快速发展,但伴随着深度学习等技术的兴起,它们对算力提出的高要求仍然让整个技术协作体有了捉襟见肘的感觉。

在2013年的一场演讲中,深度学习理念的提出者辛顿就曾直言:“深度学习以前不成功是因为缺乏足够多的数据、缺乏足够强大的计算能力、缺乏设定好的初始化权重。”在本次英特尔人工智能论坛分享了一个关键数据:从2012年开始,用于AI训练的算力资源以每3.5个月翻一番的速度增长。

来自英特尔对算力重要性的提醒,让业界开始重新审视算力之于人工智能发展的重要性。事实上,已经有相当多的事例反复提醒着业界重视算力的发展——譬如三年前一款基于云端卷积神经网络算法的手机软件,其让用户将自己的照片转换为艺术照的功能一时席卷全球,但由于处理照片过程中需要每张照片上传到云端服务器,再经过卷积神经网络算法,导致其糟糕的使用体验被诟病。然而,在最新发布的至强第二代可扩展处理器上,搭载的深度学习加速技术,可以使AI推理的性能提高两倍。

百度深度学习高级经理高铁柱先生表示,算力的确会可能是AI发展的一个瓶颈,除此之外,深度学习框架也需要引起行业的注意。在人工智能的基础层生态当中,深度学习框架起到一种粘合剂的作用,不仅为算法学术研究提供了工具,降低了数据读取的门槛,还可通过与芯片厂商的深度合作,实现软硬协同,从而最大限度的提升算力。

驱动深度学习,从软硬协同开始

AI并非单一的工作负载,而是一种广泛的、能够强化所有应用性能的强大能力,无论这些应用是运行在手机上还是大规模数据中心内。然而,手机、数据中心以及两者间的所有设施都对性能和功耗有着不同的要求,因此单一的AI硬件无法满足一切需求。

英特尔在人工智能方面提供优越的硬件选择,并通过软件来最大化释放硬件的性能,从而帮助客户无论数据多么复杂或位于哪里都可以自如运行AI应用。此次NNP-T是一类全新开发的高效深度学习系统硬件,能够加速大规模的分散训练。与百度的密切合作能够确保英特尔开发部门始终紧跟客户对训练硬件的最新需求。

百度和英特尔开展的合作已经超过十余年,尤其最近几年随着百度在人工智能领域的深耕,英特尔和百度间开展的合作变得日益紧密。从2017年英特尔介入到百度飞桨深度学习平台项目算起,分布在欧洲、美国和中国的十几位英特尔工程师跟百度一起优化百度飞桨深度学习框架的性能,贡献了几万行代码,把MKL/MKL-DNN 和飞桨集成在一起,充分利用英特尔至强平台处理器的指令集,使得百度线上的模型性能基于英特尔的CPU有了大幅提升。

甚至,为了更好地完成协同工作,百度和英特尔每周都有例会,遇到问题会迅速地沟通解决。给人一种“这不像两家公司,更像一个team ”的感觉。在这种独特的工作配合模式下,百度内部重点业务的重点模型如NLP、图像等模型的整体性能平均提升了50%;除此之外,英特尔团队也解决了一些棘手的性能优化问题,比如并行计算性能问题等,这些工作帮助百度飞桨在框架层面上提升了深度学习的性能。

“英特尔人工智能战略的核心在于,给客户带来领先的人工智能硬件和软件产品组合,帮助用户搭建所需要的AI应用,帮助客户解决所面临的个性化问题”,英特尔中国研究院认知计算实验室总监陈玉荣在圆桌论坛上这样表示。

更多的成果也在持续产出中。 

英特尔与百度相辅相成、互相促进

“英特尔与百度在AI产业化推进的过程中是非常紧密的合作伙伴。英特尔在硬件生态,百度在AI软件生态,结合起来是一个相辅相成、互相促进的正反馈闭环”百度云资深架构师周玮在论坛中分享到。