UCloud宋翔：无惧AI挑战，UCloud联合英特尔为企业赋能

前言

近日，UCloud AI平台技术专家宋翔接受《计算机世界》采访，详细介绍了UCloud如何助力AI应用在企业落地，同时还介绍了在这一过程中，英特尔作为UCloud的合作伙伴，如何利用自身技术和产品创新的整合优势，为UCloud提供了领先、高效、可扩展且开放的基础设施，帮助UCloud建设高性能，低成本的AI架构，让企业用户可以像使用成熟的云产品一样，按需使用AI服务。

（图：UCloud AI平台技术专家宋翔）

如果说，两年前，AlphaGo在与围棋职业九段棋手李世石进行的人机大战中获胜，让全世界都认识了人工智能；那么，一年前，AlphaGo完胜世界围棋冠军柯洁，则在全世界掀起了人工智能应用、创业的风潮。2017年更是被公认为是国内的“人工智能元年”。

从国务院印发《新一代人工智能发展规划》，到工信部出台《促进新一代人工智能产业发展三年行动计划（2018-2020）》；从无人驾驶汽车开上了北京的五环路，到普通民众可以通过刷脸支付费用购物；从层出不穷的AI创业公司，再到或自主研发、或通过投资收购抢占AI高地的BAT……这一切现象都标志着人工智能开始进入了加速发展和落地的阶段。

然而，对于大多数想借助人工智能实现转型升级的传统企业和将人工智能视为发展方向的初创企业来说，如何让人工智能快速落地、实现应用还是一个亟待解决的难题。

如何助AI应用在企业落地？

UCloud AI平台技术专家宋翔告诉《计算机世界》记者，想在人工智能领域分得一杯羹的企业普遍会面临以下几种情况：

其一，很多企业都不知道应该在什么场景下去应用AI技术，仍然处在寻求、探讨的过程中；

其二，大多数企业都积累了很多数据，但是他们不知道应该怎么利用AI把这些数据变成有效的应用；

其三，企业缺少AI人才，从内部培养则需要很高的成本，很多企业都在摸着石头过河，或者从网上公开课学习，或者去其他公司交流，之后再运用到自己的企业中，但这个过程是非常缓慢的。

对此，宋翔为希望快速落地应用AI的企业提出了建议。他认为，企业用户首先要找到合适的场景，可以先找一些开源的、常见的算法进行实践，在初期无须要求整体效率达到一定的程度，可以先循序渐进的尝试，等确认某些场景达到一些好的效果，或者公司在效率、收入层面产生一些正反馈以后，再深入使用一些算法。

此外，企业在刚开始进入AI场景时，可以利用一些公有云工具和服务去加速数据的迭代，因为对于AI场景，不只是需要内部环境和管理环境，同时还会消耗大量的精力和成本，但是公有云可以帮助企业减少环境和基础设施的搭建成本与精力。

英特尔首席数据科学家鲍勃·罗杰斯（Bob Rogers）也曾指出，对于那些希望应用人工智能，却不知该如何开始进行基础设施搭建的企业来说，与云计算厂商合作会是一条很好的路径。

在宋翔看来，人工智能是当前重要的发展方向，可以在不同方面帮助企业提升效率，提供创新。云计算能够以更低的成本、更快速灵活的方式为人工智能提供强大的数据处理能力，可以说，云计算对人工智能的快速落地起到了很大的推动作用。随着云计算的发展，越来越多企业的数据生产和消费都选择在云计算平台上进行，用云计算平台做机器学习的训练和推理也就成为顺理成章的事情了。

事实上，作为国内领先的中立云计算服务商，UCloud在2017年初就提出了“CBA”（Cloud，Bigdata，AI）三位一体发展战略，并发布了UAI（人工智能）系列产品，包括超高性价比GPU、UAI-Train、UAI-Inference等产品，构筑了一站式的AI服务。UCloud在云计算平台积累的技术优势和运营服务能力，都为UCloud提供差异化AI服务奠定了坚实基础。

据介绍，UCloud的AI三部曲可以分为大数据收集、AI模型训练和AI在线服务。

针对数据收集和AI模型训练，UCloud为用户提供了成熟的云主机、云存储、云网络等解决方案。

针对AI在线服务，UCloud则为用户提供了“两步走”的部署模式。首先，向用户提供SDK工具包，内含接口代码框架、代码和数据打包模板以及第三方依赖库描述模板。用户只需根据SDK工具包内的代码框架编写接口代码，准备好相关代码和AI模型以及第三方库列表，就可以通过打包工具一键完成任务的在线部署。其次，用户可以通过AI在线服务PaaS平台进行后续管理和维护。该平台可以同时管理上万个计算节点，并拥有自动请求负载均衡、自动资源管理的功能，用户只需要将业务部署在平台上，就无须操心后续的运维问题。

而UCloud的AI在线服务--UAI-Inference就是面向想借助人工智能实现转型升级的传统企业和将人工智能视为发展方向的初创企业而设计的大规模分布式计算平台，它可以让企业快速完成AI基础设施的搭建和部署，并提供海量计算节点，自动负载均衡，动态扩缩容；基于UCloud云生态构建，可以提供高可用性、高安全性和高功能性保障；适用于视频图像识别、自然语言处理、语音处理等多个普遍的AI应用场景。同时，UAI-Inference对包括TensorFlow、Keras、Caffe和MXNet等在内的主流AI框架，都能提供良好的支持，企业可以根据自己的业务需求来选择不同的AI框架进行接入。

AI服务也能按需随取？

提到UAI-Inference，就不得不提到这个平台背后的“功臣”--英特尔。作为人工智能应用普及的推动者，英特尔一直致力于积极打造人工智能的新生态，助力人工智能技术的大众化，推动人工智能真正产生社会价值。

作为UCloud的合作伙伴，英特尔利用自身技术和产品创新的整合优势，为UCloud提供了领先、高效、可扩展且开放的基础设施，帮助UCloud建设高性能，低成本的AI架构，让企业用户可以像使用成熟的云产品一样，按需使用AI服务。

一方面，在UAI-Inference中，英特尔至强可扩展平台提供了坚实的基础。利用云主机中英特尔至强可扩展处理器的处理能力，UAI-Inference将英特尔AVX-512用于支持和加速AI在线服务。英特尔AVX-512在每个时钟周期的每秒浮点运算次数增加了一倍，执行苛刻的计算任务时，能够提供更加卓越的性能和吞吐量。UCloud利用至强可扩展处理器产品家族强大的可扩展性进行弹性部署，用低成本获得了高性能，降低了用户的TCO，克服GPU价格昂贵且扩展性不足的弊端。经过反复的优化和验证，AI在线服务的重要指标——时延被成功降低到了数百毫秒，满足了UCloud用户的应用需求。

另一方面，借助Intel Caffe框架提升了服务效率。Intel Caffe框架针对英特尔硬件平台做了深度优化，在保证兼容性的前提下，极大地提高了性能。UCloud的一系列测试结果表明，借助Intel Caffe框架，测试系统同时运行的线程数量可以得到显著增加。基于该框架，测试系统的执行时间从最初的37秒缩短到了优化后的3.6秒，整体执行性能提高了10倍以上。通过采用这一框架，UAI-Inference的效率得到了跃升。

对于与英特尔的合作，宋翔感触颇多，他告诉记者：“英特尔的技术基础非常稳定、高效，而且英特尔的开源技术团队帮助我们做了很多优化工作，当我们遇到特殊问题时，和他们沟通交流，他们都会针对我们的问题去寻找已有的解决方案，或者给出优化后的解决方案，他们也很愿意与其他公司合作，去优化基于CPU的AI技术。”

据悉，目前UCloud与英特尔的合作，已经从最早的服务器、CPU，延伸到了计算、网络、存储以及数据营销、数据交换等方面，包括人工智能、区块链、安全等多个领域。UCloud的目标是以“中立”为优势，联合上下游伙伴，一起为梦想者赋能，可以说，英特尔大大加持了UCloud服务梦想者的能力！

本文转载自计世网UCloud主题页面，原文基础上略加改动。

—End—

点击“阅读原文”，了解原文内容。

关注公众号：拾黑（shiheibook）了解更多

[广告]赞助链接：

四季很好，只要有你，文娱排行榜：https://www.yaopaiming.com/
让资讯触达的更精准有趣：https://www.0xu.cn/