重新思考基础网络发展大格局 — 兼论云雾新时代的来临

摘要:
> 云计算改变了数据产生、处理和传送模型,必将对传统IT业和通信业,尤其是基础网络格局产生结构性影响;
> 大型互联网公司的DCI(数据中心网络)将成为全球和地区互联网干线网络的重要构成,甚至新的连接中心;
> 万物互联(Internet of Everything)更多影响近用户侧,而非云端;围绕边缘位置的雾计算将成为下一步发展重点。

云和雾,考量未来基础网络格局的必备视角
云(Cloud)是大气中水汽凝结成的水滴、冰晶或者它们混合组成的漂浮在空中的可见聚合物。云的底部不接触地面,并有一定厚度。雾(Fog)是悬浮在近地面大气中的大量细微水滴或冰晶的可见聚合物。从构成情况看,云和雾并无本质区别。云在天空飘浮,高高在上,遥不可及,刻意抽象;而雾却现实可及,贴近地面,就在你我身边。

区别云和雾只需判断其是否接触地面;而区别所谓的云计算(Cloud Computing)和雾计算(Fog Computing),最简单的方法就是判断距离用户的远近。“距离”一词,基本等同于基础网络连接的物理长度。

时至今日,云计算概念已经得到产业界乃至社会各方的认可,雾计算概念则还处于前期渗透中。信息产业本质上就是处理和传送信息和数据,而云雾中的“水滴、水晶”就是这些信息和数据。云计算和雾计算两者的兴起改变了传统的数据产生、处理和传送模型,必将对传统IT业和通信业,尤其是基础网络的整体格局产生结构性影响。

整体视角,而非细分专业视角
通常来说,信息产业可以粗略划分为:CT(通信)、IT和互联网(内容应用及服务)。每个大类又会包括更加细致的专业划分:

> 以CT(通信)为例,可包括:核心网、移动接入网、固定接入网、光传输网、IP数据通信网、业务支撑软件等;
> 而IT则可包括: ERP\CRM等生产或办公应用、企业通信IPX、企业网(园区网、分支机构互联的WAN)等;
> 互联网服务则更为综合,业务系统(网站\APP)、基础计算环境(服务器等)、基础网络环境(LAN\WAN)都会包括;
> 还有一些名词,其归属边界则很模糊,例如:数据中心(IDC)、CDN。它们既可以属于CT(通信)、也可以属于IT(企业)、也可以属于互联网范畴。

可能受制于专业划分,无论是CT(通信)、IT(企业侧),还是互联网公司的从业人员,普遍倾向于用自己熟悉的视角来看待INTERNET。但实际上,任何组织的单一网络本身并不是INTERNET,把大家互联在一起才是INTERNET。

理解并研究“云雾时代”的网络格局变化,也许我们应该从更整体的视角(CT+IT+互联网)去观察网络,尤其是网络所传送的数据流量模型的变化。

为什么要从“CT+IT+互联网”整体视角?基于最简单的抽象,网络是传送比特数据的,而IT计算是处理比特数据的,而存储是把比特数据保存下来。因此,分析技术的变化和冲击,甚至背后的商业模式变化,我们可以基于比特数据流本身做思考;进而有机会获得一些整体认识或者对未来趋势的判断。

在云计算到来之前,电信网络格局是基本上变化不大(诸如核心网的全国集中或全省集中,我们认为算不上本质性变化),企业网和IT部分也是结构相对稳定。而云化之后,IaaS以及之上的PaaS\SaaS会对数据流量模型产生结构性影响。

过去的网络结构:电信运营商处于网络的绝对中心
回溯通信业的发展史,从一百多年前的电话诞生起,到最近几十年的数据通信、光通信和移动通信技术的发展,运营商网络一直联系社会各方(个人、企业、政府等),是连接各方的绝对中心。

绝对中心与网络效应(Network Effort)
最简化的通信网络模型是一端连接另外一端,至少要有两端;如果只有一端,则不构成连接的前提。而运营商同时连接了很多端,则形成了所谓的网络效应(Network Effort)。

解释网络效应最好的理论是3COM创始人Robert Metcalfe的Metcalfe’s Law:网络的价值等于网络节点数的平方,网络的价值与联网的用户数的平方成正比。

Metcalfe’s Law是基于每一个新上网的用户都因为与别人的联网而获得了更多的信息交流机会,指出了网络具有极强的外部性和正反馈性:联网的用户越多,网络的价值越大,联网的需求也就越大。该定律指出了从总体上看消费方面存在效用递增,即需求创造了新的需求。

重新思考基础网络发展大格局001
图1 运营商网络曾经是连接各方的绝对中心

企业网与运营商网络的关系
随着企业信息化和数据网络技术的兴起,几乎所有的大中型企业均建设自己的企业园区网,而企业分支机构与总部的互联,则通过租用运营商的广域链路(WAN)或者诸如MPLS VPN的方式来实现;企业员工的日常办公通常也需要访问互联网网站,则进一步推动互联网接入线路的需求。

重新思考基础网络发展大格局002

图2 企业网与运营商网络的关系

站在运营商角度,企业发展自己的园区网,必然会增加大量的分支机构互联需求,进而拉动广域链路(WAN)连接带宽租用需求。

而企业信息化需要大量的数据计算和存储,进而导致大量的IDC需求,无论是企业自建IDC,还是租用运营商的IDC,基本上都会大量增加网络连接和带宽需求,进一步放大运营商网络的网络效应(Network Effort) 。

互联网公司的兴起
在相当长一段时间内,运营商普遍把互联网公司当成一类特别的政企客户来对待。几乎所有来自互联网公司的带宽租用需求,均由运营商的政企客户部来负责签合同。

无论是互联网及数据中心的接入,还是WAN广域链路,互联网公司的需求和其他大型企业(比如:银行、制造企业)并无本质不同,除了带宽数量可能大一些。但自然法则通常会告诉我们,数量大到一定程度可能会引发质变。

网络技术的开放性+云计算IaaS:量变到质变,可能是指数级的质变
技术进步意味着老技术可能会代替新技术,也有可能多种技术选择的并行发展。多种网络技术既然都可以“互联”,显然对于连接的需求方来说,就可能引起变化;而云计算,尤其是IaaS让这个变化从量变到质变,而且可能是指数级的质变。

网络技术开放性
以CT(通信)技术进步为例,按照我们的理解,技术进步可以分两种,一种叫串行进步,比如:2G->3G->4G,通常是后来者代替前者,基本上完全代替。另一种进步叫并行进步,比如:光传输 vs. IP数据通信,前者可以做大客户互联,后者也可以做大客户互联,只是具体的功能点定位有差异。实际上,并行进步的技术,通常每种技术自身均在不断演化,对于客户来说,则是体现为有了更多选择。

我们以最简单的网络连接模型(A点连接到B点)为例,A和B之间的互联选择,至少可包括:传输层网络、IP层网络;后者还可以继续细分为:IP专网 \ MPLS VPN、Internet公网等。

重新思考基础网络发展大格局003

图3 光传输层和IP网络层等均可连接两端

由于不同互联技术的具体市场定位存在差异和互补,实际上运营商一直在并行发展这些技术。无论是哪个层面的互联,都可以给运营商产生收入,虽然存在一些相互代替问题。

但,换一个角度思考,不同层面所能提供的带宽能力存在巨大差距,这也是电信运营商企业经营的核心思路:对低层的连接带宽进行广义的统计复用,实现放大数倍的高层带宽,使得最终销售的连接带宽价格相对低廉,进而放大需求,赢得客户。

> L1:物理网络层是最“直接“的连接,运营商有一条光纤线路,然后把这条线路出租给企业客户。显然此类连接线路的单价会非常昂贵,对企业客户不划算,对运营商也不划算(因为没有统计复用,可销售的总带宽很低)。
> L2:光传输网络层,则是把不同波长的光信号复用到一根光纤中进行传送。在WDM(Wavelength Division Multiplexing,波分复用)系统中,每种光信号(一个信道或一种波长)可以达到2.5Gbps、10Gbps甚至更高的传输速率。而一根光纤可同时支持32、64、96、甚至128信道。这就意味着一根光纤就能够传送几百Gbps的数据。
> L3:IP网络层则可以进一步扩大统计复用的倍数,理论上一台路由器可以互联很多个子网络。事实上,全球的网络都已经通过路由器互通起来,实现所谓的INTERNET。

网络技术开放性的副产品
由于通信网络是需要互联才有价值,对于运营商来说,可以通过L3(IP网路层)或者L2(传输网络层)直接连接企业客户;也可以连接到第三方的网络服务商,由第三方网络服务商来连接最终的企业客户。

通常来说,谁直接连接的客户足够多,谁就更具备“网络效应”。从带宽成本角度考虑,只有具有大规模“网络效应”,才有机会获得更好的带宽成本、带宽容量、以及速率优势。

曾经相当长一段时间,业界一直有第三方的网络服务商(非传统电信运营商),但业绩一直不温不火,几乎影响不了主导运营商的网络霸主地位。究其原因,我们认为是因为这些第三方服务商的产品服务与电信运营商是同质化的。在技术、产品及商业模式都同质的情况下,显然“网络效应“大的企业,拥有更好的边际收益。

真正变化的开始:互联网公司的数据中心互联网络(DCI)
前文提到,互联网公司需要的连接带宽,无论是L2(光传输层)还是L3(IP网路层),最开始和其他实体行业企业(比如:银行、制造业等)并无本质区别。但由于互联网行业的连接带宽需求越来越大,一些领先互联网公司则开始寻求改变。这种改变的核心驱动力,可能来自某些互联网公司极具前瞻性的战略眼光,也更有可能来自现实运营问题和成本经济性的考虑。

具体来说,一条典型广域链路(WAN)的利用率在60~70%就可认为是传统意义的上限;毕竟所承载的大部分业务不会24小时都在峰值工作,总是有高有低。而由于大型互联网公司的业务发展增速很快,对传输连接带宽的需求也会呈类似增速;站在大型互联网公司内部网络部门的角度,其也面临类似“剪刀差”现象,基本上和运营商所抱怨的“剪刀差”类似。

对于大型互联网公司来说,如果通过城域和长途干线传输网络将分布各地的数据中心连接起来,则有机会构成一个成体系、可调度的全国性甚至全球性网络,即:DCI网络(Data Center Inter-connect,数据中心互联)。DCI的出现,对于大型互联网公司的直接收益包括:

> 内部的数据传送速度更有保证(对比通过公网或其他传统手段),充分支持业务高速发展。
> 提升链路使用的效率,尤其是支撑业务发展的灵活网络调度功能。链路使用率的提高,一定程度可相对减少对运营商WAN的租用需求,从而降低整体的WAN成本。
需要说明的是,互联网公司通过DCI拥有了全国性网络资源的调度能力。即便是通过运维人员的手工调度(非SDN),手工调度也是一种调度,具有实用价值(对比以往依赖运营商,基于商业合同的SLA要求)。

实际上,领先互联网公司均在积极推动SDN的应用,SDN将会让DCI网络的智能化程度有机会大幅超越运营商规模庞大的现网。

互联网公司的数据中心网络(DCI)典型演进过程
普遍来看,大型互联网公司的DCI建设过程整体趋同,但具体节奏存在差异。甚至同一家公司在不同市场也会同时保留不同做法,以适应具体市场环境要求。我们这里给出一个大致的演进过程。

阶段1:互联网公司把自己的IDC接入运营商的公网(IP城域网)。此时,互联网公司的IDC只有一类接口,连接当地的运营商公网。

互联网公司自建IDC

图4 演进过程之一(互联网公司自建IDC)

阶段2:互联网公司租用运营商的光传输链路(WAN),构建自己某些重点城市IP城域网。此时,互联网公司的IDC新增了一类接口,用来连接同一个城市的不同IDC。
互联网公司自建IP城域网

图5 演进过程之二(互联网公司自建IP城域网)

阶段3:互联网公司进一步建设自己的光传输城域网,实现本地自有多个IDC之间传输层互联。通常所租用的物理光纤线路可能来自运营商,也可能来自其他第三方企业。

互联网公司自建光传输城域网

图6 演进过程之三(互联网公司自建光传输城域网)

阶段4:通过建设自己的长途传输网络,大型互联网公司把全国、甚至全球的自建IDC互联起来;至此阶段,大互联网公司拥有了自己的全国或全球性骨干网。

互联网公司自建长途光传输网

图7 演进过程之四(互联网公司自建长途光传输网)

回顾上述大致四个阶段,互联网公司从自有IDC有两类接口开始(连接当地运营商的公众互联网、连接自有多个IDC),不断扩大连接的深度与广度,并成为一个相对完整的独立网络体系。如果其再申请独立的AS号(AutonomousSystem,自治系统),通过BGP协议与其他运营商或第三方网络互联,就可认为是一个INTERNET Tier-2级的 ISP网络。

INTERNET ISP 层次结构图

图8 INTERNET ISP 层次结构图

谷歌 B4:全球第一张大型SDN化的数据中心网络(DCI)
谷歌B4全球骨干网连接了谷歌的十余个主要IDC,从2010年开始逐渐基于Open Flow进行SDN改造。谷歌B4在2012年成功引入流量工程,依靠Open Flow来规划流量路径,对网络流量进行极大的优化。基于谷歌披露的数据,对比业界60~70%的传统上限,B4网络的WAN利用率可以达到95%以上。

谷歌B4数据中心互联全球骨干网

图9 谷歌B4数据中心互联全球骨干网

和国际市场类似,国内一线和部分二线互联网公司也纷纷建设了成规模的DCI网络。以某一线互联网公司2013年披露的数据为例:自建数据中心(50+个),服务器(30+万台),专线(1000+),出口带宽(3000+Gbps)。

IaaS云计算:从源头上对网络流量结构进行颠覆
理论上IDC和IaaS(Infrastructureas a Service)都可认为是基础计算服务,IaaS通常基于IDC叠加虚拟计算资源层。IDC和IaaS是整个网络所传输的数据比特流量的主要源头,或者分发中心(可能汇集之后二次或者多次分发)。

云计算的兴起,尤其是IaaS,正在推动大型互联网公司的DCI不仅是狭义的“数据中心之间互联”,更是成为整个信息社会的基础网络之一。

究其原因,企业客户如果把自己的业务从传统数据中心迁移到IaaS,基本上就意味着自己的企业网规模可以大幅缩小,进而与运营商网络的专线连接带宽也可以大幅削减,甚至基本不用。

亚马逊AWS在2015年公布了“ALL-IN”级别的客户,即放弃私有IDC,全部采用AWS的企业客户名单(图9)。这些企业的生产环境全部基于AWS,所产生的绝大部分比特数据流量都将运行在AWS及亚马逊的全球干线DCI网络上。

亚马逊AWS ALL-IN客户列表

图10 亚马逊AWS ALL-IN客户列表

我们认为随着IaaS技术及服务,尤其是公有云的进一步发展,企业客户都将会有很大比例的IT业务基于公有云的IaaS,即:大型互联网公司的DCI将有机会成为网络世界新的连接中心。

jcwlgj011

图11 大型互联网公司DCI正在成为新的网络中心

干线网络格局(运营商 vs. 互联网公司DCI)
围绕大型互联网公司的DCI当前规模以及未来规模到底有多大?尤其是对比当前以运营商为主体的INTERNET干线网络。这是业界人士普遍关心的问题。

从流量产生角度,我们认为取决于两个因素,一是大型互联网公司自有业务产生的流量规模,二是IaaS所承载的各种第三方企业客户的流量规模。其中,IaaS的服务商可能来自互联网公司,也有可能来自运营商。

受制于相关直接数据披露缺失,我们换一个角度,从光传输设备销售角度,来间接考量网络规模以及格局变化趋势。从理论上讲,任何一个比特数据流量都会通过光传输设备进行传送,无论是同一个城市内(城域),还是跨省、甚至跨国(广域长途)。

基于OVUM的全球光传输(WDM)销售统计及预测数据,DCI的应用在光传输总体销售占比从18.4%(2012年)持续上升到33.9%(2020年)。

全球光传输(WDM)设备销售分布

图12 全球光传输(WDM)设备销售分布

具体就DCI光传输设备来看:2012年及以前运营商保持数倍于其他企业的采购需求,而互联网公司和政府\科研\教育、其他商业企业基本上差不多。2013~2015年,互联网公司迅速崛起,采购量基本上和运营商保持类似比例增长。

jcwlgj013

图13 全球DCI光网络销售按客户分布

互联网公司大规模采购光传输设备建设DCI也呈现很强的地域性。越是大型互联网公司集中的地区,DCI的建设规模越大。北美市场就这方面的代表,北美互联网公司的光传输设备销售占比从20.5%(2012年),持续上升到56.6%(2020年);而运营商的占比则从55.3%(2012年),持续下滑到30.1%(2020年)。

DCI光网络销售按客户分布(北美)

图14 DCI光网络销售按客户分布(北美)

其中,北美地区的互联网公司在2013~2014一举超越运营商,成为新建DCI传输设备的主要客户。我们认为核心原因是因为云计算(IaaS\PaaS\SaaS)的规模兴起,而互联网公司已为此投入了巨额资金,并将继续投入。由此可见,云计算对网络格局的影响是颠覆性的,从通信设备的采购方的变化就可体现。

万物互联(Internet of Everything):更多影响近用户侧,而非云端
从网络通信技术和终端演进角度,我们认为广义互联网的演进大致可分为四个阶段:

> 阶段1:桌面互联网(PC作为终端);
> 阶段2:狭义移动互联网(手机作为终端);
> 阶段3:M2M\IoT物联网(各种“物Things”作为终端);
> 阶段4:IoE万物互联(连接Everything)。

从“桌面互联网”到“万物互联”

图15 从“桌面互联网”到“万物互联”

在移动互联网(狭义)时代,手机是核心要素,主要是围“People”与“People”的沟通。M2M及IoT物联网时代,“Things”是核心要素;而到了万物互联时代,核心要素则是“Process\Logic”。

从基础网络承载角度,无论是IoT物联网,还是IoE万物互联,很大部分应用场景的复杂度远高于目前的手机上网。

> 以消费类应用为例子,如果用户头戴VR\AR类头盔,头部移动后,VR\AR系统会根据头部新的方向和位置推送新的图像,此时屏幕迟滞很容易过长,导致用户头晕恶心(业界的研究要求迟滞最好在20毫秒以下)。
> 而工业方面的应用,则更多是关系到国计民生的安全生产问题。无论是远程操作挖掘机、远程手术医疗、无人驾驶汽车……几乎每一类应用场景都会对网络时延和连接带宽成本提出很高要求。
“距离”一直是体现网络价值的关键维度。纵览网络所承载业务的历史,最开始的话音业务定价就是基于距离远近:市话、省内漫游\长途、省际漫游\长途、国际漫游\长途。随着技术的进步,很多应用则可基本忽略距离影响:例如:话音、新闻类Web应用、即时消息等App。

面向未来,我们认为IoT和IoE的很多高级场景仍非常依赖距离因素,这些应用的计算和存储应该不止于云端,很大部分的重点应该在距离用户较近的网络边缘侧 —— “雾端”。这既是技术问题,也是经济问题。

应对未来网络格局演进的思考和设想
受制于区域经济、文化和政治差异,全球互联网和电信网络基础设施建设存在巨大差异。从这个角度看,互联网只是让这个世界“看起来更平”,实则道路极其不平坦,甚至沟壑纵横。而围绕这个“道路” —— 连接终端用户和云端的基础网络连接,我们尝试提出一些思考或设想。

超级IDC群(超级IDC+DCI)可能成为网络的新核心
目前运营商体系的IDC普遍数量很多,但是很分散,多数都是小型IDC。以某固网运营商为例,全国大约有300多个传统IDC。这些IDC之间缺乏逻辑和系统层面的调度和协同,也缺乏IDC之间互联的高速链路。

IaaS实际上是基于IDC服务器物理资源的上层封装,但IaaS不同虚拟机之间的数据传送,尤其是跨机房、跨地域的数据传送,很大程度也受制于物理的连接线路条件。

我们认为从原则上,运营商应该将分散的IDC进行整合,建立若干超大型规模的“超级IDC”。超级IDC在资源复用、单位能耗节省方面具有较大的统计复用优势。超级IDC直接接入运营商干线网络,也最大程度减少传输过程的中间跳数。

以中国的地缘辽阔程度和人口经济水平看,运营商应建设若干个超级IDC;超级IDC之间,通过专用的高速DCI网络进行互联,并保持对比现有INTERNET公网数倍的客户感知速率。“超级IDC群”,以及叠加之上的IaaS将是运营商服务互联网公司及政企客户云计算需求的关键载体。

云还是雾? 雾计算 \ 边缘计算的兴起
无论云端的风景有多美妙,从A点到B点之间的连接成本总是存在的,尤其是数据量巨大的传输连接。随着4K高清晰视频(带宽很大)、物联网及万物互联(单位物理面积巨大的连接数、时延、高信令传送、永不停息等)、VR\AR(巨大的互动数据、低迟滞)均会对终端用户与云端之间的网络连接产生巨大的挑战。

对比“云计算”的遥远距离,贴近终端用户的 “雾计算”将会有巨大的发展空间。大量终端用户产生或互动的数据不必全部传送到云端处理,围绕边缘计算的节点有巨大需求。

需要说明的是,关于“边缘”的理解,可能会基于目标应用场景,而非现在狭义的CDN或者贴近小区用户的小型IDC。可能是家庭里面的“屋顶盒”、也可能是基站侧(移动CDN)。此处期待更多的行业实践探索。

IX(Internet Exchange,互联网交换中心):不平坦道路中的微妙机会
由于诸多的历史性原因,对比北美的INTERNET网络基础设施水平,国内有一个比较大的区别在于互联互通方面。实际上,几乎所有网站或App开发者或多或少皆需考虑如何保证来自不同运营商的终端客户的一致性访问体验。

尽管国内主要运营商持续加大了网间互联的投入,但我们认为在相当一段时期内,互联互通问题仍将存在,因为流量需求的增速也很快,甚至更快。

对照北美和西欧市场,我们认为IX(Internet Exchange,互联网交换中心)服务商角色在国内将呈现明显放大的发展机会。

IX互联不同机构的网络

图16 IX互联不同机构的网络

IX角色的服务商,有可能来自电信运营商、也有可能来自某些第三方网络服务或者互联网公司。对比传统IX,我们认为新一代IX至少拥有两个技术杠杆:IaaS和SDN。

IX+IaaS可以让企业客户在采购云服务能力的时候,可以最低程度去关心互联互通问题,IaaS服务商会通过自己的IX能力,保证不同地区、不同网络服务商客户访问的SLA;SDN则让这个网络资源的调度可以更加自动化,更加随应用需求而动态调度网络资源。

从这个角度看,一个不太确切的比方就是,被调度的网络骨干资源类似各城市的传统出租车公司;而IX+IaaS+SDN则扮演资源调度方的角色,他们更像是滴滴出行。

从整体上看,云计算虽已取得了令人鼓舞、甚至震惊的商用进展,但我们认为无论是对比堪称海量的传统企业IT网络和信息化存量,还是面向万物互联后的未来信息社会,当前的云计算进程还处于中早期阶段,拥有广阔发展空间。而对于基础网络,尤其是基础网络格局演进的趋势把握,无疑对于电信运营商、大型互联网公司、传统IT公司、以及更多的初创型企业,皆有积极意义。

“闭门沧海曲,云雾待君开”。身处这“云雾迷蒙”的技术和应用爆发的当下,只有开放心态、锐意探索,方能把握机会,赢得自己在“云雾时代”的战略新位置。