在走廊上跌倒会流鼻血,在人生中跌倒会流眼泪。 收藏本站
登陆 / 注册 搜索

阅读: 8.4K   回复: 4

[# 其他] 谷歌网络帝国背后的故事

小执念 古黑浩劫论坛大牛 2015-12-9 21:52 |显示全部楼层

可遇不可求的事:故乡的云,上古的玉,随手的诗,十九岁的你。

管理员
  三年半之前,一个包裹被快递到了爱荷华州一个农业小镇的某办公楼里,一段关于谷歌的神奇故事就此拉开了帷幕。{:4_107:}
8 I5 D5 V8 }; l. Y% }, y; n: q! C; |7 @# `" t' E$ `
  包裹里面是几个奇怪的计算设备,它们非常的宽大扁平,就像装披萨的盒子。盒子的一边是密集的开口,显然是用来接入大量网线用的,另一边贴着一个“海王星交换机”(Pluto Switch)的标签。它们的外形与常规的网络设备大相径庭,而且盒子的背面还印着许多芬兰语的字符。这个公司的工作人员显然并不知道这些盒子的具体用途,于是有人把这些盒子转寄到了他们威斯康辛的总部,希望那里的IT专家们可以解答这些盒子的秘密。总部的IT工作人员一开始同样一头雾水,但是不久之后他们在一个非常小众的网络上得到了一些答复:这些盒子是网络交换机,它们工作在因特网纷繁复杂丰富多彩的表面之下,负责在数据中心之间大量的传输和转移数据,并且,它们的主人是谷歌。
/ f* N% P. @9 {* p- |! u9 x& E
! `+ Y0 Y& k/ f; n  谷歌的确在爱荷华州的那个小镇附近设有数据中心,所以显然是邮递员粗心把这个设备寄到了错误的地址。这个公司的工作人员把这些盒子两两装好之后寄给了谷歌,并且迅速的从那个论坛上销声匿迹,但是他们在论坛上曾经发过的照片和技术讨论还是为人们打开了一扇窥探谷歌帝国内部的神秘网络世界的窗户。它指向了一个也许会改变整个互联网世界的神秘项目,而谷歌却从未在公开的场合谈论过它。
0 Z( Z* c  q" g- @+ K7 q0 U# g* l/ O& I4 ^, t# Q' W/ A7 V7 k+ f. B
谷歌网络帝国背后的故事 1434588651153.png

9 ?  J; |# s( {( u% h
图为谷歌代号为”海王星“(Pluto)的高性能架顶式交换机

+ w$ g8 B: v9 q* |& X

0 f2 P8 H+ H. A) p9 u, Q# j: q% V' b; U
  多年以来,谷歌在搭建自己的服务器网络时并没有使用传统网络设备商的设备,他们并没有大规模的购买思科,惠普或者爱立信的交换机和路由器。为了适应谷歌急速扩张的服务器网络,他们专门设计了自己的网络设备并且为他们编写了自己的软件用于配置和管理自己的网络。而直到这次阴差阳错的邮递员事件,外界才第一次看到这些设备的真容。
- j$ O2 ~3 y& ]. b9 x
5 P3 O5 ]! \0 O8 J: B  U6 F; l! u' J  由于这个项目对于谷歌的重大意义,在对外界保密的同时谷歌一直在持续增加对这个项目的投入。直到今天早上,在硅谷的一个技术会议中,来自谷歌的Amin Vahdat才第一次作为这个项目的负责人展示了支撑谷歌网络帝国长达10年的前5代的硬件软件解决方案,并且对这个领域的一些基础技术进行了介绍和探讨。这些探讨对于整个互联网世界都具有一定的前瞻性,毕竟未来会有更多的互联网公司将要走上谷歌已经走过的路。
6 e. S* Y$ f$ r- t5 H
7 z! s' K* x2 D' D3 X6 }9 A

1 k2 d. a( C8 J/ U4 n7 M
谷歌网络帝国背后的故事 1434588651910.png

$ L  [7 ?7 g2 r0 }  h% X+ I
图为Amin Vahdat, 谷歌“消防水管”(Firehose)项目的负责人
( y5 [8 K; }  w5 s

4 E3 ~8 f+ a2 e! m) S0 P

' Z6 S; X. A4 f: g  i  Amin Vahdat最早是UCSD的教授,他的研究领域就是网络的拓展,当意识到在学术圈的世界里已经无法构建规模足够大的网络之后,他来到了谷歌。据Vahdat介绍,谷歌这个秘密项目名字叫做“消防水管”(Firehose),始于2004年。到2005,2006年的时候,这个项目的产品已经部署在谷歌若干个数据中心日夜运行。) \; @% y6 `! g1 n. c3 O
6 I. p" e0 k  H; d& e
  除了快递员投错的那些类似于“高性能架顶式”(Top-of-Rack)交换机的产品,他们还开发了另外一种用于连接大规模网络之间相互连接的“集群交换机”(Cluster swtiches)。不仅如此,谷歌甚至还设计开发了自己专属的路由协议和网络管理软件。对此Vahdat的解释是:“那时的设备完全不能应付我们的网络所需要处理的带宽和数据吞吐量,那样的设备在这个星球上根本就不存在。”
8 ~4 t9 |( J' ~% N6 ]) s, h- o

5 _, ?2 t9 R7 C  @0 ~, n% P5 w  谈到消防水管这个项目最初的动机,Vahdat表示主要有两个方面,一方面在于谷歌的服务器网络扩张太快,传统网络设备商的产品已经无法满足他们在各个不停扩张的数据中心之间快速交换数据的需求;另一方面谷歌也需要为这个长期持续的挑战找到一个低成本的解决方案,运用传统的手段搭建谷歌所需要的规模的数据中心和网络,成本将是真正意义的天文数字。而这个低成本的解决方案就是大量购买价格低廉的民用级的芯片,并且让他们协同工作完成交换处理海量数据的任务,听起来很像当下被炒得火热的云计算的概念雏形。
: d. U1 Q- B: Z3 J2 P: c2 I0 R/ T" F$ F2 H
  十几年之前当谷歌刚刚开始搭建自己的服务器网络时,他们的选择跟其他所有公司如出一辙。他们尝试从思科购买最大最强的集群交换机(Cluster swtiches),在每个数据中心的内部,这些集群交换机构成了网络的骨架。每一部这样的集群交换机都要花费谷歌几十万到几百万美元,而每一部这样的交换机上只有固定数量的网络接口可以连接到其他的交换机,这意味着搭建一个可以满足谷歌需要的数据网络将会耗费无尽的美元。“那时候我们的采购只会跟他们说,嘿哥们,把你们现有最牛的交换机给我们,只要最牛的。”
/ F0 M" E5 v" Q* |1 R9 h; o! W

* G/ b6 ~7 N9 F8 B! H& Q  于是从2004年开始谷歌内部成立了一个小组开始研究自己的网络设备解决方案。这个方案简而言之就是用普通的民用级芯片搭建通用的硬件,然后在上面跑任何需要运行的软件。思科为不同级别的需求提供不同的硬件,并每套硬件上面都运行特定的相匹配的软件。2 q8 N. _" w0 [* i6 E0 U9 k6 K4 F
; ?) t( C5 P0 F; H
  而谷歌的解决方案则简单粗暴的多,所有的硬件都是相同的,面对不同的需求时解决方案的差别仅在于一起协作的硬件的数量,一个“高性能架顶式”交换机就相当于一个“集群交换机”上的一块板,性能的提升几乎等同于数量的叠加,而这些相同的硬件都可以运行任何需要运行的软件。根据Vahdat的介绍,现在谷歌“朱庇特”(Jupiter)系列集群交换机的处理能力已经达到了每秒40Tb,等同于4000万个家庭用户接入的带宽和吞吐量。
1 c' ]$ |; E! U% S9 v3 n% l. @7 f) V+ r  v* o, v3 Y- m
谷歌网络帝国背后的故事 1434588651996.png
5 j; I+ ?$ O8 ~* [" }! r7 K
图为谷歌的”朱庇特“(Jupiter)系列集群交换机,每秒可以处理40Tb的数据,相当于4000万家庭用户接入的吞吐量。
0 Y9 N/ j; }. u' o

7 i" b7 k+ x3 k: w- j

" Z0 N/ d1 f; I; t5 |7 Q
; y9 F; p) k: l  相较于硬件,Vahdat对于他们解决方案的软件部分言之甚少。但是他透露他们的网络设备运行在Linux的系统之上,他们还开发了自己的路由协议“火线”(Firepath),用于判断数据交换时的最佳路径。在网络世界里工业标准的路由协议是BGP和OSPF,开发自己的路由协议是非常罕见的现象。
' [1 {) U% S, t7 o/ L- Z" d2 x; [# @
  Vahdat解释说在他们开始搭建网络的时候这些标准协议还不像今天这般简单和高效,而他们将要搭建这个世界上最大最复杂的网络,所以他们需要一个更加简单快速可扩展的方案。“火线”协议的细节无比复杂,如果要介绍它的优势,一言以蔽之,“火线”的用户可以通过一个中央控制软件来统一配置整个网络的行为,而在传统的网络世界里如果想要达到同样的效果,网络管理专家们必须对网络中的每个交换机一个一个的单独配置。
  ]' @2 W8 s. E* k( w- P( {5 R
0 Z2 [9 F" @' J" C  N  谷歌的服务器网络很可能是世界上最大的一个。一个惊人的事实是,如今谷歌网络内部数据中心之间交换的数据量已经超过了谷歌和整个互联网之间交换的数据量。如今像微软,亚马逊和Facebook也都面临着和谷歌类似的挑战,而他们也各自进行着类似的项目。Facebook从一开始就公开了他们的SDN(software-defined networking)计划,而美国最大的网络服务提供商AT&T也已经在紧锣密鼓的进行着向这种新的网络技术的迁移。
( `0 h, C* k! B; `. u$ ~3 W# J7 d; j! }6 `6 o# J
  SDN技术发展到现在,凭借其低成本,高灵活性和几乎无限的扩展性的巨大优势,已经给传统的网络设备商带来了前所未有的挑战,而这种挑战很可能是颠覆性的,它意味着传统网络设备商们的蛋糕整个变小了,而且将越变越小。
& u2 p6 ]/ }+ m, T6 l! D% X. ]  b$ Z! g- c% |' ]% Q
  当谷歌微软这样的巨头纷纷抛弃思科们的时候,那些中小规模的公司一样会因为SDN的种种优势而希望转投SDN的怀抱,他们之所以还不能这样做是因为他们不像那些巨头公司一样有足够的资源来设计开发自己的硬件软件和解决方案。于是一批新的创业公司应运而生,他们专门为其他公司提供新一代的网络解决方案,“当你只需要花很少的钱买一堆廉价芯片并且用一个中央控制软件就可以配置整个网络的时候,昂贵而又复杂的传统网络解决方案看起来如此笨拙不堪一击。”6 a9 C: H6 l7 h8 D3 {% u* G
; G, y- v9 k+ y4 E4 O
  如今Nicira (已经被VMware收购), Big Switch Networks, 和 JR Rivers’ Cumulus Networks等公司的蓬勃发展已经证明了SDN大势的不可阻挡,网络世界注定将要迎来一场革命。% b; S+ Q5 e5 ]- H
! k! S7 G. @7 k' \1 p5 Q7 D


左岸云烟 「出类拔萃」 2018-5-12 09:32 |显示全部楼层

这个用户很懒,还没有填写自我介绍呢~

在遇到你之前,我对人世间是否有真正的圣人是怀疑的;而现在,我终于相信了!我曾经忘情于两汉的歌赋,我曾经惊讶于李杜的诗才,我曾经流连于宋元的词曲。但现在,我才知道我有多么浅薄!楼主,你的高尚情操太让人感动了。在现在这样一个物欲横流的金钱社会里,竟然还能见到楼主这样的性情中人,无疑是我这辈子最大的幸运。让我深深感受到了人性的伟大。楼主的帖子,就好比黑暗中刺裂夜空的闪电,又好比撕开乌云的阳光.
流星☆坠落 「出类拔萃」 2018-5-14 13:36 |显示全部楼层

这个用户很懒,还没有填写自我介绍呢~

  
木雨 「龙战于野」 2018-12-15 11:05 |显示全部楼层

这个用户很懒,还没有填写自我介绍呢~

了解一下
您需要登录后才可以回帖 登录 | 免费注册  

本版积分规则

关于本站|大事记|小黑屋|古黑论 网站统计

GMT+8, 2021-1-23 16:30 , Processed in 0.063193 second(s), 30 queries , Redis On.

© 2015-2020 GuHei.Net

Powered by Discuz! X3.4

快速回复 返回列表