VxLAN下的数据中心拓扑变化

前两天正好有事飞北京一趟,会了会北京分公司的朱总,聊到现在演变过来的DC拓扑,已经和我学IE时了解到的大不一样了。简单记录,回头深究。

思科推崇的传统DC架构为Spine-Leaf架构,涉及产品为Nexus 752架构,7k跑spine,5k跑leaf,2k作为Fabric Extender打破ToR/EoR布局,引入MoR。

7k和5k是Fabricpath的,二层无阻塞的环境,7k跑FHRP,网关在7k。

而现在虽然也是Spine-Leaf架构,但是推崇的产品已经改为963架构,这里也只是听说963架构,不知道所谓6k跑什么流量。姑且当做9k连3k吧,网关在3k,也就是在leaf上,3k上联9k跑同DC下东西流量,3k直连防火墙出局跑南北流量。9k和3k之间跑evpn,利用VxLAN封装报文跑东西流量。

这里有个问题,我问朱总,那这样不是很多网关,要很多防火墙?朱总说,是。

随后还简单聊了Fabricpath和Trill的区别,我理解的FP是二层等价多路径的,无阻塞的,而朱总所说的Trill是要结合STP一起用的,是会阻塞链路的。但是据我所知这俩玩意是一回事的。回头还得查查IEEE文档了。但是无论这玩意如何,总归是没人用的。

Nexus系列交换机与IOS系列交换机的明显区别

Nexus系列交换机是与IOS系列独立开来的交换机产品,其在命令语法和日常使用中均有较大区别。以下是几个日常使用中明显的区别:
1,Nexus默认SSH登陆,而IOS系列默认telnet登录
2,高度模块化的映像,启用各种功能需要用feature命令打开
3,Nexus默认使用用户名密码登陆,IOS默认只需要密码登陆
4,Nexus没有write命令,需要copy run start
5,Nexus系列中license管理严格,高级功能不仅需要业务板卡支持,还需要购买软件授权,如MPLS授权,高级二层授权(Fabricpath)等
6,支持COPP(Control Plane Policing)
7,Nexus映像由kickstart和system image构成,IOS仅有system image

其实Nexus和IOS在实际使用上也有较多的不同,这里只列举出比较明显的区别,希望大家有一个比较宏观的认识。

Cisco Nexus系列各产品简述

由于思科系列的Nexus产品的产品线长,编号大致从N1K到N9K,灵曦为各位整理出Nexus家族产品线的概述情况。考试以N1KV,N2K,N5K,N7K为主。

1K – 虚拟化,N1kV(N1000V),为VMWARE提供的第三方交换机产品,软件交换机
2K – 虚拟接入层,远程板卡,必须配合5K,7K使用,为5K,7K提供远程接入功能,不可管理,扩展了5K或7K的端口数量,并改变了TOR/EOR架构。(考试型号:N2232PP)
3K – 高频交易,高密度交换,金融产品使用
4K – 嵌入式交换机,测试产品,在IBM服务器中嵌入了交换机,有可能是FI的前身,几乎没见过
5K – 标准接入层产品,最强的功能是有unified port,可以自由配置LAN/SAN端口,即原生支持FC存储网(考试型号:N5548UP)
6K – 原5K高级版,已融合到56xx系列
7K – 可做汇聚层或核心层的交换机。最强功能:VDC(Virtual Device Context)可以将一台交换机虚拟为4台或8台业务VDC和1台管理VDC实现独立管理。(考试型号:N7009)
9K – ACI架构,不用思科芯片实现转发,实现spine/leaf架构

Cisco Nexus N7K/N77 系列中的带宽计算问题

由于N7K系列为高度模块化设备,其背板(FABRIC),IO模块(业务板卡)均为模块,可以独立添加删除替换,故需要对N7K系列做背板带宽和整机吞吐带宽计算。

  • 背板支持情况:

N7K系列机器支持FAB1和FAB2两代背板,N77只支持FAB2背板。
N7K系列中,FAB1背板提供46Gbps/slot(插槽)的带宽支持能力,FAB2支持110Gbps/slot的带宽支持能力。
N77系列中,FAB2背板提供220Gbps/slot带宽支持能力。

整机吞吐带宽 = 背板带宽(FAB) x 插槽数(slot)

  • 以IO模块N7K-F248XP-25E为例:

N7K-F248XP-25E业务板卡解读如下:
N7K – 只适用于N7K系列机器(不适用于N77)
F2 – F2代板卡
48 – 48个端口
XP – 万兆SFP+口
25 – 需要2代FAB 5块

已知该业务板卡需要FAB2代,即每FAB为该slot提供110Gbps速率,5块合计550Gbps。而该板卡最大吞吐为1Gbps x 48 = 480Gbps吞吐,小于550Gbps,故该业务板卡可以全线速运算。

    • 整机吞吐计算:
      以7009(7slot)为例:
      由上述计算可知,5块FAB可以为每个slot提供550Gbps带宽,该款型号支持7slot,故整机总吞吐能力为 550Gbps x 7 = 3850Gbps

 

  • 以IO模块N77-F212CK-26为例:
    业务板卡解读如下:
    N77 – 适用于N77系列机器
    F2 – F2代板卡
    12 – 12个端口
    CK – 每口100Gbps
    26 – 需要2代卡6块

该板卡需要100Gbps x 12 端口 = 1.2Tbps吞吐,N77中二代FAB可以提供220Gbps/slot吞吐,需要6块一共可提供1.32Tbps/slot吞吐,可以满足该板卡全线速运算。

  • 以IO模块N7K-F132XP-12L为例:
    板卡为N7K机器上F1代板卡,32个万兆SFP+口,需要1代FAB 2块,具备XL加大转发表项。
    一代板卡2块共提供46Gbps x 2 = 92Gbps吞吐,而该业务板卡最多需要10Gbps x 32端口 = 320 Gbps吞吐,92Gbps小于320Gbps,故该板卡不足以支持线速运算,且超订比为1:4