570 likes | 694 Views
2012.02.29. 云缓存解决方案. 互联网流量 全球互联网用戶由 2008 年的 15 亿增至 2011 年的 20 亿 2009 年互联网国际流量增加了 74% 刚在 2009 年全球运营商增加了 9.4Tbps 新的国际流量,比 2007 的总流量还要多 宽带及移动互联网 国内用戶由 2008 年的 4 亿增至 2011 年的 5.5 亿 预计 2012 年访问互联网之移动终端会比 PC 为多. 2. 全球流量增长趋势. 3. Overview. Cable DSL Fibre 3G Wifi. Subscriber. ISP
E N D
2012.02.29 云缓存解决方案
互联网流量 • 全球互联网用戶由 2008年的 15亿增至2011年的20亿 • 2009年互联网国际流量增加了74% • 刚在2009年全球运营商增加了9.4Tbps 新的国际流量,比2007的总流量还要多 宽带及移动互联网 • 国内用戶由2008年的4亿增至2011年的5.5亿 • 预计2012年访问互联网之移动终端会比PC为多 2
全球流量增长趋势 3
Overview Cable DSL Fibre 3G Wifi Subscriber ISP redirect Internet save 30-50% http GreenCache Cloud Service Provider Network 4
视频服务: Youtube, NetFlix, Hulu,Youku, Tudou, 56, Qiyi;文件共享: QQ文件中转,SharePoint;软件更新:Windows Update, Apple Update (IOS, MacOS, ITune), Antivirus, Game Update;WEB 2.0: Google Map, Earth, Web Mail, Flickr, Gaming, Facebook, Twitter, 微博;移动应用:App Store, 彩铃,手机浏览,手机视频,手机游戏; 优化 5
工作原理 Web站点 • 用户A请求下载Web站点上的某个文件 • 缓存直接向Web站点请求下载该文件 • Web站点响应请求,将文件数据传送给缓存,并指定过期时间等信息 • 缓存在接收的同时将文件传给用户A,并保存在存储设备中 • 用户B请求下载Web站点上的同一文件 • 缓存查询存储设备,发现文件已经缓存,且未过期,直接将从存储设备读出该文件数据并传送给用户B 存储 缓存设备 用户B 用户A 6
GreenCache 智能URL对象复用 智能对象复用 网通服务器群 电信服务器群 铁通服务器群 其他服务器群 7
对象复用 镜像站点B 镜像站点A • 用户A请求下载镜像站点A上的某个文件 • GreenCache直接向镜像站点A请求下载该文件 • 镜像站点A响应请求,将文件数据传送给GreenCache • GreenCache在接收的同时将文件传给用户A,并保存在存储设备中 • 用户B请求下载镜像站点B上的同一文件 • GreenCache查询存储设备,发现文件已经缓存,直接将从存储设备读出该文件数据并传送给用户B • GreenCache无需同镜像站点B通讯,但对用户端来说是透明的 X 存储 GreenCache 用户B 用户A 8
复用视频对象 9
双向透明 • 访问与用户IP绑定的业务时不受影响 • 某些专用论坛或下载站点 • 某些设计安全级别较高的专用网站 • Web网站日志中记录的是用户的IP • 不会妨碍逆向审查 • 网站封杀某一网段IP时,可将受影响的用户面减小到最小 10
负载平衡交换机 10GE上下行链路; 二层快速转发; 负载平衡; 12
缓存1 缓存2 缓存3 缓存4 负载平衡交换机 核心交换机 出口路由器 13
并行处理 • 单台设备支持4-8路并行 • 支持超大规模IO并行 • 单台设备处理能力2.5Gbps • 节省机房空间 • 大幅度降低能耗 14
多级缓存池 16
小文件缓存 • 采用SSD Disk; • GCoss文件系统; • 只缓存10K以下小文件; 17
适用于优化: • 社交网站 • QQ空间 • 网页游戏 • 淘宝商城 • 微博 18
中文件缓存 • 缓存图片、网页、视频文件; • 缓存10K-100M大小的文件; • 响应高密度用户请求; • 128位寻址空间; 19
大文件缓存 • SATA磁盘阵列; • 缓存FLV MP4,升级包等; • 缓存100M-1G大小的文件; • 提供视频下载速率; • 内容共享; 20
ICP查询 • 虚机之间相互查询; • 缓存内容统一索引; • 虚机任务调度; • 缓存数据共享; • 提高命中率; 21
多级缓存 22
维护和服务 7×24 在线远程系统监视 7×24×4 硬件故障处理 基于业务参数的提醒(短信、邮件) SNMP系统参数监控 WEB Console Monitoring 业务事件安全触发机制 23
ISP方案配置 24
流量牵引方式 25
BGP 26
接入方式 27
WCCP 路由器/三层交换机 Web服务器 特定端口的TCP请求包 WCCP通讯 用户 • WCCP全称Web Cache Communication Protocol,是专用缓存接入协议 • 只需将特定端口的外发TCP包转发给GreenCache,其他流量无需转发 • WCCP支持故障自动略过(Failover)及负载均衡(Load Balancing) • 故障逃逸时间仅为2秒,不对业务产生影响 GreenCache 28
第三方出口优化 29
能否缓存移动内网流量 可以,不过缓存的部署方式相应也应该调整一下。 之前设定方案是把缓存集群部署到第三方链路的出口位置,挂接在A10负载均衡下。这种解决 方案仅能针对第三方链路的流量进行缓存, 无法对CMNET网内资源进行优化。 调整后的方案是将缓存集群直接挂接在NE5000E核心交换 上,通过PBR等方式将需要缓存的HTTP流量转发到缓存集群,缓存外发的请求流量发回给NE5000E,通过路由表选路来选择从 CMNET或者是第三方出口来从源站获取资源。 30
CMNET流量优化示意图 31
案例分析 32
案例 无锡移动 下行流量2.26Gbps,节省0.99Gbps 33
案例2 奇艺视频优化 下行流量800Mbps,节省500Mbps,命中率60% 34
案例3 混合流量优化 下行流量900Mbps,节省450Mbps,命中率50% 35
监控界面 36
Traffic 37
Cache Out 38
CPU 39
Hit Ratio 40
Memory 43
Cache Size 44
命令行界面 45
报表汇总 46
流量排名统计 47
MIB Browse 49
SNMP 监控 50