视频大数据存储平台解决方案.ppt

《视频大数据存储平台解决方案.ppt》由会员分享，可在线阅读，更多相关《视频大数据存储平台解决方案.ppt（26页珍藏版）》请在麦多课文档分享上搜索。

1、平安城市智慧发展趋势,以某市公安局天网工程为例,海量视频、图像数据的统一存储和快速检索 多节点集群并行工作，保证数据的高安全性 后续可根据需要自由扩展,该市公安局要建设“天网工程”的统一存储系统 针对案件的所有图像、视频数据（涉案人脸抓拍等），在市局统一汇总，永久存储 存储公安局重要信息，对系统安全性的要求非常高,项目概况,提供2000TB存储容量 节点级安全，保证内部重要数据的数据安全,解决方案,客户需求,某市天网工程部署图,1、流媒体高清视频文件对高带宽和稳定的需求。 2、大数据分析：包含检索数据库和海量视频文件资料，检索数据库主要用来关联带标签的分类主题资料和具体视频文件，使用户能快速检

2、索到对应分类的存储位置。 3、云计算虚拟化集群：物理服务器组建成统一的集群计算虚拟机资源池，实现虚拟机的故障转移高可用、负载自动分配资源、对存储高IOPS需求。 4、海量小文件空间数据。 5、跨多中心分布式广域云架构。,平安城市云存储系统五大需求,云和大数据增长对象存储占据 90%,云和大数据未来需要新的存储方式,4X,$ 50%,Daasbank SDS 创新价值,规模更大,成本更低,更安全可靠,什么是SDS超聚合？,DStore 弹性定义、部署及管理的聚合式云存储平台,采用Block/File/Object统一集群存储架构 服务器虚拟主机可以有多个vPools，高速缓存和无限快照，统一管理

3、异构数据，支持本地文件系统、NAS、块设备、S3 API兼容的对象存储如Ceph，Swift，AWS，分布式文件系统如GlusterFS，XtreemFS等。 无接缝扩充可扩充到数百 PB，无需再做存储空间预估,DStore,DStore,SDS-Kinetic,Storage Server,Legacy Storage System,依据需求弹性部署,DStore提供管理者两种模式混合搭配部署: SDS超聚合存储Kinetic DS分布式存储服务器 无缝整合先期投资的传统存储设备，并入成为DStore管理的共享存储资源池,Daasbank DStore Shared Storage Infr

4、astructure,创新的云端服务模式提升运行效率及经济性,DStore让管理者可在共享资源池上为每位使用者建立独立的”虚拟存储设备”(Virtual Storage),并提供用户自助服务功能(Self-service Portal),DStore多重用户共享(Multi-Tenancy)”的设计满足不同用户对存储的性能、安全、分段、隔离、监管、及QoS等不同需求,DStore产品架构,Kinetic,DStore,Kinetic,DStore,Kinetic,DStore,Workloads/Applications,VM,VM,VM,Workloads/Applications,VM,V

5、M,VM,Workloads/Applications,VM,VM,VM,DStore,DStore,Scale-out,Interface,Amazon S3, WebDAV OpenStack Swift,NFS CIFS,iSCSI/FC,Management,Policy Management (Distribution, QoS, Tiering),Monitoring/Alert Reporting,Auto Recovery,Distribution,Object Distribution,Object Replication,Object Rebalance,Storage,D

6、ata De-duplication,Data Compression,SSD Acceleration,采用Block/File/Object统一集群存储架构,目标应用类型：所有海量数据扩展存储的客户,跨地域数据同步协同： 总公司和分（子）公司间跨地域数据同步。 数据快速采集、分发： 3个副本，分布式部署于不同的Regions。,应用1、支持跨地域分布式存储管理,应用2 支持云备份容灾归档,企业备份中心,归档,云存储系统,企业主数据生产中心,门户,企业分支数据中心,云备份系统,私有云备份客户端,云备份客户端,云网关,混合云网盘融合创新,特点,安全、方便、快捷,应用3 云存储网盘,在家办公,在

7、外地出差,PC Client,DS Client,DS Client,移动终端,统一资源池,数据库,文件,用户分权,安全审计,数据副本,在线备份,在线办公,在线存储,容灾服务,数据归档,数据保险,Internet/专网,在学校上课,在企业办公,私有数据中心,网银加密,DS System,亚马逊公有云数据中心,S3, Glacier,应用4 云桌面/云平台/服务器虚拟化,Hyper-V,应用5 大数据分析,有效应对海量小文件存储的难题，降低了网络访问延时，提升用户体验 独立用户数持续增长，企业收益快速增长,峰值时间大量用户并发访问，导致数据爆发式增长 数据为典型海量小文件（15K30K之间），对

8、系统性能冲击很大 原有的NAS系统在数据读取时性能下降，网站访问延时严重。 系统要有弹性扩充的能力,客户需求,多个元数据节点集群，提升海量小文件访问时的检索与读取速度，应对前端多用户高并发的访问需求 通过自动负载均衡技术避免存储热点的形成所带来的访问延迟。,解决方案,客户价值,支援各种存储协议,支持各种存储协议使用包含文件，块级存储(SAN、NAS) 支持对象存储(Object)及云端服务例如: S3、Swift和WebDAV,云端 Amonzon S3 OpenStack Swift WebDAV,文件协议 File-based,块设备 Block-Level,数据存储效率,藉由SSD做到数

9、据存储分级，提升整体数据效率 利用多种储存技术优化存储方式，包含快照(Snapshot)、重复数据删除(De-duplication)、数据压缩(compression)、自动精简配置(Thin provisioning) 跨节点的纠删码技术有效提高存储使用率及安全性,Thin Provisioning,Data Deduplication,Erasure Code,N+M的纠删码技术,对于有n个数据节点的存储集群而言，原始数据仅需保存一份，并通过就删码的方式额外保存m个校验码，即可确保在损坏节点数不超过m个节点的前提下，确保数据的安全性。而整体的存储空间容量就是n+m个节点。如果是副本机制要

10、达到同样的安全级别，节点数需要达到m*n个，因此针对大容量数据存储，纠删码是一个非常有效的节约成本的存储方案。N+M的纠删码方案，确保任意损坏1-M台物理节点，数据依然可确保安全。,数据的安全性及可靠性,利用集群(Cluster)的架构提供数据副本选项(210份)，提供资料的高可用度，针对网络环境提供IP takeover、DNS Round-robin的机制，确保服务的高可用性 云存储11个9的耐用性.适用于私有、公有、混合云环境。支持N+1集群、多站点容灾备份，可实现IDC多机房跨广域网分布式部署。 Real-time Data Replication功能确保资料的一致性资料自我修复(Se

11、lf-healing)及自动复原(Auto-Recovery)机制，确保资料可靠性,存储资源池的管理性与兼容性,去中心化(De-centralized) 管理设计使每一存储节点皆能提供管理界面，简化管理复杂度 简易的安装及Plug-&-Play布署方式，能在服务不下线的同时在同一丛集中从数个节点扩充至数百节点提供Storage ManagementAPI，让使用者容易整合既有的IT管理环境 先进的监视模块及告警系统，随时随地保持储存系统的最佳况状,Plug-and-Play,机架产品规格,优势总结,更低的成本比采用磁盘阵列和存储服务器构建数据中心时可获得更低的资本支出。客户可在相同物理空间分配

12、更多存储容量。 更少的人力减少维护磁盘阵列和存储服务器所需的运维工程师数量。此外，该平台支持的更密集存储可潜在减少通常数据中心需要雇用的运维工程师数量，实现重大劳力节省。 更低的能耗 消除磁盘阵列和存储服务器层，并结合更高效的机架密度，以更少机架支持相同数量的存储从而降低能耗。 更高的可靠采用对象存储3副本机制，可跨广域网分布式部署，11个9的可靠性保障。存储系统内部没有控制器、主板、内存、Raid、SAS卡等部件，减少硬件的故障发生几率。 更高的性能应用主机通过SSD高速缓存，通过以太网直接读写硬盘驱动器 ，消除文件系统、存储控制器、RAID、SAS背板等环节，性能提升4倍以上。快速的灾难恢复，降低数据丢失和业务中断带来的损失。,