电信BSS3.0上线满月有余,是时候和大家分享项目的建设历程和建设成果,之所以选择这个时间点,一是上线后需要重点支撑保障没有整片时间,二是也考虑通过时间检验DSG数据交换平台包括性能、稳定性、数据流转实时性等各指标是否满足现场业务需要。
如果说客户的认可是判断项目建设是否成功的标准,那截止目前DSG数据交换平台展现出的对各业务系统所需数据支撑的稳定性、连续性、灵活性无疑是超出客户预期及接受上限的。
项目建设背景
BSS3.0项目,是由电信集团主导各省改造升级的全国性项目,由BSS2.0各独立系统演进为电信业务集中云平台,最终上线后BSS3.0系统汇聚18个业务中心;数据存储由之前Oralce改造为集团Mysql分布式集群;EDA也由传统Oracle改造为更符合数据存储、整合、分析演进思路及更具信息化建设前瞻性的大数据平台,大数据平台相较Oracle在存储弹性扩容、高可用、高性能等方面的优势自不必多说;传统ETL工具已无法满足BSS3.0时代数据同步的实时性、高效性、异构性、新需求支撑灵活性、易维护性。所以对数据交换就提出了更高的要求,Mysql集群、Oracle、文件、大数据平台等既作为业务系统存储介质满足实时、定时采集又作为数据整合分析后的落地端。所以需要能够支撑多平台架构、多存储环境、按需数据采集的融合数据交换平台。
项目建设思路
整体项目可分解为两部分:
第一、从核心Mysql集群、其它Oracle、Mysql向大数据平台实时定时同步。
第二、从大数据平台向Mysql集群、Oracle、txt按需同步。
SuperSync作为DSG的明星产品,久经战场,为各项目数据迁移、数据容灾、数据采集同步排忧解难,为各种跨平台、异构环境支撑及定制化需求任劳任怨。
SuperSync也为第一部分项目建设提供匹配的解决方案,Mysql集群、Oracle平台实时、定时采集同步,甚至客户严格要求的同步采集程序独立生产服务器部署也不在话下,实时性、稳定性、灵活性更是SuperSync的传统优势基因。
DSG-SuperETL为项目第二部分的建设冲锋陷阵,立下汗马功劳。向Mysql集群、Oracle、txt同步数据类型转换、各系统同步要求的灵活性配置、同步逻辑的前瞻性设计、重点表同步优先级保障机制、同步性能极大优化提升、针对个别甚至一张表的特殊定制化处理,完美的完成各业务系统差异化同步需求的使命,尤其同步逻辑的实现机制更大大降低人为干预手工维护操作成本。
建设方案优势
一、支持源端同步程序单独服务器部署
1.避免在各mysql集群节点部署,消耗各节点资源,导致资源占用高、资源争用、主从节点切换、以及其它未知影响,甚至发生影响正常业务等严重问题;
2.避免还需要申请生产系统存储空间等资源;
3.避免在生产系统操作,可能发生的误操作;
4.单独服务器部署,更便于管理、监控;
5.避免在生产系统创建操作系统账户,此类操作应该是集团严格限制禁止的。
二、 mysql集群主从节点切换,对数据同步完全透明,无需人为干预
1.避免尤其在晚上没有及时发现而造成同步中断,数据不一致,甚至长时间中断导致的binlog日志被删除而无法接续需要重新初始化;
2.避免人为干预可能产生的误操作;
3.保证切换前后日志分析连续,如果需要人为干预,除处理恢复导致长时间中断外也不能确定是否日志分析接续。
三、 监控
1.专业的监控平台及大屏;
2.减轻现场维护工作量;
3.局方可随时登录进行状态审查核实;
4.同步异常信息会在监控平台完全展现;
5.可根据现场要求及场景进行定制化实现。
四、 同步效率高
1.全量同步1T数据,耗时2-2.5小时;
2.增量binlog日志分析,300-400GB/小时。
五、 专业售后服务团队
1.DSG是国内数据管理解决方案的领先者,所有数据周期产品均自研,有完善的技术支撑体系,能够及时快速问题响应解决;
2.售后维护工程师均原产自DSG,经过专业培训及项目历练,不存在第三方售后支持。
六、 专注
1.专业公司专注做数据管理一件事,让用户放心;
2.深耕近20载,客户上千家,产品、服务保驾护航。
项目建设总结
项目建设的历程是艰辛的,但是满足用户要求、为项目呈现优质的解决方案是DSG的使命。
我们始终坚持用户导向而非产品导向,用户需求的实现也更能强大及丰富DSG数据交换平台。
项目建设的成功是需要每个阶段节点的积累,我们将一如既往为客户提供满意服务。
在此,特别感谢公司相关产品线及部门的配合及大力支撑。
你们是产品的守护神,是我们一线的定海神针。