新闻动态-DSG动态
全球领先的数据管理软件、应用开发统一提供商,致力于为企业级的大型数据中心提供解决方案。
入湖!迁移!同步!替换!一场保险集团与子公司的混业数字化
发布时间:2024.03.25

保险行业,国家金融发展重要组成部分,关乎国计民生,承担着保障国民财产和人身安全的社会责任。

 

随着国内保险业的持续壮大发展,保险业以集团化为主要模式的混业经营成为主流,各大保险集团都呈多元发展趋势,在发挥主体公司统筹建设的基础上,以子公司的形式为实现专业化经营搭建平台。一个大型保险集团,往往设立财险、寿险、健康险、养老险等子公司,达到精细化、专业化管理。

 

在数字化转型的浪潮中,集团与其子公司根据各自的发展需求,实施着一系列定制化的数字化策略。

 

迪思杰,作为数据管理领域的资深企业,深耕行业二十余年,与多家保险企业建立了深入的合作关系。以某大型保险集团与其旗下财险、寿险、健康险子公司为例迪思杰通过定制化的解决方案,积极参与了该集团及其子公司的数字化升级过程。

 

 

01  保险集团-数据入湖与迁移同步


集团:数据入湖+迁移同步

采用独特的技术路线,涉及大数据组件多。

全量:源库-Hive-Hudi

增量:源库-Kafka-Spark-Hudi

 


 

集团统筹各子公司,拥有重大决策权。随着数据量的不断增加,原有的环境已无法满足生产上的需求。因此,该保险集团提出了数据入湖的方案,将旗下各个子公司的数据从源库同步到Hudi中,同时对下游应用所需要的数据进行迁移,由Gauss200同步到DWS中。



 

此次数字化项目涉及寿险、健康险、养老险三家子公司系统,源端点多,软件队列多,维护量大,需收集子公司(寿险、健康险、养老险)数据,并对子公司数据进行标准化处理,业务分析。

 

整个数据入湖项目,DSG SuperSync大型数据库高性能复制工具全程保驾护航,满足数据同步、数据迁移、ETL(增、删、改列)等场景需求。

 

项目中,迪思杰采用中间机部署模式,通过创新技术方案,开辟独特的技术路线。利用Hive 与Kafka作为全量、增量数据的临时存储组件,后续用Spark引擎(专为大规模数据处理而设计的快速通用的计算引擎),提高数据处理(入Hudi)的效率,实现了跨南北数据中心高效数据传输。

 

迪思杰充分发挥自身专业优势,自主研发,定制开发,对写入Hive、Kafka的工具定制修改适配,入湖Hudi程序全新研发,确保了方案与项目需求的完美契合。

 

02  财险-数据同步与迁移

 

财险:数据同步、数据迁移

一对一、一对多、多对一、多对多的多系统数据同步与迁移

 



财险公司主要承担财产损失的赔付责任,业务覆盖范围广,IT系统复杂性强,内部数据流转错综复杂。为适配业务发展带来的系统更新换代,一对一、一对多、多对一、多对多数据同步需求多样。

 


 

营销系统作为财险业务发展的核心系统,是此次数字化实施的重点。通过DSG SuperSync大型数据库高性能复制工具完成营销库到各个市级、省级的数据清分;营销库-新营销系统的数据业务切换硬件升级,分摊压力;营销系统到下属各类报表系统数据多级同步;营销系统到大数据平台Kafka消费到全量数据平台,供用户使用查看等等。此外,还对农险、社保、理赔等系统数据进行了实时同步操作,并且配合客户进行数据库迁移,通过正向同步以及反向同步进行正反切换。

 

财险企业,目标端类型多、点多,通道多,维护量非常大,且多种数据库之间不同字段类型需做特殊处理兼容转换;营销到各地方数据清分按表配置过滤条件多且复杂;营销库-Kafka大数据平台数据(空格、引号等)转义替换多,数据情况和所需处理方式逻辑复杂Gbase、Tbase等分布式数据库因需考虑节点、表级锁、连接数等限制因素,需灵活改变软件配置来适应各种复杂的环境;日归档TB级别数据,迁移数据达50TB,表数量过万,应用难度不言而喻。

 

03  寿险-异构复制与采集交换

 

寿险:异构复制+采集交换

替换某知名复制产品,满足多场景应用需求

 


 

随着寿险业务数据增大、时效性要求提升以及新增系统等大数据平台异构复制需求,原某知名复制产品数据复制已不能满足寿险现场复制需求,因此采用DSG数据复制方案替换该复制产品,保障数据同步、采集交换需求。

 


 

项目过程中,DSG通过初始化与断点续传两种模式,实现替换该复制产品,并保障数据的一致性与实时性;对于普通表、压缩表、无主键表DSG则采用不同模式不同配置,保障数据装载的一致性。针对源端与目标端差异ETL操作DG库导致分析延迟超过24h,压缩表差异等问题时,迪思杰抽丁拔楔,也通过有效措施实现满意结果。


迪思杰数据复制方案,为寿险基础数据平台、核保前置系统、单证系统、微信系统、核心聚合模型、大数据平台、117 数据报送平台等多个系统提供准实时数据服务。

 

通过部署DSG DataXone数据采集共享交换平台,项目能够实现:

1. 数据复制流程管理:部署和管理数据复制流程,确保数据的连续性和同步性。

2. 监控与诊断:定期巡检数据复制流程,并排查潜在的数据复制问题。

3. 数据处理:执行数据的抓取、分析、发送、接收,以及ETL(提取、转换、加载)过程中的过滤和装载操作。

4. 数据比对:部署数据比对模块,支持历史数据、增量数据、主键字段和全字段基于时间或全表数据比对。

这些功能共同提升了数据质量,确保了各系统在实施数据复制时的完整性、准确性、一致性和时效性。

 

04  健康险-国产化与上云迁移



健康险:国产化与上云迁移

高危流向下的新老核心系统数据同步以及上云数据迁移


 


 

在国产化浪潮推动下,健康险商保核心系统将新业务底层数据存放在国产数据库OpenGauss中,而老核心系统底层数据都在DB2上。为新老核心系统共存,需要把新核心系统上新增的数据,经过处理后同步更新到老核心系统中。同时,为方便统一管理服务器和数据库,企业要将现有云下OpenGauss数据库数据全部迁移到云上OpenGauss数据库中,逐步替换云下环境。



 

此次数据同步选用Kafka为中间件,通过DSG  DataXone数据采集共享交换平台将增量数据从OpenGauss数据库同步到Kafka,再由客户k2x程序从Kafka落库到老核心DB2中。

 

而此项目场景是一个高危流向,一旦出现问题导致丢数,则很难补数据,好在迪思杰依托于自研发展,面对OpenGauss到Kafka的同步流向特殊性以及OpenGauss数据库的slot槽导出模式,通过研发适配华为drs的Kafka报文格式,保障数据格式、列值含义完全相同,优化产品工具,实现同步的顺利进行。

 

此外,DSG DataXone全程提供OpenGauss的上云数据迁移支持,应用数据体量正在不断扩大中。

 

可以预见,保险集团与其子公司的数字化建设之路,各有千秋,亦铺满荆棘,但也不妨碍我们凭借自身强大的数字化解决方案,协助其有效应对挑战,实现业务升级和转型发展。

 

未来,迪思杰将在数字化转型服务的道路上迈出更大的步伐,为客户提供更全面、优质、高效的服务方案,在铺满荆棘的路上披荆斩棘。

热门动态
警告弹窗