保险行业,国家金融发展重要组成部分,关乎国计民生,承担着保障国民财产和人身安全的社会责任。
随着国内保险业的持续壮大发展,保险业以集团化为主要模式的混业经营成为主流,各大保险集团都呈多元发展趋势,在发挥主体公司统筹建设的基础上,以子公司的形式为实现专业化经营搭建平台。一个大型保险集团,往往设立财险、寿险、健康险、养老险等子公司,达到精细化、专业化管理。
在数字化转型的浪潮中,集团与其子公司根据各自的发展需求,实施着一系列定制化的数字化策略。
迪思杰,作为数据管理领域的资深企业,深耕行业二十余年,与多家保险企业建立了深入的合作关系。以某大型保险集团与其旗下财险、寿险、健康险子公司为例,迪思杰通过定制化的解决方案,积极参与了该集团及其子公司的数字化升级过程。
01 保险集团-数据入湖与迁移同步
集团:数据入湖+迁移同步
采用独特的技术路线,涉及大数据组件多。
全量:源库-Hive-Hudi
增量:源库-Kafka-Spark-Hudi
集团统筹各子公司,拥有重大决策权。随着数据量的不断增加,原有的环境已无法满足生产上的需求。因此,该保险集团提出了数据入湖的方案,将旗下各个子公司的数据从源库同步到Hudi中,同时对下游应用所需要的数据进行迁移,由Gauss200同步到DWS中。
此次数字化项目涉及寿险、健康险、养老险三家子公司系统,源端点多,软件队列多,维护量大,需收集子公司(寿险、健康险、养老险)数据,并对子公司数据进行标准化处理,业务分析。
整个数据入湖项目,DSG SuperSync大型数据库高性能复制工具全程保驾护航,满足数据同步、数据迁移、ETL(增、删、改列)等场景需求。
项目中,迪思杰采用中间机部署模式,通过创新技术方案,开辟独特的技术路线。利用Hive 与Kafka作为全量、增量数据的临时存储组件,后续用Spark引擎(专为大规模数据处理而设计的快速通用的计算引擎),提高数据处理(入Hudi)的效率,实现了跨南北数据中心高效数据传输。
迪思杰充分发挥自身专业优势,自主研发,定制开发,对写入Hive、Kafka的工具定制修改适配,入湖Hudi程序全新研发,确保了方案与项目需求的完美契合。
02 财险-数据同步与迁移
财险:数据同步、数据迁移
一对一、一对多、多对一、多对多的多系统数据同步与迁移
财险公司主要承担财产损失的赔付责任,业务覆盖范围广,IT系统复杂性强,内部数据流转错综复杂。为适配业务发展带来的系统更新换代,一对一、一对多、多对一、多对多数据同步需求多样。
营销系统作为财险业务发展的核心系统,是此次数字化实施的重点。通过DSG SuperSync大型数据库高性能复制工具完成营销库到各个市级、省级的数据清分;营销库-新营销系统的数据业务切换硬件升级,分摊压力;营销系统到下属各类报表系统数据多级同步;营销系统到大数据平台Kafka消费到全量数据平台,供用户使用查看等等。此外,还对农险、社保、理赔等系统数据进行了实时同步操作,并且配合客户进行数据库迁移,通过正向同步以及反向同步进行正反切换。
财险企业,目标端类型多、点多,通道多,维护量非常大,且多种数据库之间不同字段类型需做特殊处理兼容转换;营销到各地方数据清分按表配置过滤条件多且复杂;营销库-Kafka大数据平台数据(空格、引号等)转义替换多,数据情况和所需处理方式逻辑复杂;Gbase、Tbase等分布式数据库因需考虑节点、表级锁、连接数等限制因素,需灵活改变软件配置来适应各种复杂的环境;日归档TB级别数据,迁移数据达50TB,表数量过万,应用难度不言而喻。
03 寿险-异构复制与采集交换
寿险:异构复制+采集交换
替换某知名复制产品,满足多场景应用需求
随着寿险业务数据增大、时效性要求提升以及新增系统等大数据平台异构复制需求,原某知名复制产品数据复制已不能满足寿险现场复制需求,因此采用DSG数据复制方案替换该复制产品,保障数据同步、采集交换需求。
项目过程中,DSG通过初始化与断点续传两种模式,实现替换该复制产品,并保障数据的一致性与实时性;对于普通表、压缩表、无主键表,DSG则采用不同模式不同配置,保障数据装载的一致性。针对源端与目标端差异ETL操作,DG库导致分析延迟超过24h,压缩表差异等问题时,迪思杰抽丁拔楔,也通过有效措施实现满意结果。
迪思杰数据复制方案,为寿险基础数据平台、核保前置系统、单证系统、微信系统、核心聚合模型、大数据平台、117 数据报送平台等多个系统提供准实时数据服务。
通过部署DSG DataXone数据采集共享交换平台,项目能够实现:
1. 数据复制流程管理:部署和管理数据复制流程,确保数据的连续性和同步性。
2. 监控与诊断:定期巡检数据复制流程,并排查潜在的数据复制问题。
3. 数据处理:执行数据的抓取、分析、发送、接收,以及ETL(提取、转换、加载)过程中的过滤和装载操作。
4. 数据比对:部署数据比对模块,支持历史数据、增量数据、主键字段和全字段基于时间或全表数据比对。
这些功能共同提升了数据质量,确保了各系统在实施数据复制时的完整性、准确性、一致性和时效性。
04 健康险-国产化与上云迁移
健康险:国产化与上云迁移
高危流向下的新老核心系统数据同步以及上云数据迁移
在国产化浪潮推动下,健康险商保核心系统将新业务底层数据存放在国产数据库OpenGauss中,而老核心系统底层数据都在DB2上。为新老核心系统共存,需要把新核心系统上新增的数据,经过处理后同步更新到老核心系统中。同时,为方便统一管理服务器和数据库,企业要将现有云下OpenGauss数据库数据全部迁移到云上OpenGauss数据库中,逐步替换云下环境。
此次数据同步选用Kafka为中间件,通过DSG DataXone数据采集共享交换平台将增量数据从OpenGauss数据库同步到Kafka,再由客户k2x程序从Kafka落库到老核心DB2中。
而此项目场景是一个高危流向,一旦出现问题导致丢数,则很难补数据,好在迪思杰依托于自研发展,面对OpenGauss到Kafka的同步流向特殊性以及OpenGauss数据库的slot槽导出模式,通过研发适配华为drs的Kafka报文格式,保障数据格式、列值含义完全相同,优化产品工具,实现同步的顺利进行。
此外,DSG DataXone全程提供OpenGauss的上云数据迁移支持,应用数据体量正在不断扩大中。
可以预见,保险集团与其子公司的数字化建设之路,各有千秋,亦铺满荆棘,但也不妨碍我们凭借自身强大的数字化解决方案,协助其有效应对挑战,实现业务升级和转型发展。
未来,迪思杰将在数字化转型服务的道路上迈出更大的步伐,为客户提供更全面、优质、高效的服务方案,在铺满荆棘的路上披荆斩棘。
2025.03.10
了解详情>
2025.02.17
了解详情>
2025.01.20
了解详情>
2024.12.30
了解详情>
2024.12.09
了解详情>
2024.10.08
了解详情>
2024.09.29
了解详情>
2024.09.25
了解详情>
2024.08.12
了解详情>
2024.07.22
了解详情>
2024.07.08
了解详情>
2024.07.01
了解详情>
2024.05.16
了解详情>
2024.04.01
了解详情>
2024.03.25
了解详情>
2024.03.18
了解详情>
2024.03.04
了解详情>
2024.02.19
了解详情>
2024.02.04
了解详情>
2024.01.22
了解详情>
2024.01.15
了解详情>
2024.01.02
了解详情>
2023.12.25
了解详情>
2023.12.20
了解详情>
2023.12.11
了解详情>
2023.12.04
了解详情>
2023.11.20
了解详情>
2023.11.13
了解详情>
2023.10.30
了解详情>
2023.10.11
了解详情>
2023.09.15
了解详情>
2023.08.01
了解详情>
2023.07.25
了解详情>
2023.07.04
了解详情>
2023.05.29
了解详情>
2023.05.08
了解详情>
2023.03.06
了解详情>
2022.11.14
了解详情>
2022.09.26
了解详情>