健康是世人永不落幕关心的话题,数据的世界就像一场无限流的电影。
一家具有前瞻性的健康保险公司, 在技术升级道路上,挑战与机遇交织,实现了一次又一次的重大跃迁!
一、商保核心系统实时同步
在信息技术国产化的大趋势和信创政策的推动下,某健康保险公司商保新核心系统新业务上线,底层数据库采用了分布式的华为GaussDB。
为了追求系统更高的安全性和稳定性,公司提出了一项战略——新老核心系统并存。
战略实施过程中,最关键的技术挑战是如何高效同步新老系统间的数据。
作为专业的数据同步解决方案提供商,迪思杰利用自身深厚的数据技术和经验,承担了构建新老系统间数据同步桥梁的重要任务。
“第一道鸿沟”,本质上是如何实现新核心系统中新增数据的实时同步,将这些数据从华为GaussDB无缝实时同步到老核心系统的DB2数据库中。尽管听起来简单,但实际上,这一过程涉及复杂的技术细节和严格的性能要求。
首要的挑战,是新核心的增量数据需要被准确、迅速地同步到老核心系统中,以供业务在下游查询。
客户对数据的准确性和延迟性有极高的要求,目标是实现0-3秒内的延迟。
迪思杰数据实时同步工具可以实现华为GaussDB到DB2端到端的实时同步,但是在数据最终到达DB2之前,客户还需要根据业务需求对其进行加工处理,所以引入了Kafka。Kafka的角色相当于一个暂存数据的中间件,便于客户加工处理数据,并最终存储入库。
从端到端的华为GaussDB到DB2的同步,任务变成华为GaussDB到Kafka的同步。迪思杰依然借助着自身专业技术的优势,解决华为GaussDB到Kafka数据同步具有特殊性高危流向的困难:
1. 采用slot槽模式分析GaussDB数据库交易,一旦slot槽的日志被分析完毕,就会立即消失,无法进行向前的日志指定分析,导致同步中断;
2. Kafka也无法通过全量方式对单个表进行修复,一旦出现问题导致数据丢失,就无法补救。
迪思杰不仅要克服这些技术障碍,还要适配华为DRS的Kafka报文格式,确保数据按照客户要求定制的报文格式被写入Kafka集群,便于后续处理,并最终落库至老核心DB2数据库。
那么,迪思杰是如何做的呢?
简而言之,就是持续开发,不断优化。
DSG采用自研alp模式拉取slot槽日志,并转换为独有的xdt格式文件,保存在中间机缓存目录下。以此来保证当slot槽里数据被消费后自动推进后,仍可以在DSG缓存目录下找到备份日志,并可以在保留的日志范围内,指定时间点,重新分析之前日志,最大限度保障数据安全。
迪思杰采用中间机部署模式,利用 DSG DataXone,研发适配数据报文格式,实现实时同步增量数据至Kafka,并部署了监控程序以实时跟踪数据同步的状态。
项目最终圆满完成,满足了客户对实时同步的所有需求,延迟时间稳定控制在0-3秒之内。
并且,自2021年11月上线以来,系统稳定运行一年有余,在完成业务需求后,顺利下线,深受客户认可!
二、商保核心系统+ecif系统上云迁移
在数据同步项目成功后,为方便统一管理服务器和数据库,客户决定将现有云下华为GaussDB数据库数据全部迁移到云上华为GaussDB数据库中,逐步替换云下环境。
这次迁移需要在短暂的停机时间内,完成全部数据的迁移以及数据校验,并在迁移完成后,将业务切换到新的云上数据库。
迪思杰再次担起重任。此次上云迁移,规模涉及12个数据库,500G数据量。
迪思杰通过DSG DataXone,采用非侵入式中间机模式部署,将云下的华为GaussDB数据库数据静态迁移到云上的华为GaussDB数据库,并在迁移完成后进行了全面的数据检验,数据校验全部正确后,业务系统对接到新云上数据库中使用。
实施结果,令人满意。停机窗口3小时内,完成500G数据的上云迁移+数据比对,总体数据迁移速度达到62.90MB/s。
后续迁移完成后,新商保核心系统和ecif系统等业务系统顺利接入云上数据库,并且正常运行,无任何数据差异。至此,数据上云迁移工作圆满结束。
话说到此,本次分享结束,但该健康保险的数据无限流新篇章还在不断被撰写!
2025.03.10
了解详情>
2025.02.17
了解详情>
2025.01.20
了解详情>
2024.12.30
了解详情>
2024.12.09
了解详情>
2024.10.08
了解详情>
2024.09.29
了解详情>
2024.09.25
了解详情>
2024.08.12
了解详情>
2024.07.22
了解详情>
2024.07.08
了解详情>
2024.07.01
了解详情>
2024.05.16
了解详情>
2024.04.01
了解详情>
2024.03.25
了解详情>
2024.03.18
了解详情>
2024.03.04
了解详情>
2024.02.19
了解详情>
2024.02.04
了解详情>
2024.01.22
了解详情>
2024.01.15
了解详情>
2024.01.02
了解详情>
2023.12.25
了解详情>
2023.12.20
了解详情>
2023.12.11
了解详情>
2023.12.04
了解详情>
2023.11.20
了解详情>
2023.11.13
了解详情>
2023.10.30
了解详情>
2023.10.11
了解详情>
2023.09.15
了解详情>
2023.08.01
了解详情>
2023.07.25
了解详情>
2023.07.04
了解详情>
2023.05.29
了解详情>
2023.05.08
了解详情>
2023.03.06
了解详情>
2022.11.14
了解详情>
2022.09.26
了解详情>