OMS數(shù)據(jù)遷移之反向同步大法

IT那活兒發(fā)布于2023-01-11 13:20 / 2458人閱讀

OMS數(shù)據(jù)遷移之反向同步大法

[

事件背景

]

OceanBase遷移服務(wù)（OceanBaseMigration Service，OMS）是螞蟻OceanBase提供的一種支持同構(gòu)或異構(gòu)RDBMS與OceanBase之間進(jìn)行數(shù)據(jù)交互的服務(wù)，它提供了數(shù)據(jù)在線遷移和實(shí)時(shí)增量同步的數(shù)據(jù)復(fù)制能力。

小伙伴們應(yīng)該還記得上次分享了OMS遷移過程中增量同步因?yàn)榘酌麊伪唤財(cái)喽鴮?dǎo)致的問題吧，通過更新OMS補(bǔ)丁后已經(jīng)解決。但一套完整的割接上線方案不僅能夠滿足正向同步機(jī)制，反向同步也是割接回退方案中不可缺少的步驟。因此，這幾天集中火力對(duì)反向同步測(cè)試進(jìn)行了炮火攻擊，在即將大戰(zhàn)告捷之時(shí)突然發(fā)現(xiàn)反向增量同步因白名單配置表太多出現(xiàn)Bug導(dǎo)致同步失敗。

通過對(duì)日志分析及與阿里工程師交涉得知反向白名單配置超過3200張表時(shí)會(huì)報(bào)錯(cuò)，解決該問題需要更新OMS補(bǔ)丁。解決方案:配置黑名單減少同步對(duì)象數(shù)量，這種方式不符合實(shí)現(xiàn)需求。另一種方式就是創(chuàng)建多條鏈路進(jìn)行反向同步，鏈路增加會(huì)增加后續(xù)維護(hù)難度，但是在出現(xiàn)同步異常時(shí)只需要修復(fù)故障鏈路即可，下面就帶領(lǐng)大家一起體會(huì)下整個(gè)反向同步過程。

[

踩坑過程回放

]

場(chǎng)景環(huán)境信息:430張配置表數(shù)據(jù)從oracle端實(shí)時(shí)同步到ob端，其他約3600張業(yè)務(wù)數(shù)據(jù)表需要從ob端實(shí)時(shí)同步到oracle端。根據(jù)報(bào)錯(cuò)場(chǎng)景將業(yè)務(wù)用戶下的表都進(jìn)行反向同步。

場(chǎng)景配置

需要配置反向鏈路，反向鏈路配置方式是通過正向鏈路方式先將表結(jié)構(gòu)遷移，在ob端去掉oms創(chuàng)建的隱藏約束，跳過一部分遷移任務(wù)，然后切換為反向鏈路，在這里我先不詳細(xì)講解了，后續(xù)我會(huì)在多帶帶章節(jié)為大家介紹配置過程。

配置多帶帶遷移任務(wù)遷移表結(jié)構(gòu)，如果已經(jīng)存在表遷移表結(jié)構(gòu)過程中會(huì)報(bào)錯(cuò)并跳過

圖1：配置遷移表結(jié)構(gòu)的遷移任務(wù)的數(shù)據(jù)源

圖2：配置需要遷移表結(jié)構(gòu)的表

圖3：運(yùn)行遷移任務(wù)的檢查和結(jié)構(gòu)遷移

圖4：查看結(jié)構(gòu)遷移的表結(jié)構(gòu)遷移子任務(wù)

圖5：在OB端檢查失敗任務(wù)表是以前存在的表

2.結(jié)構(gòu)遷移完檢查鏈路沒有發(fā)起可以直接刪除這個(gè)臨時(shí)任務(wù)

圖6：檢查監(jiān)控沒有發(fā)起鏈路

圖7：檢查沒有鏈路之后可以直接刪除這個(gè)遷移任務(wù)

3.ob端刪除需要反向同步的表的隱藏約束

圖8：需要?jiǎng)h除的是oms遷移過程中創(chuàng)建的UK隱藏約束

圖9：刪除隱藏約束語(yǔ)句

4.創(chuàng)建正向遷移任務(wù)，在配置白名單的時(shí)候因?yàn)楸頂?shù)量太多不好勾選，可以隨便選擇兩張表創(chuàng)建上任務(wù)，后續(xù)修改參數(shù)

圖10：創(chuàng)建遷移任務(wù)，配置數(shù)據(jù)源

圖11：白名單隨便選擇兩個(gè)表，后續(xù)修改參數(shù)

5.需要在遷移任務(wù)開始之前修改三個(gè)參數(shù)，配置白名單

圖12：執(zhí)行遷移任務(wù)之前修改參數(shù)

圖13：需要修改3個(gè)參數(shù)之二，dest_drc_wlist、forward_white_list

圖14：需要修改3個(gè)參數(shù)之一，source_drc_wlist

問題復(fù)現(xiàn)

問題重現(xiàn)點(diǎn)：按照反向鏈路配置方法執(zhí)行遷移任務(wù)（需要手工跳過很多正向遷移中的任務(wù)），會(huì)在DRC進(jìn)程處報(bào)錯(cuò)

圖15：報(bào)錯(cuò)現(xiàn)象

問題定位分析

日志查看：

圖16：前臺(tái)日志顯示

圖17：前臺(tái)日志并不能分析出原因，查看后臺(tái)日志

可以看出因?yàn)榘酌麊翁L(zhǎng)導(dǎo)致。

[

問題解決方案

]

先清理報(bào)錯(cuò)任務(wù)，檢查鏈路情況，執(zhí)行清理任務(wù)，復(fù)檢鏈路清理成功

圖18:查看監(jiān)控鏈路情況

圖19:執(zhí)行清理任務(wù)

圖20:再檢查下鏈路被清理了

清理干凈后重置遷移任務(wù)，然后再創(chuàng)建一個(gè)遷移任務(wù)，將白名單分成兩部分創(chuàng)建兩條鏈路，修改參數(shù)

圖21:如果不新建任務(wù)可以重置當(dāng)前的遷移任務(wù)

圖22:查看遷移任務(wù)狀態(tài)已經(jīng)清空

圖23:重新修改參數(shù)，將表數(shù)量分成兩批，每批不超過3200張，以下展示的是配置的第一批，第二批與第一批操作一致就不多帶帶展示

圖24:重新執(zhí)行任務(wù)正常執(zhí)行

按照反向鏈路配置方法配置，執(zhí)行切換作業(yè)之后，反向同步鏈路就創(chuàng)建完成了

圖25:發(fā)起切換任務(wù)

驗(yàn)證同步

查看OB端（目標(biāo)端）與Oracle端（源端）的OGG_TEST表數(shù)據(jù)量（不一定一致，可以ob沒數(shù)據(jù)，oracle有數(shù)據(jù)，ob新增數(shù)據(jù)實(shí)時(shí)同步回oracle，我這里ogg_test數(shù)據(jù)前期同步過）

圖26:ob側(cè)檢查測(cè)試表數(shù)據(jù)量

圖27:oracle側(cè)檢查測(cè)試表數(shù)據(jù)量

圖28：在OB端（目標(biāo)端）的OGG_TEST表中插入數(shù)據(jù)，并提交

圖29：查看oracle端

反向?qū)崟r(shí)同步已經(jīng)發(fā)起

[

分析總結(jié)

]

在OB推行數(shù)據(jù)庫(kù)商業(yè)化的過程中會(huì)存在各種各樣的問題，需要我們大家協(xié)同發(fā)現(xiàn)問題，分析問題，解決問題。只有這樣才能打造一款堅(jiān)實(shí)的國(guó)產(chǎn)化產(chǎn)品。國(guó)產(chǎn)化必將是未來幾年國(guó)內(nèi)各行各業(yè)經(jīng)濟(jì)和技術(shù)革新的一個(gè)趨勢(shì)。因此，基于近一段時(shí)間的問題及時(shí)反饋、及時(shí)分析、及時(shí)修復(fù)，OMS已經(jīng)更加趨于完善和健壯了。這樣，也使得我們使用人員對(duì)于OB產(chǎn)品更加有信心，生態(tài)圈的完善本身也是在不斷碰撞、不停的修繕中完善的。希望今天我們踩過的坑都將成為OB產(chǎn)品演進(jìn)過程中的寶貴知識(shí)財(cái)富，后續(xù)的同仁在推行OB國(guó)產(chǎn)化道路上也可以盡可能的少走一些彎路。這次的分享到此結(jié)束，希望這次分享能幫助到大家。