OceanBase遷移服務(OceanBaseMigration Service,OMS)是OceanBase提供的一種支持同構或異構RDBMS與OceanBase之間進行數據交互的服務,它提供了數據的在線遷移和實時增量同步的數據復制能力。上次分享的問題(《oracle遷移Oceanbase數據遷移踩坑記(一)》)多在全量遷移階段,這次是續全量遷移后增量遷移問題填坑過程。為了驗證增量同步和回退過程,我們重新發起了新鏈路的測試,一開始測試用戶只有4張表,全量、增量、數據校驗、反向切換均沒有問題。后來發起一個用戶包含430張表的鏈路時增量反復出現問題,分析發現有的表可以實時同步,有的表數據無法同步。
現將整個過程復現給大家:430張表數據導入測試用戶,發起新的遷移作業。
場景復現:
遷移任務成功跑通,并沒有報錯,如下圖所示。
1.表結構、全量數據成功遷移,源端和目標端增量進程均已成功啟動。
2.增量數據顯示已經追平。
檢查鏈路監控延遲在20S正常范圍。
問題重現:
在Oracle端(源端)的OGG_TEST表中插入數據,并提交。
OB端(目標端)的OGG_TEST表并沒有更新。
而在Oracle端(源端)的另一張表MAPPING_LIST表中插入數據,并提交。
OB端(目標端)的MAPPING_LIST發生更新。
問題分析:
檢查OMS遷移作業,確認未同步表在白名單配置中
登錄OMS主機,檢查/home/ds/store作業號/conf/crawler.cof文件中白名單中有未同步表。
登錄OMS主機,檢查/home/ds/run/增量鏈路的組件號/conf/jdbcweiter.conf中也配置過未同步表。
檢查日志/home/ds/store7103/log/store.log中發現沒有無法同步數據表的信息。
#grepOGG_TEST /home/ds/store7103/log/store.log
輸出同步表的信息情況
#grepenvironment variables /home/ds/store7103/log/store.log
將輸出的表信息與白名單的表進行對比,發現日志中輸出表被截斷,截斷點之前的表可以實時同步,截斷點之后的表無法同步。
白名單:
日志:
問題解決:
問題第一時間反饋給后端OB研發,分析定位為OMS平臺問題,因之前測試表數量少沒有測試出該缺陷,隨后OB研發對于OMS平臺進行了補丁升級,問題解決。
上次有說OB國產化數據庫仍在大規模商業化的路上,在具體遷移上線的過程中都是摸著石頭過河,OMS數據遷移雖然是OB官方提供的ORACLE到OB數據庫進行數據遷移的平臺,但完整開放案例不多,很多數據遷移操作的具體步驟仍需要各現場根據自身業務場景予以驗證測試,這個過程會不斷出現新的問題,現場一是根據業務割接進度,盡量想方設法workaround,另一方面需要及時反饋OB原廠進行產品優化和升級。生態圈的完善本身也是在不斷碰撞、完善中建立起來的,oracle的生態花了多少年,我們每個人都知道,所以,國產化的進程中,我們都要多一份耐心,多一份主動,多一份承擔。這次的分享到此結束,希望這次分享能幫助到大家。
文章版權歸作者所有,未經允許請勿轉載,若此文章存在違規行為,您可以聯系管理員刪除。
轉載請注明本文地址:http://m.specialneedsforspecialkids.com/yun/130116.html
摘要:年月日,遷移服務解決方案在城市峰會中正式發布。遷移服務向分布式架構升級的直接路徑基于上述問題和挑戰,同時經過螞蟻十年數據庫架構升級的先進經驗,螞蟻金服為客戶打造了這款一站式數據遷移解決方案遷移服務,簡稱。 2019年1月4日,OceanBase遷移服務解決方案在ATEC城市峰會中正式發布。螞蟻金服資深技術專家師文匯和技術專家韓谷悅共同分享了OceanBase遷移服務的重要特性和業務實踐...
摘要:年月日,遷移服務解決方案在城市峰會中正式發布。遷移服務向分布式架構升級的直接路徑基于上述問題和挑戰,同時經過螞蟻十年數據庫架構升級的先進經驗,螞蟻金服為客戶打造了這款一站式數據遷移解決方案遷移服務,簡稱。 2019年1月4日,OceanBase遷移服務解決方案在ATEC城市峰會中正式發布。螞蟻金服資深技術專家師文匯和技術專家韓谷悅共同分享了OceanBase遷移服務的重要特性和業務實踐...
摘要:簡介本文首發公眾號一名打字員據悉,年的月份,螞蟻金服已經宣布,螞蟻金服及阿里巴巴自研的關系型數據庫已經支撐起和淘寶的日常業務需求,成功替換了之前所采用的單機數據庫如或者開源的。 簡介 Tip:本文首發公眾號【一名打字員】 據悉,17年的4月份,螞蟻金服已經宣布,螞蟻金服及阿里巴巴自研的關系型數據庫OceanBase已經支撐起Tmall和淘寶的日常業務需求,成功替換了之前所采用的單機數據...
閱讀 1353·2023-01-11 13:20
閱讀 1699·2023-01-11 13:20
閱讀 1211·2023-01-11 13:20
閱讀 1902·2023-01-11 13:20
閱讀 4161·2023-01-11 13:20
閱讀 2751·2023-01-11 13:20
閱讀 1397·2023-01-11 13:20
閱讀 3664·2023-01-11 13:20