MySQLデータ遅延ジャンプの問題の解決策

MySQLデータ遅延ジャンプの問題の解決策

今日は、データベース遅延ジャンプに関する別の典型的な問題を分析しました。このプロセスでは、参考のために問題を分析するためのいくつかの方法とテクニックも提供しました。

まず、高可用性テストでは、一連の環境検出が断続的でした。調査の結果、データベースに遅延があることがわかりました。スレーブライブラリにログインしてshow slave statusを確認すると、Seconds_behind_masterの値が絶えずジャンプしていることがわかりました。つまり、0〜39〜0〜39の頻度でジャンプし続けており、非常に腹立たしいことです。

データベースの関連ログを確認したところ、参照できるログ記録がないことがわかりました。この問題をどのように分析すればよいでしょうか。まずは再現してみましょう。そこで、リズムに合わせて問題のログを3回キャプチャしました。つまり、show slave statusを介して継続的に監視し、show slave statusの出力結果をキャプチャして保存しました。このようにして、問題発生時のオフセットの変化を取得できます。この変化は、再生プロセス中にSQLThreadによって引き起こされた問題です。

例えば、次の出力では、スレーブ側のリレーログを傍受して分析しました。対応するフィールドはRelay_Log_Posです。

Slave_IO_State: マスターがイベントを送信するのを待機中
         マスターホスト: xxxx
         マスターユーザー: dba_repl
         マスターポート: 4306
        接続再試行: 60
       マスターログファイル:mysqlbin.000044
     読み取りマスターログ位置: 386125369
        リレーログファイル: スレーブリレーbin.000066
        リレーログ位置: 386125580
    リレーマスターログファイル: mysqlbin.000044

オフセットの変化はすぐに分かります: 385983806、386062813、386125580

次に、mysqlbinlog を使用して、これらのログ プロセスの詳細を分析し始めました。次のコマンドを実行すると、ダンプされたログ内の関連する 3 つのテーブルをすぐに取得できます。

# grep INSERT relaylog_xxxx.dump |awk '{print $3 " " $4}'|sed 's/INTO//g'|sort|uniq
 アクション実行情報
 行為参加説明
 dic_補助金_マーケティング_クエリログ_202008

各テーブルのデータ操作を少しずつ分析してみましたが、得られる情報はまだ限られていました。さらに分析を続け、例えば、ログ全体のトランザクション量を分析してみましょう。

# mysqlbinlog slave-relay-bin.000066 | grep "GTID$(printf '\t')last_committed" -B 1 \
> | grep -E '^# at' | awk '{print $3}' \
> | awk 'NR==1 {tmp=$1} NR>1 {print ($1-tmp);tmp=$1}' \
> | ソート -n -r | ヘッド -n 100
mysqlbinlog: [警告] 不明な変数 'loose-default-character-set=utf8'
5278
5268
5268
5268
5253
5253
5253
5253
5253

約 5K と比較的大きいことがわかります。この追加情報はどこから来るのでしょうか? メイン データベースで general_log を有効にして、より詳細な操作ログを取得できるようにしました。

さらに分析を進めると、業務全体で明示的なトランザクション方式(SET autocommit=0)が使用されていたことが判明しました。トランザクション全体には複数の大きなSQL文が含まれており、大量の操作ログの詳細が保存されていました。また、トランザクション操作中に、Mybatisフレームワークに基づいて、複数のselect count(1) from xxx操作が呼び出されていました。

事業者とのコミュニケーションの結果、上記の問題点は基本的に解決されました。

上記は、MySQL データの遅延とジャンプの問題に対する詳細な解決策です。MySQL データの遅延とジャンプの詳細については、123WORDPRESS.COM の他の関連記事に注目してください。

以下もご興味があるかもしれません:
  • MySQLの挿入文字化け問題を解決する方法
  • MySQLを閉じることができない問題を解決する方法
  • MySQLデータベースが予期せずクラッシュし、テーブルデータファイルが破損して起動できなくなる問題を解決します。
  • この記事では、Django 2.2とMySQLの互換性の問題を解決します。
  • MySQL から Excel にテーブルデータをエクスポートする際の日時形式に関する簡単な説明
  • MySQLからデータをインポートする際の不正なフォーマット、インポートの遅延、データ損失などの問題を迅速に解決します。
  • MySQL からエクスポートされた scv ファイル内の文字化けやジャンプ行の問題をすばやく解決します
  • Docker の MySQL コンテナのタイムゾーン問題の修正
  • pyMySQL SQL ステートメントのパラメータ渡しの問題、単一パラメータまたは複数パラメータの説明
  • MySQL 5.7.30 のインストールとアップグレードの問題に関する詳細なチュートリアル

<<:  Vue3とTypeScriptを組み合わせたプロジェクト開発の実践の概要

>>:  Ubuntu 20.04 Firefox でビデオを再生できない (Flash プラグインがない) 場合の解決策

推薦する

Navicat を MySQL に接続するときに発生する 2059 エラーの解決方法

最近、Djangoを学習しているときにデータベースを使用する必要があったため、MySQLで使用するた...

Linux で scp コマンドを使用してファイルをリモートでコピーする方法の詳細な説明

序文scp は secure copy の略です。scp は、Linux システムの ssh ログイ...

ElementUIはカスケードセレクタを実装します

この記事の例では、カスケードセレクターを実装するためのelementUIの具体的なコードを参考までに...

Linux で起動時にプログラムを自動的に実行させる最も簡単な方法

たくさん集めましたが、すべて失敗に終わりました。最終的に、この方法は優れており、使用に影響を与えない...

dockercompose を使用して springboot-mysql-nginx アプリケーションをビルドする

前回の記事では、Docker を使用して、コンパイルされた jar パッケージをイメージに組み込む ...

MySQL で時刻と日付の型を保存する際の選択問題を分析する

一般的なアプリケーションでは、timestamp、datetime、int 型を使用して時間形式を保...

MySQLがOracleのnvlと同様の機能を持つことができるかどうかについての簡単な議論

isnullの代わりにifnullを使用するisnull は、null かどうかを判断するために使用...

CSS ポインターイベント属性の使用に関する詳細な説明

フロントエンド開発では、ユーザーと直接やり取りするため、ユーザーが操作がスムーズで快適だと感じ、ネイ...

ソースコードから MySQL 8.0.20 をコンパイルしてインストールする詳細なチュートリアル

前回の記事では、次のことを紹介しました。 MySQL8.0.20 インストール チュートリアルとイン...

動的および静的分離を実現する nginx のサンプルコード

1. nginxの動的と静的の分離の簡単な設定web1は静的サーバー、web2は動的サーバー、nod...

Dockerはイメージ名とTAG操作の名前を変更します

docker イメージを使用する場合、以下に示すように、REPOSITORY と TAG の両方が ...

Docker ベースの ELK ログ システムを構築する方法

背景要件:ビジネスがどんどん大きくなると、サーバーの数も増え、さまざまなアクセスログ、アプリケーショ...

React でのポータルとエラー境界処理の実装

目次ポータルエラー境界処理エラー境界を使用しない場合はどうなりますか?注記ポータルスロットとも言えま...

角度付き双方向バインディングの詳細な説明

目次双方向バインディングの原理ngモデルレンダリングカスタム双方向バインディングプロパティコンポーネ...

DockerコンテナのIPアドレスを取得する方法の詳細な説明

1.コンテナに入った後 /etc/hosts を cat するコンテナ自体の IP アドレスと (-...