MySQL バッチ挿入ループの詳細なサンプルコード

MySQL バッチ挿入ループの詳細なサンプルコード

背景

数日前、MySql でページングを行っていたときに、ページングに制限 0,10 を使用するとデータが失われるというブログ投稿を見ましたが、別の人はそうはならないと言っていたので、自分でテストしたいと思いました。テスト中にデータがなかったので、MySql をインストールしてテーブルを作成しました。10 万件のテストデータを一括挿入する while ループを作成したところ、実行時間が耐え難いものになったので、一括挿入を最適化する方法を見つけるために情報を探しました。ここにメモしました。

データ構造

標準列はページング中に主キー列、インデックス列、共通列の 3 つのシナリオに分割されるため、テスト テーブルにはこれらの 3 つのシナリオを含める必要があります。テーブル作成構文は次のとおりです。

`test`.`t_model` が存在する場合はテーブルを削除します。

テーブル `test`.`t_model`( を作成します。 
 `id` bigint NOT NULL AUTO_INCREMENT COMMENT '自動増分主キー',
 `uid` bigint COMMENT 'ビジネス主キー',
 `modelid` varchar(50) COMMENT '文字主キー',
 `modelname` varchar(50) COMMENT 'name',
 `desc` varchar(50) COMMENT '説明',
 主キー (`id`)、
 ユニークインデックス `uid_unique` (`uid`)、
 キー `modelid_index` (`modelid`) BTREE の使用
)ENGINE=InnoDB 文字セット=utf8 照合=utf8_bin;

操作を容易にするために、挿入操作ではストアド プロシージャを使用して while ループを通じて順序付けられたデータを挿入し、他の操作方法やループ方法のパフォーマンスは検証されません。

実行プロセス

1. 最も簡単な方法を使用して、1W 項目を直接ループして挿入します。構文は次のとおりです。

my_procedure が存在する場合はプロシージャを削除します。 
区切り文字 //
プロシージャ my_procedure() を作成する
始める
 n int DEFAULT 1 を宣言します。
 n < 10001 の場合
 t_model (uid,modelid,modelname,`desc`) に値 (n,CONCAT('id20170831',n),CONCAT('name',n),'desc') を挿入します。 
 n = n + 1 と設定します。
 終了しながら;
終わり
// 
              区切り文字 ;

10,000 個のデータを挿入する場合の実行時間は約 6 分 7 秒です。この速度では、1,000 万個のデータを挿入するには数日かかります。

2. では、トランザクションコミットの追加を検討してみましょう。パフォーマンスは向上しますか?テストは 1000 レコードごとにコミットします。構文は次のとおりです。

区切り文字 //
プロシージャ u_head_and_low_pro() を作成する
始める
 n int DEFAULT 17541 を宣言します。
 n < 10001 の場合
   t_model (uid,modelid,modelname,`desc`) に値 (n,CONCAT('id20170831',n),CONCAT('name',n),'desc') を挿入します。 
   n = n + 1 と設定します。
   n % 1000 = 0の場合 
   それから
    専念;
   終了の場合;
 終了しながら;
終わり
//
区切り文字 ;

実行時間は6分16秒で、コミットなしで実行した場合とあまり変わりません。この方法でのバッチ挿入のパフォーマンスは非常に低いようです。

3. ストアド プロシージャを使用してバッチ挿入ステートメントを生成し、バッチ挿入を実行して 10,000 件のレコードを挿入します。構文は次のとおりです。

u_head_and_low_pro が存在する場合はプロシージャを削除します。
区切り文字 $$
プロシージャ u_head_and_low_pro() を作成する
始める
 n int DEFAULT 1 を宣言します。
 @exesql を 't_model (uid,modelid,modelname,`desc`) の値に挿入' に設定します。
 @exedata を '' に設定します。
 n < 10001 の場合
 @exedata を concat(@exedata,"(",n",","'id20170831",n,"','","name",n,"','","desc'",")"); に設定します。
 n % 1000 = 0の場合 
 それから
  @exesql を連結(@exesql,@exedata、";")に設定します。
  @exesql から stmt を準備します。
  ステートメントを実行します。
  DEALLOCATE準備ステートメント;
  専念; 
  @exesql を 't_model (uid,modelid,modelname,`desc`) の値に挿入' に設定します。
  @exedata を "" に設定します。
 それ以外
  @exedata を concat(@exedata,',') に設定します。
 終了の場合;
 n = n + 1 と設定します。
 終了しながら;
終了;$$ 
区切り文字 ;

実行時間は3.308秒です。

要約する

バッチで挿入する場合は、挿入値のバッチメソッドを使用して挿入すると、実行速度が大幅に向上します。

上記は、編集者が紹介したMySQLバッチ挿入ループの詳細なサンプルコードです。皆様のお役に立てれば幸いです。ご質問がある場合は、メッセージを残してください。編集者がすぐに返信します。また、123WORDPRESS.COM ウェブサイトをサポートしてくださっている皆様にも感謝申し上げます。
この記事が役に立ったと思われた方は、ぜひ転載していただき、出典を明記してください。ありがとうございます!

以下もご興味があるかもしれません:
  • MySQL に大量のデータを挿入する 4 つの方法の例
  • MYSQL バッチ挿入データ実装コード
  • MySQL でバッチ挿入を実装してパフォーマンスを最適化するチュートリアル
  • ユニークインデックスを使用したMySQLバッチ挿入を回避する方法
  • MySQLは挿入を使用して複数のレコードを挿入し、データを一括で追加します。
  • MySQL バッチデータ挿入スクリプト
  • MySQL バッチ SQL 挿入パフォーマンス最適化の詳細な説明
  • MySql バッチ挿入の最適化 SQL 実行効率の例の詳細な説明
  • MySQLバッチは関数ストアドプロシージャを通じてデータを挿入します

<<:  Vue プロジェクトを使用して複数のプロキシを構成する際の注意事項

>>:  VMwareがLinuxシステムをインストールして起動した後に黒い画面が表示される問題を解決する

推薦する

Vue は左右のスライド効果のサンプルコードを実装します

序文個人の実際の開発で使用した効果問題を、今後の開発やレビューに役立てるためにまとめています。他の人...

mysqlタイムスタンプの使用

序文:タイムスタンプ フィールドは、MySQL でよく使用されます。たとえば、データ行が作成または変...

MySQLデータベースは重複データを削除し、メソッドインスタンスを1つだけ保持します

1. 問題の紹介ユーザー テーブルに 3 つのフィールドが含まれているシナリオを想定します。 id、...

MySQLのタイムゾーンを表示および設定する方法

1. データベースのタイムゾーンを確認する '%time_zone' のような変数を...

crontab でスケジュールされたタスクが実行されない理由の概要

序文最近、仕事でいくつかの問題が発生しました。crontab でスケジュールされたタスクが実行されま...

MySQL データベース操作 (作成、選択、削除)

MySQL データベースの作成MySQL サービスにログインしたら、create コマンドを使用し...

Vue3 の SetUp 関数のプロパティとコンテキスト パラメータの詳細な説明

1. setUp関数の最初のパラメータpropsセットアップ(プロパティ、コンテキスト){}最初のパ...

Linux での Hbase のインストールと設定のチュートリアル

目次Linux での Hbase のインストールと設定1. Hbaseインストールパッケージをダウン...

Vueはechartsに基づいて3次元の縦棒グラフを実装します

3次元縦棒グラフは、正面、右側、上部の3つの部分で構成されています。描画するときは、正面をグラフィッ...

ウェブページからテキスト透かしを削除する2つの簡単な方法

<br /> 特定の Web サイトを閲覧して、優れた Web ページを見つけた場合、そ...

MYSQL スロークエリとログ設定とテスト

1. はじめにスロークエリログを有効にすると、MySQL は指定された時間を超えるクエリステートメン...

vue3ソースコード解析の簡単な実装方法

目次序文🍹準備🍲vue3 の使い方🍖 実装要約する序文最近、私の最初の公式 vue3 + ts プロ...

Dockerがプライベート倉庫Harborを構築する手順

港Harborは、エンタープライズレベルのプライベートDockerイメージリポジトリを構築するための...