MySQL バッチ挿入ループの詳細なサンプルコード

MySQL バッチ挿入ループの詳細なサンプルコード

背景

数日前、MySql でページングを行っていたときに、ページングに制限 0,10 を使用するとデータが失われるというブログ投稿を見ましたが、別の人はそうはならないと言っていたので、自分でテストしたいと思いました。テスト中にデータがなかったので、MySql をインストールしてテーブルを作成しました。10 万件のテストデータを一括挿入する while ループを作成したところ、実行時間が耐え難いものになったので、一括挿入を最適化する方法を見つけるために情報を探しました。ここにメモしました。

データ構造

標準列はページング中に主キー列、インデックス列、共通列の 3 つのシナリオに分割されるため、テスト テーブルにはこれらの 3 つのシナリオを含める必要があります。テーブル作成構文は次のとおりです。

`test`.`t_model` が存在する場合はテーブルを削除します。

テーブル `test`.`t_model`( を作成します。 
 `id` bigint NOT NULL AUTO_INCREMENT COMMENT '自動増分主キー',
 `uid` bigint COMMENT 'ビジネス主キー',
 `modelid` varchar(50) COMMENT '文字主キー',
 `modelname` varchar(50) COMMENT 'name',
 `desc` varchar(50) COMMENT '説明',
 主キー (`id`)、
 ユニークインデックス `uid_unique` (`uid`)、
 キー `modelid_index` (`modelid`) BTREE の使用
)ENGINE=InnoDB 文字セット=utf8 照合=utf8_bin;

操作を容易にするために、挿入操作ではストアド プロシージャを使用して while ループを通じて順序付けられたデータを挿入し、他の操作方法やループ方法のパフォーマンスは検証されません。

実行プロセス

1. 最も簡単な方法を使用して、1W 項目を直接ループして挿入します。構文は次のとおりです。

my_procedure が存在する場合はプロシージャを削除します。 
区切り文字 //
プロシージャ my_procedure() を作成する
始める
 n int DEFAULT 1 を宣言します。
 n < 10001 の場合
 t_model (uid,modelid,modelname,`desc`) に値 (n,CONCAT('id20170831',n),CONCAT('name',n),'desc') を挿入します。 
 n = n + 1 と設定します。
 終了しながら;
終わり
// 
              区切り文字 ;

10,000 個のデータを挿入する場合の実行時間は約 6 分 7 秒です。この速度では、1,000 万個のデータを挿入するには数日かかります。

2. では、トランザクションコミットの追加を検討してみましょう。パフォーマンスは向上しますか?テストは 1000 レコードごとにコミットします。構文は次のとおりです。

区切り文字 //
プロシージャ u_head_and_low_pro() を作成する
始める
 n int DEFAULT 17541 を宣言します。
 n < 10001 の場合
   t_model (uid,modelid,modelname,`desc`) に値 (n,CONCAT('id20170831',n),CONCAT('name',n),'desc') を挿入します。 
   n = n + 1 と設定します。
   n % 1000 = 0の場合 
   それから
    専念;
   終了の場合;
 終了しながら;
終わり
//
区切り文字 ;

実行時間は6分16秒で、コミットなしで実行した場合とあまり変わりません。この方法でのバッチ挿入のパフォーマンスは非常に低いようです。

3. ストアド プロシージャを使用してバッチ挿入ステートメントを生成し、バッチ挿入を実行して 10,000 件のレコードを挿入します。構文は次のとおりです。

u_head_and_low_pro が存在する場合はプロシージャを削除します。
区切り文字 $$
プロシージャ u_head_and_low_pro() を作成する
始める
 n int DEFAULT 1 を宣言します。
 @exesql を 't_model (uid,modelid,modelname,`desc`) の値に挿入' に設定します。
 @exedata を '' に設定します。
 n < 10001 の場合
 @exedata を concat(@exedata,"(",n",","'id20170831",n,"','","name",n,"','","desc'",")"); に設定します。
 n % 1000 = 0の場合 
 それから
  @exesql を連結(@exesql,@exedata、";")に設定します。
  @exesql から stmt を準備します。
  ステートメントを実行します。
  DEALLOCATE準備ステートメント;
  専念; 
  @exesql を 't_model (uid,modelid,modelname,`desc`) の値に挿入' に設定します。
  @exedata を "" に設定します。
 それ以外
  @exedata を concat(@exedata,',') に設定します。
 終了の場合;
 n = n + 1 と設定します。
 終了しながら;
終了;$$ 
区切り文字 ;

実行時間は3.308秒です。

要約する

バッチで挿入する場合は、挿入値のバッチメソッドを使用して挿入すると、実行速度が大幅に向上します。

上記は、編集者が紹介したMySQLバッチ挿入ループの詳細なサンプルコードです。皆様のお役に立てれば幸いです。ご質問がある場合は、メッセージを残してください。編集者がすぐに返信します。また、123WORDPRESS.COM ウェブサイトをサポートしてくださっている皆様にも感謝申し上げます。
この記事が役に立ったと思われた方は、ぜひ転載していただき、出典を明記してください。ありがとうございます!

以下もご興味があるかもしれません:
  • MySQL に大量のデータを挿入する 4 つの方法の例
  • MYSQL バッチ挿入データ実装コード
  • MySQL でバッチ挿入を実装してパフォーマンスを最適化するチュートリアル
  • ユニークインデックスを使用したMySQLバッチ挿入を回避する方法
  • MySQLは挿入を使用して複数のレコードを挿入し、データを一括で追加します。
  • MySQL バッチデータ挿入スクリプト
  • MySQL バッチ SQL 挿入パフォーマンス最適化の詳細な説明
  • MySql バッチ挿入の最適化 SQL 実行効率の例の詳細な説明
  • MySQLバッチは関数ストアドプロシージャを通じてデータを挿入します

<<:  Vue プロジェクトを使用して複数のプロキシを構成する際の注意事項

>>:  VMwareがLinuxシステムをインストールして起動した後に黒い画面が表示される問題を解決する

推薦する

CSSプロパティに基づいたボタンホバーボーダーと背景アニメーションのコレクション

ハートの属性不透明度: .999 は要素のスタッキングコンテキストを作成し、ボタン6と8のアニメーシ...

JavaScript 関数はランダムな色の検証コードをカプセル化します (完全なコード)

数字、文字、またはランダムな色の数字と文字の混合で構成される n 桁の確認コード。以下に完全なコード...

Docker実行コンテナが作成状態にある問題についての簡単な説明

最近の問題としては、次のような現象があります。システムには、docker run コマンドを継続的に...

CSS で 2 つの固定列と 1 つの適応列を実装するいくつかの方法

この記事では、CSS で 2 つの固定列と 1 つのアダプティブ列を実装するいくつかの方法を紹介し、...

nginx で複数の仮想ホストを設定する方法の例

nginx で仮想ホスト vhost を設定すると非常に便利です。 nginx設定ファイルnginx...

一般的な JavaScript 文字列メソッド 28 個と使用方法のヒントのまとめ

目次序文1. 文字列の長さを取得する2. 文字列の指定された位置の値を取得する(1) charAt(...

Baidu 入力メソッドが API を公開、自由に移植して使用できると主張

百度入力方式の担当者は、百度入力方式のオープンAPIの最大の利点は操作が便利であることであり、プラッ...

Centos7 での NFS サービス構築の紹介

目次1. サーバー2. クライアント3. テストサービス1. サーバー1. YUMソースを使用してN...

Nginx は gzip 圧縮に基づいてアクセス速度を向上します

1. nginx はなぜ gzip を使用するのですか? 1. 圧縮の役割:ページがgzipで圧縮さ...

MySQLトリガーの使用例の詳細

MySQL トリガー構文の詳細: トリガーは、特定のテーブル内のデータが挿入、削除、または更新される...

MySQL の集計関数 count の使用法とパフォーマンスの最適化テクニック

この記事の環境はWindows 10、MySQLのバージョンは5.7.12-logです1. 基本的な...

Vuex環境の詳細な説明

目次Vuex環境を構築する要約するVuex環境を構築するsrcディレクトリにフォルダstoreを作成...

Vueはログイン時に画像認証コードを実装します

この記事では、Vueログイン用画像認証コードの具体的なコードを例として紹介します。具体的な内容は以下...

Mysql 複数データベースのバックアップ コード例

この記事は主にMysqlの複数データベースのバックアップのコード例を紹介します。この記事ではサンプル...

js を使用して XML オンライン エディターを作成する例

目次序文オンラインXMLエディタの必要性テクノロジー事前調査ビジュアルプログラミングVSCODEプラ...