MySQL バッチ挿入ループの詳細なサンプルコード

MySQL バッチ挿入ループの詳細なサンプルコード

背景

数日前、MySql でページングを行っていたときに、ページングに制限 0,10 を使用するとデータが失われるというブログ投稿を見ましたが、別の人はそうはならないと言っていたので、自分でテストしたいと思いました。テスト中にデータがなかったので、MySql をインストールしてテーブルを作成しました。10 万件のテストデータを一括挿入する while ループを作成したところ、実行時間が耐え難いものになったので、一括挿入を最適化する方法を見つけるために情報を探しました。ここにメモしました。

データ構造

標準列はページング中に主キー列、インデックス列、共通列の 3 つのシナリオに分割されるため、テスト テーブルにはこれらの 3 つのシナリオを含める必要があります。テーブル作成構文は次のとおりです。

`test`.`t_model` が存在する場合はテーブルを削除します。

テーブル `test`.`t_model`( を作成します。 
 `id` bigint NOT NULL AUTO_INCREMENT COMMENT '自動増分主キー',
 `uid` bigint COMMENT 'ビジネス主キー',
 `modelid` varchar(50) COMMENT '文字主キー',
 `modelname` varchar(50) COMMENT 'name',
 `desc` varchar(50) COMMENT '説明',
 主キー (`id`)、
 ユニークインデックス `uid_unique` (`uid`)、
 キー `modelid_index` (`modelid`) BTREE の使用
)ENGINE=InnoDB 文字セット=utf8 照合=utf8_bin;

操作を容易にするために、挿入操作ではストアド プロシージャを使用して while ループを通じて順序付けられたデータを挿入し、他の操作方法やループ方法のパフォーマンスは検証されません。

実行プロセス

1. 最も簡単な方法を使用して、1W 項目を直接ループして挿入します。構文は次のとおりです。

my_procedure が存在する場合はプロシージャを削除します。 
区切り文字 //
プロシージャ my_procedure() を作成する
始める
 n int DEFAULT 1 を宣言します。
 n < 10001 の場合
 t_model (uid,modelid,modelname,`desc`) に値 (n,CONCAT('id20170831',n),CONCAT('name',n),'desc') を挿入します。 
 n = n + 1 と設定します。
 終了しながら;
終わり
// 
              区切り文字 ;

10,000 個のデータを挿入する場合の実行時間は約 6 分 7 秒です。この速度では、1,000 万個のデータを挿入するには数日かかります。

2. では、トランザクションコミットの追加を検討してみましょう。パフォーマンスは向上しますか?テストは 1000 レコードごとにコミットします。構文は次のとおりです。

区切り文字 //
プロシージャ u_head_and_low_pro() を作成する
始める
 n int DEFAULT 17541 を宣言します。
 n < 10001 の場合
   t_model (uid,modelid,modelname,`desc`) に値 (n,CONCAT('id20170831',n),CONCAT('name',n),'desc') を挿入します。 
   n = n + 1 と設定します。
   n % 1000 = 0の場合 
   それから
    専念;
   終了の場合;
 終了しながら;
終わり
//
区切り文字 ;

実行時間は6分16秒で、コミットなしで実行した場合とあまり変わりません。この方法でのバッチ挿入のパフォーマンスは非常に低いようです。

3. ストアド プロシージャを使用してバッチ挿入ステートメントを生成し、バッチ挿入を実行して 10,000 件のレコードを挿入します。構文は次のとおりです。

u_head_and_low_pro が存在する場合はプロシージャを削除します。
区切り文字 $$
プロシージャ u_head_and_low_pro() を作成する
始める
 n int DEFAULT 1 を宣言します。
 @exesql を 't_model (uid,modelid,modelname,`desc`) の値に挿入' に設定します。
 @exedata を '' に設定します。
 n < 10001 の場合
 @exedata を concat(@exedata,"(",n",","'id20170831",n,"','","name",n,"','","desc'",")"); に設定します。
 n % 1000 = 0の場合 
 それから
  @exesql を連結(@exesql,@exedata、";")に設定します。
  @exesql から stmt を準備します。
  ステートメントを実行します。
  DEALLOCATE準備ステートメント;
  専念; 
  @exesql を 't_model (uid,modelid,modelname,`desc`) の値に挿入' に設定します。
  @exedata を "" に設定します。
 それ以外
  @exedata を concat(@exedata,',') に設定します。
 終了の場合;
 n = n + 1 と設定します。
 終了しながら;
終了;$$ 
区切り文字 ;

実行時間は3.308秒です。

要約する

バッチで挿入する場合は、挿入値のバッチメソッドを使用して挿入すると、実行速度が大幅に向上します。

上記は、編集者が紹介したMySQLバッチ挿入ループの詳細なサンプルコードです。皆様のお役に立てれば幸いです。ご質問がある場合は、メッセージを残してください。編集者がすぐに返信します。また、123WORDPRESS.COM ウェブサイトをサポートしてくださっている皆様にも感謝申し上げます。
この記事が役に立ったと思われた方は、ぜひ転載していただき、出典を明記してください。ありがとうございます!

以下もご興味があるかもしれません:
  • MySQL に大量のデータを挿入する 4 つの方法の例
  • MYSQL バッチ挿入データ実装コード
  • MySQL でバッチ挿入を実装してパフォーマンスを最適化するチュートリアル
  • ユニークインデックスを使用したMySQLバッチ挿入を回避する方法
  • MySQLは挿入を使用して複数のレコードを挿入し、データを一括で追加します。
  • MySQL バッチデータ挿入スクリプト
  • MySQL バッチ SQL 挿入パフォーマンス最適化の詳細な説明
  • MySql バッチ挿入の最適化 SQL 実行効率の例の詳細な説明
  • MySQLバッチは関数ストアドプロシージャを通じてデータを挿入します

<<:  Vue プロジェクトを使用して複数のプロキシを構成する際の注意事項

>>:  VMwareがLinuxシステムをインストールして起動した後に黒い画面が表示される問題を解決する

推薦する

JavaScript の構造化代入の一般的なシナリオと例 5 つ

目次序文1. データを抽出する2. エイリアス値3. 動的プロパティ4. オブジェクトの分解における...

Navicat Premier の MySQL へのリモート接続エラー 10038 の解決方法

MySQL へのリモート接続が失敗する場合は、次の理由が考えられます。 1. 若い男性/女性の方は、...

Nginx+Apache の動的および静的分離の導入の詳細な例

Nginx の動的および静的分離の概要Nginx は静的処理能力が強力ですが、動的処理能力が不十分で...

純粋な CSS で DIV サスペンションを実装するサンプル コード (固定位置)

DIV フローティング効果 (固定位置) は CSS のみで実装されており、IE8、360、Fir...

Dockerコンテナはルーティングを介して直接通信し、ネットワーク通信を実現します。

概要Docker 自体の現在のデフォルト ネットワークについては、単一ホスト上の異なる Docker...

docker windows10共有ディレクトリのマウント失敗の解決策

原因docker スクリプトを実行すると、コンテナを作成できないというエラーが発生します。以下のよう...

Vue Element-ui はツリーコントロールノードを実装し、アイコンを追加します。詳細な説明

目次1. レンダリング2. データをバインドし、ツリーテーブルにラベルを追加する3. すべてのコード...

Linux での MongoDB のインストールに関するチュートリアル

MongoDB はクロスプラットフォームであり、Windows と Linux の両方にインストール...

収集する価値のある Linux ドキュメント編集コマンド 27 個

Linux col コマンドLinux の col コマンドは制御文字をフィルタリングするために使用...

Vue フロントエンド開発における keepAlive の使用方法の詳細な説明

目次序文keep-avlive フック関数keep-avliveはどのコンポーネントをキャッシュする...

MySQL 5.7.16 ZIP パッケージのインストールと設定のチュートリアル

この記事では、MySQL 5.7.16 ZIPパッケージのインストールと設定のチュートリアルを参考ま...

MySQLコマンドプロンプトで入力エラーが発生したときに前のコマンドを修正する方法

目次現在の問題解決プロセス具体的な手順解決した事件現在の問題MySQL コマンド プロンプトに複数行...

vue3 テレポートの詳細な使用例

公式ウェブサイトhttps://cli.vuejs.org/ja/ガイド/場合によっては、コンポーネ...

MySQL 最適化技術における Limit クエリの最適化分析

序文実際のビジネスでは、ページングは​​一般的なビジネス要件です。次に、制限クエリを使用します。制限...

CSSアニメーションでポイント獲得効果を実現するアイデアを詳しく解説

最近のプロジェクトでは、ポイントを集める効果を作成する必要があります。 ボスの説明によると、この効果...