10秒以内にMySQLデータベースに数百万件のレコードを挿入する実装

10秒以内にMySQLデータベースに数百万件のレコードを挿入する実装

まず、次の質問について考えてみましょう。

このような膨大な量のデータをデータベースに挿入するには、通常の状況では頻繁にアクセスする必要があり、いかなる機械設備でも処理できません。では、データベースへの頻繁なアクセスを回避するにはどうすればよいでしょうか? 一度アクセスしてから実行することはできますか?

Java は実際に答えを与えてくれました。

ここでは、 StatementPrepareStatementという2つの主要なオブジェクトが使用されます。

2つの特徴を見てみましょう。

使用する BaseDao ツール クラス (jar パッケージ/Maven 依存関係) (Maven 依存関係コードは記事の最後に添付されています) (簡単に使用できるようにパッケージ化されています)

注意: (重要) rewriteBatchedStatements=true の場合、一度に複数のデータを挿入し、一度だけ挿入してください。 !

public class BaseDao { // 静的ツールクラス。データベース接続オブジェクトを作成し、簡単に呼び出せるようにリソースを解放するために使用されます // ドライバー jar パッケージをインポートするか、Maven 依存関係を追加します (ここでは Maven が使用され、Maven 依存関係コードは記事の最後に添付されています)
    静的{
        試す {
            クラス.forName("com.mysql.cj.jdbc.Driver");
        } キャッチ (ClassNotFoundException e) {
            e.printStackTrace();
        }
    }
 
    // データベース接続オブジェクトを取得する public static Connection getConn() {
        接続 conn = null;
        試す {
            // rewriteBatchedStatements=true、一度に複数のデータを挿入、一度だけ挿入conn = DriverManager.getConnection("jdbc:mysql://localhost:3306/million-test?rewriteBatchedStatements=true", "root", "qwerdf");
        } catch (SQLException スロー可能) {
            throwables.printStackTrace();
        }
        conn を返します。
    }
 
    // リソースを解放する public static void closeAll(AutoCloseable... autoCloseables) {
        (AutoCloseable autoCloseable : autoCloseables) の場合 {
            自動クローズ可能 != null の場合 {
                試す {
                    自動クローズ可能。
                } キャッチ (例外 e) {
                    // TODO 自動生成されたキャッチブロック
                    e.printStackTrace();
                }
            }
        }
    }
}

次にキーコードとコメントを示します。

/* データベースの処理速度が非常に速いため、単一のスループットが非常に大きく、実行効率が非常に高くなります。addBatch() は、複数の SQL 文をまとめて読み込み、データベースに送信して一度に実行します。実行には非常に短い時間しかかかりません。preparedStatement.executeUpdate() は、それらを 1 つずつデータベースに送信して実行し、データベース接続の転送に時間がかかります。*/
パブリック静的voidメイン(String[] args) {
    long start = System.currentTimeMillis(); // メソッドの実行を開始する前に、システムの現在の時刻を取得して記録します。 Connection conn = BaseDao.getConn(); // 接続データベース オブジェクトを取得するために記述したばかりの静的ツール クラスを呼び出します。 String sql = "insert into mymilliontest values(null,?,?,?,NOW())"; // 実行される SQL ステートメント PreparedStatement ps = null;
    試す {
        ps = conn.prepareStatement(sql); // PreparedStatement オブジェクトを取得する // 継続的に sql を生成する
        (int i = 0; i < 1000000; i++) の場合 {
            ps.setString(1, Math.ceil(Math.random() * 1000000) + "");
            ps.setString(2, Math.ceil(Math.random() * 1000000) + "");
            ps.setString(3, UUID.randomUUID().toString()); // UUID クラスは、繰り返されない文字列をランダムに生成するために使用されます。 ps.addBatch(); // この PreparedStatement オブジェクトのバッチ コマンドに一連のパラメーターを追加します。
        }
        int[] ints = ps.executeBatch(); // 実行のためにコマンドのバッチをデータベースに送信します。すべてのコマンドが正常に実行されると、更新カウントの配列が返されます。
        // 配列の長さが 0 でない場合は、SQL ステートメントが正常に実行され、100 万個のデータが正常に追加されたことを意味します。
        (ints.length > 0)の場合{
            System.out.println("100 万件のレコードが正常に追加されました!!");
        }
    } catch (SQLException スロー可能) {
        throwables.printStackTrace();
    ついに
        BaseDao.closeAll(conn, ps); // リソースを解放するために記述した静的ツール クラスを呼び出します}
    long end = System.currentTimeMillis(); // システム時間を再度取得します System.out.println("所要時間: " + (end - start) / 1000 + "秒"); // 2 つの時間を減算すると、メソッドの実行にかかった時間になります}

最後に、実行して効果を確認しましょう。

ねえ、ここの持続時間は10秒以上です、装備が十分ではありません、ご理解いただければ幸いです〜

<!--データベースへの接続に使用されるmysql-connector-java依存関係-->
<依存関係>
    <グループID>mysql</グループID>
    <artifactId>mysql-コネクタ-java</artifactId>
    <バージョン>8.0.27</バージョン>
</依存関係>

PS: スレッドを追加するとさらに高速になります。後続の記事で例を示します。

これで、10 秒以内に 100 万件のレコードを MySQL データベースに挿入する方法についての説明は終わりです。MySQL に 100 万件のレコードを挿入する方法の詳細については、123WORDPRESS.COM の以前の記事を検索するか、次の関連記事を引き続き参照してください。今後とも 123WORDPRESS.COM をよろしくお願いいたします。

以下もご興味があるかもしれません:
  • MySQLは数百万のシミュレーションデータ操作コードを自動的に挿入します
  • 数百万のデータに対して MySQL クエリを最適化する 4 つの方法
  • MySQL 単一テーブル 100 万データ レコード ページング パフォーマンス最適化スキル
  • MySQLに何百万ものテストデータを素早く挿入する方法

<<:  Linux システムでのユーザー管理の概要

>>:  Vueでフォームデータを取得する方法

推薦する

最新の JavaScript で非同期タスクを書く方法

序文この記事では、非同期 JavaScript の進化と、それがコードの記述方法にどのような変化をも...

Windows10のマウスを模倣して境界線を光らせる効果を実現するCSSの詳細解説

最新の Windows 10 アップデートをインストールした後、システム UI の詳細な効果が顕著に...

ES6の新機能に関する最もよく使われる知識ポイントのまとめ

目次1. キーワード2. 脱構築3. 文字列4. 正規化5. 配列6. 機能7. オブジェクト8.シ...

JS が WeChat の「クソ爆弾」機能を実装

みなさんこんにちは、Qiufengです。最近、WeChatは新しい機能をリリースしました(WeCha...

mysql5.7 のエンコーディングを utf8mb4 に設定する方法

最近、問題に遭遇しました。モバイル端末の絵文字や一部の絵文字は 4 バイトですが、UTF-8 は 3...

ChromeとIEに対応したWMPに埋め込まれたHTMLの詳細な紹介

実際には、対応する記述方法は多数ありますが、最も一般的なのは object + embedded で...

vue-cli4.5.xはプロジェクトを素早く構築します

1. vue-cliをインストールする vue.js で vue.js を実行します。 2. プロジ...

Linux リモート開発に vs2019 を使用する方法

通常、Linux プログラムを開発する場合、次の 2 つのオプションがあります。 Linux上で直接...

jsは前のページに戻り、コードを更新します

1. Javascript は前のページ history.go(-1) に戻り、2 つのページを返し...

MySQL バッチ挿入ループの詳細なサンプルコード

背景数日前、MySql でページングを行っていたときに、ページングに制限 0,10 を使用するとデー...

Dockerコンテナ内にkibanaトークナイザーをインストールする方法

ステップ: 1. 仮想マシンディレクトリに新しいdocker-compose.ymlファイルを作成し...

Linux centos7 環境での MySQL インストール チュートリアル

Linux centos7 環境に MySQL をインストールする手順の詳細な紹介MySQLをインス...

DockerにRabbitMQを素早くインストールする方法

1. 画像を取得する #Webコントロールページを含むバージョンを指定します docker pull...

CSS プロパティ display:flow-root 宣言を 1 つの記事でマスターする

zhangxinxu より https://www.zhangxinxu.com/wordpress...

JS の精度外数値問題の解決

精度の問題に対する最もわかりやすい説明たとえば、1÷3=0.33333333...という数字は、3が...