JDKネイティブスレッドプールのバグを修正するTomcatの実装原理

JDKネイティブスレッドプールのバグを修正するTomcatの実装原理

処理能力と同時実行性を向上させるために、Web コンテナは通常、リクエストを処理するタスクをスレッド プールに配置します。JDK のネイティブ スレッド プールは、CPU を集中的に使用するタスクに本質的に適しているため、Tomcat はこれを変更しました。

Tomcat スレッドプールの原則

実際、ThreadPoolExecutor のパラメータには主に次の重要なポイントがあります。

スレッド数を制限する

キューの長さを制限する

Tomcat はこれら 2 つのリソースを制限する必要があります。そうしないと、同時実行性が高い場合に CPU とメモリが枯渇する可能性があります。
したがって、Tomcat のスレッド プールは次のパラメータを渡します。

// カスタマイズされたタスク キュー taskqueue = new TaskQueue(maxQueueSize);

// カスタマイズされたスレッドファクトリー TaskThreadFactory tf = new TaskThreadFactory(namePrefix,
							                 デーモン、
							                 スレッド優先度を取得します。
);

// カスタム スレッド プール executor = new ThreadPoolExecutor(getMinSpareThreads(),
								  getMaxThreads()、
				 			      最大アイドル時間、 
				 			      時間単位.ミリ秒、
				 			      タスクキュー、
				 			      tf);

Tomcat にはスレッド数制限もあり、次のように設定します。

  • コアスレッド数 (minSpareThreads)
  • スレッドプールの最大数 (maxThreads)

Tomcat スレッド プールには独自の特別なタスク処理フローもあり、execute メソッドを書き換えることで独自の特別なタスク処理ロジックを実装します。

  1. corePoolSize タスクがある場合、タスクごとに新しいスレッドが作成されます。
  2. さらにタスクがある場合は、それらをタスク キューに入れて、すべてのスレッドが取得できるようにします。キューがいっぱいの場合は、一時的なスレッドを作成します
  3. スレッドの総数がmaximumPoolSizeに達すると、タスクをタスクキューに入れようとし続けます。
  4. バッファキューもいっぱいの場合、挿入は失敗し、拒否戦略が実行されます。

Tomcat と JDK スレッド プールの違いは、ステップ 3 にあります。スレッドの総数が最大数に達すると、Tomcat はすぐに拒否戦略を実行せず、タスク キューにタスクを追加しようとします。追加が失敗すると、拒否戦略が再度実行されます

具体的にはどのように実現されるのでしょうか?

public void execute(実行可能なコマンド、長いタイムアウト、TimeUnit 単位) {
    送信されたCountを増加して取得します。
    試す {
        //タスクを実行するには、JDK ネイティブ スレッド プールの execute 関数を呼び出します。super.execute(command);
    } キャッチ (RejectedExecutionException rx) {
       // スレッドの総数がmaximumPoolSizeに達すると、JDKネイティブスレッドプールはデフォルトの拒否ポリシーを実行します。if (super.getQueue() instanceof TaskQueue) {
            最終的な TaskQueue キュー = (TaskQueue)super.getQueue();
            試す {
                // タスクをタスクキューに追加し続ける if (!queue.force(command, timeout, unit)) {
                    送信されたCountを減分して取得します。
                    // バッファ キューがまだいっぱいの場合、挿入は失敗し、拒否戦略が実行されます。
                    新しい RejectedExecutionException("...") をスローします。
                }
            } 
        }
    }
}

タスクキューのカスタマイズ

Tomcat スレッド プールの execute メソッドの最初の行:

送信されたCountを増加して取得します。

タスクが失敗して例外がスローされると、カウンターは 1 つ減ります。

送信されたCountを減分して取得します。

Tomcat スレッド プールは、 submittedCount変数を使用して、スレッド プールに送信されたが実行されていないタスクの数を維持します。

なぜそのような変数を維持するのでしょうか?

Tomcat のタスク キュー TaskQueue は、JDK の LinkedBlockingQueue を拡張します。Tomcat はこれに容量を与え、それを親クラス LinkedBlockingQueue のコンストラクターに渡します。

パブリッククラスTaskQueueはLinkedBlockingQueue<Runnable>を拡張します。

  パブリックタスクキュー(int 容量) {
      スーパー(容量);
  }
  ...
}

容量パラメータは Tomcat の maxQueueSize パラメータによって設定されますが、maxQueueSize のデフォルト値はInteger.MAX_VALUE です。現在のスレッド数がコア スレッド数に達した後、別のタスクがある場合、スレッド プールはタスクをタスク キューに追加し、常に成功するので、新しいスレッドを作成する機会はありません。

この問題を解決するために、TaskQueue は LinkedBlockingQueue#offer を書き換え、適切なタイミングでタスクの追加が失敗したことを示す false を返します。このとき、スレッド プールは新しいスレッドを作成します。

適切な時期はいつですか?

パブリッククラスTaskQueueはLinkedBlockingQueue<Runnable>を拡張します。

  ...
   @オーバーライド
  // スレッドプールがタスクキューメソッドを呼び出すと、現在のスレッド数 > コアスレッド数 public boolean offer(Runnable o) {

      // スレッド数が最大に達した場合、新しいスレッドは作成できず、(parent.getPoolSize() == parent.getMaximumPoolSize()) の場合にのみタスク キューに追加できます。 
          super.offer(o) を返します。
          
      // これまでのところ、最大スレッド数 > 現在のスレッド数 > コアスレッド数であることを示しています // 新しいスレッドを作成できることを示しています:
      
      // 1. 送信されたタスクの数 < 現在のスレッド数の場合 // アイドル状態のスレッドがまだ存在し、新しいスレッドを作成する必要がないことを意味します if (parent.getSubmittedCount()<=(parent.getPoolSize())) 
          super.offer(o) を返します。
          
      // 2. 送信されたタスクの数 > 現在のスレッド数の場合 // スレッドが足りない場合は、false を返して新しいスレッドを作成します if (parent.getPoolSize()<parent.getMaximumPoolSize()) 
          false を返します。
          
      // デフォルトでは、タスクは常にタスクキューに入れられます。 return super.offer(o);
  }
  
}

したがって、Tomcat は、タスク キューの長さが無限の場合にスレッド プールが新しいスレッドを作成できるように、送信されたタスクの数を維持します。

Tomcat が JDK ネイティブ スレッド プールのバグを修正する方法について説明したこの記事はこれで終わりです。Tomcat JDK ネイティブ スレッド プールの詳細については、123WORDPRESS.COM の以前の記事を検索するか、以下の関連記事を引き続き参照してください。今後とも 123WORDPRESS.COM をよろしくお願いいたします。

以下もご興味があるかもしれません:
  • Tomcatはスレッドプールを使用してリモート同時リクエストを処理します。
  • Tomcat ベースの接続数とスレッドプールの詳細な説明
  • JDK スレッド プールと Spring スレッド プールの使用例の分析
  • jdk独自のスレッドプールインスタンスの詳細な説明

<<:  ウェブサイトの速度を上げる6つの方法

>>:  Vue での props の使い方の紹介

推薦する

Nginx インストール エラーの解決方法

1. nginx-1.8.1.tar.gzを解凍する2. fastdfs-nginx-module-...

Webフロントエンドのパフォーマンス最適化

ウェブフロントエンド最適化のベストプラクティス: コンテンツWebフロントエンド最適化のベストプラク...

Nodeはバックエンドの実装手順を素早く構築します

1. まず、node、express、express-generator をインストールします (4...

JavaScript の継承についてどれくらい知っていますか?

目次序文コンストラクタ、プロトタイプオブジェクト、インスタンスオブジェクトの関係プロトタイプチェーン...

JSは単純なフィルタリングから複数条件のフィルタリングまで配列フィルタリングを実装します

目次単一条件単一データフィルタリング単一条件複数データフィルタリング複数の条件付きデータフィルタリン...

Ubuntu 18.04 Server に静的 IP を設定する方法

1. 背景Netplan は、Ubuntu システムのネットワーク設定を簡単に管理および構成できるよ...

MySQLのconcat関連関数の詳細な説明

1. concat() 関数機能: 複数の文字列を 1 つの文字列に連結する構文: concat(s...

MySQL にテーブルが存在するかどうかを確認し、それを一括で削除する方法

1. インターネットで長時間検索しましたが、判定表が存在するかどうかがわからなかったので、漠然と削除...

Reactの状態の理解についての簡単な分析

複雑なコンポーネント (クラス コンポーネント) と単純なコンポーネント (関数コンポーネント) を...

格納可能なセカンダリメニューを実装するための JavaScript

JavaScriptで格納可能なセカンダリメニューを実装するための具体的なコードは参考までに。具体...

jsはショッピングカートの加算と減算、価格計算機能を実現します

この記事では、ショッピングカートの増減と価格計算を実現するためのjsの具体的なコードを紹介します。具...

Win10の明るさ調整効果を模倣するHTML+CSS+JSサンプルコード

HTML+CSS+JS で Win10 の明るさ調整効果を模倣コード <!doctypehtm...

MySQL 5.7 でパスワードを変更するときに発生する ERROR 1054 (42S22) の解決方法

MySQL 5.7 を新しくインストールしました。ログインすると、パスワードが間違っているというメッ...

dns-prefetch とは何ですか? フロントエンドの最適化: DNS の事前解決によりページ速度が向上します

目次背景1. dns-prefetch とは何ですか? 2. dns-prefetch を設定するに...

Vueコンポーネント化の基本的な使用方法の詳細

目次1. コンポーネント化とは何ですか? 2. 基本的な使い方序文:場合によっては、HTML 構造化...