MySQL の乗算と除算の精度の不一致の問題 (除算後の小数点以下 4 桁)

MySQL の乗算と除算の精度の不一致の問題 (除算後の小数点以下 4 桁)

質問

今日、プロジェクト関数を書いていたとき、金額の統計計算を行い、単位を変換する必要がありました。そこで、次の関数に似たステートメントを書いたのですが、取得したデータは小数点以下 4 桁で、通常は 2 桁しか必要ありません。

select total_fee / 100 from orders

データの検索と精度変換を続けます。しばらく検索した後、データに満足できませんでした。テストを続けます

テスト

バグや未知の状況をテストするときは、再現を最小限に抑え、テストを合理化し、他のステートメントが結果に干渉しないようにする必要があります。

1/100を選択します。
// 0.0100 を取得
1 * 0.01を選択します。
// 0.01 を取得

また、3/4 台のデバイスで実行され、異なる MySQL バージョン環境でも同じ結果が得られます。

したがって、MySQL では、乗算と除算の小数点以下の精度が異なることがわかります。

国内のフォーラムでは適切な情報が見つからなかったので、海外のフォーラムに行って情報を探したり、質問したり、コミュニケーションをとったりしました。

答え

まずは、他の先輩方の回答とアドバイスに感謝したいと思います。また、問題のトラブルシューティングを可能な限り詳細に記録します。

文明は記憶を持っているからこそ生き残るのです。この記事がより多くの友人の役に立つことを願っています。

  • 除算のデフォルトの精度は小数点以下 4 桁です。
  • 乗算の精度は、オペランドの精度の合計によって決まります。たとえば、例では、1*0.01 の精度は小数点以下 0 桁と 2 桁なので、0+2 = 2 でも 2 桁の精度が使用されます。

テスト

1.00 * 0.01を選択します。
// 結果 0.0100

控訴の結論と一致します。ご指導いただいた外国人の先輩方に感謝いたします。

除算は2桁の精度を使用します

問題を解くためにどうしても除算を使用する必要がある場合は、精度を変換する関数を使用できます。

CAST( @x / @y を DECIMAL(m,n) として)

DECIMAL のパラメータは Baidu で調べることができます。基本的にテーブル構造を作成したことがある人なら誰でも理解できます。

@x と @y は除数と被除数です。

同時に、SQL で毎回関数計算を使用しなくても済むように、MySQL でデフォルトの除算精度を設定できるかどうかも疑問に思いました。

先輩の回答: 予期しない状況が時々発生するのを避けたい場合は、毎回型変換を強制する必要があります。

MySQL関連のドキュメント

https://dev.mysql.com/doc/refman/8.0/en/算術関数.html

/ を使用して実行される除算では、2 つの正確な値のオペランドを使用した場合の結果のスケールは、最初のオペランドのスケールに div_precision_increment システム変数の値 (デフォルトでは 4) を加えたものになります。たとえば、式 5.05 / 0.014 の結果のスケールは小数点以下 6 桁 (360.714286) になります。

除算の精度ルール

上記の文献から、2 つの数値を計算に使用する場合、結果の精度は最初のオペランドの精度 + システム変数 div_precision_increment の値によって決まることがわかります。たとえば、この例の 1 の精度は 0 であり、システム変数の精度はデフォルトで 4 桁であるため、結果は 4 桁の精度になります。

div_precision_increment = 2 を設定します。
// もう一度 select 1 / 100 を実行し、目的の結果を満たす 0.01 を取得します。

したがって、デフォルトの変数を変更することで、除算のデフォルトの精度を変更することもできます。

今テストする

1.0 / 100 を選択します。
// 結果0.010は上記の結論と一致している

要約する

MySQL の乗算と除算の精度の不一致、および除算後の小数点以下 4 桁に関するこの記事はこれで終わりです。MySQL の乗算と除算の精度に関するより関連性の高いコンテンツについては、123WORDPRESS.COM の以前の記事を検索するか、次の関連記事を引き続き参照してください。今後とも 123WORDPRESS.COM をよろしくお願いいたします。

以下もご興味があるかもしれません:
  • MySQL のタイムスタンプ精度によって引き起こされた殺人事件の分析

<<:  JavaScriptの動作原理を理解しましょう

>>:  nginxリバースプロキシによるセッション障害の問題の解決策

推薦する

vueの実践的な応用におけるvuexの永続性の詳細な説明

目次vuex 永続性要約するvuex 永続性vuex: ブラウザを更新すると、vuexの状態は初期状...

現在のブラウザが JavaScript でヘッドレス ブラウザであるかどうかを検出する方法

目次ヘッドレスブラウザとは何ですか?なぜ「ヘッドレス」ブラウザと呼ばれるのでしょうか?ヘッドレスブラ...

【Webデザイン】E-WebTemplates の美しい海外の Web ページ テンプレート (FLASH+PSD ソース ファイル+HTML) を共有します

これらはすべて海外のE-WebTemplates WebサイトからのWebページテンプレートであり、...

MySQL に接続されている IP アドレスを表示する方法の例

具体的な方法:まずコマンドプロンプトを開きます。次に、[ mysql -u root -p ] コマ...

いくつかの面接の質問を使ってJavaScriptの実行メカニズムを調べる

目次前の単語同期と非同期前菜プレートを追加マクロタスク マイクロタスク約束しましょうタイマーを追加す...

CSSを使用してHTMLテキストボックス内のテキストの垂直方向の中央を制御する

Text の height 属性が定義されている場合、Text に入力されたテキストは垂直方向に中央...

Docker で既存のイメージに基づいて新しいイメージを構築する方法

既存のイメージから新しいイメージを構築することは、Dockerfile ドキュメントを通じて行われま...

チェックボックスの不確定プロパティの使用の紹介

Windows XP でフォルダーのプロパティ ダイアログ ボックスを使用すると、フォルダーの属性カ...

Docker で FastDFS ファイル システムを構築する (マルチイメージ チュートリアル)

目次FastDFSについて1. 画像を検索する2. イメージをインストールする3.1. 必要なディレ...

VMware 12 での Ubuntu 16.04 インストール チュートリアル

この記事では、VMware 12でのUbuntu 16.04のインストールチュートリアルを参考までに...

Docker 実行時にユーザーとグループを管理する方法

Docker はプロセスを中核としてシステムリソースを分離する管理ツールです。分離は、オペレーティン...

CSS を使用して HTML フォーム コントロールを美しくする詳細な例 (フォームの美化)

1. HTML送信ボタンと下部ボタンの基本構文構造1. HTML送信ボタン入力タグで type=&...

ネイティブ JS で音楽プレーヤーを実装するためのサンプル コード

この記事では主に、次のように共有されるネイティブ JS 音楽プレーヤーのサンプル コードを紹介します...

CentOS のデフォルトの SSH ポート番号を変更する方法の例

LinuxサーバーのデフォルトのSSHポート番号は通常22なので、ほとんどのユーザーはセキュリティ上...

Javascriptのtry catchの2つの機能についてお話しましょう

プログラムは上から下へ順番に実行され、いくつかの制御文によって実行経路を変更することができます。制御...