MySQLのROUND関数の丸め演算における落とし穴の分析

MySQLのROUND関数の丸め演算における落とし穴の分析

この記事では、MySQL の ROUND 関数を使用した丸め操作の落とし穴を例を使って説明します。ご参考までに、詳細は以下の通りです。

MySQL では、クエリ結果を丸めるためにROUND関数が使用されます。しかし、最近、 ROUND関数を使用して結果を丸めると、期待どおりに動作しないことがわかりました。この記事では、他のユーザーが私と同じ間違いをしないように、この問題を記録します。

問題の説明

データテーブルテストがあるとします。テーブル作成ステートメントは次のようになります。

CREATE TABLEテスト(
 id int(11) NOT NULL AUTO_INCREMENT、
 フィールド1 bigint(10) デフォルト NULL,
 フィールド2 10進数(10,0) デフォルト NULL、
 フィールド3 int(10) デフォルト NULL,
 フィールド4 float(15,4) デフォルト NULL,
 フィールド5 float(15,4) デフォルト NULL,
 フィールド6 float(15,4) デフォルト NULL,
 主キー (id)
)ENGINE=InnoDB デフォルト文字セット=utf8;

id フィールドの他に、異なるデータ型の複数のフィールドを含む test という名前のテーブルを作成しました。このテーブルにデータを挿入してみましょう。

INSERT INTO テスト (フィールド1、フィールド2、フィールド3、フィールド4、フィールド5、フィールド6) VALUE (100、100、100、1.005、3.5、2.5);

挿入後、テーブル内のデータは次のようになります

mysql> テストから * を選択します。
+----+---------+---------+---------+--------+--------+--------+
| id | フィールド1 | フィールド2 | フィールド3 | フィールド4 | フィールド5 | フィールド6 |
+----+---------+---------+---------+--------+--------+--------+
| 1 | 100 | 100 | 100 | 1.0050 | 3.5000 | 2.5000 |
+----+---------+---------+---------+--------+--------+--------+
セット内の 1 行 (0.00 秒)

今、次の SQL を実行すると、結果はどうなると思いますか?

選択
 round(フィールド1 * フィールド4)、
 round(フィールド2 * フィールド4)、
 ラウンド(フィールド3 * フィールド4)、
 丸め(フィールド1 * 1.005)、
 丸め(フィールド2 * 1.005)、
 丸め(フィールド3 * 1.005)、
 ラウンド(フィールド5)、
 ラウンド(フィールド6)
テストから;

最初は、上記の 6 つの値はすべて 100 * 1.005 に丸められるため、結果は 101 になり、最後の 2 つは 4 と 3 になるはずだと考えていました。しかし、最終結果は予想とはまったく異なります。

************************** 1. 行 ****************************
丸め(フィールド1 * フィールド4): 100
丸め(フィールド2 * フィールド4): 100
丸め(フィールド3 * フィールド4): 100
 ラウンド(フィールド1 * 1.005): 101
 ラウンド(フィールド2 * 1.005): 101
 ラウンド(フィールド3 * 1.005): 101
    ラウンド(フィールド5): 4
    ラウンド(フィールド6): 2
セット内の 1 行 (0.00 秒)

なぜこのようなことが起こるのでしょうか?

同じ 100*1.005 ですが、データベース内のフィールドを乗算した結果が、フィールドと小数を直接乗算した結果と異なるのはなぜですか?

この問題を解決する方法がわかりません。Baidu や Google で検索しましたが、役に立ちませんでした。 。 。自分に頼るしか方法はありません。このとき最も役立つのは、公式 Web サイトのドキュメントです。そこで、ROUND 関数に関する公式 MySQL ドキュメントを検索したところ、次の 2 つのルールが含まれていました。

  • 正確な数値の場合、ROUND() は「半分を切り上げる」ルールを使用します
  • 近似値の数値の場合、結果は C ライブラリに依存します。多くのシステムでは、これは ROUND() が「最も近い偶数に丸める規則を使用することを意味します。つまり、小数部を持つ値は、最も近い偶数にROUNDます。(近似値の場合、基礎となる C 関数ライブラリに依存します。多くのシステムでは、ROUND 関数は「最も近い偶数に丸める」規則を使用します)

これら 2 つの規則から、2 つのフィールドを乗算すると、最終結果はfloat型に従って処理され、 float型はコンピューター内の正確な数値ではないため、処理結果は 2 番目の規則に従って処理されることがわかります。直接整数フィールドの結果と 1.005 などの小数演算は、演算に関係する 2 つの値が正確な数値であるため、最初の規則に従って計算されます。 field5 と field6 に対してROUND関数を実行した結果から、実際に最も近い偶数に変換されていることが明確にわかります。

要約する

この例から、MySQL でROUNDを使用する場合は特に注意する必要があることがわかります。特に、計算に関係するフィールドに浮動小数点数が含まれている場合は、計算結果が不正確になります。

MySQL 関連のコンテンツに興味のある読者は、このサイトの次のトピックをチェックしてください: 「MySQL クエリ スキル」、「MySQL トランザクション操作スキル」、「MySQL ストアド プロシージャ スキル」、「MySQL データベース ロック関連スキルの概要」、および「MySQL 共通関数の概要」

この記事が皆様のMySQLデータベース設計に役立つことを願っています。

以下もご興味があるかもしれません:
  • MySQL Where 条件文の紹介と演算子の概要
  • MySQLで使用される演算子の例
  • MySQL ノート: 演算子の使用法の詳細な説明
  • mySQL UNION演算子のデフォルトルールの研究
  • PHP MySQL アプリケーションで XOR 暗号化アルゴリズムを使用する
  • MSSQL との比較で MYSQL を学ぶ (V) - 演算子
  • MySQLでよく使われる演算子と関数の概要
  • MySQL 文字列長計算実装コード (gb2312+utf8)
  • MySQL の重要なパフォーマンス インデックスの計算と最適化方法の概要

<<:  アニメーション効果のようなVueトランジションの例

>>:  Linuxプロセス監視と自動再起動の簡単な実装方法

推薦する

MySQL 8.0 でリモートアクセス権限を設定する方法

前回の記事では、MySQL パスワードをリセットする方法を説明しました。一部の学生から、データベース...

Linux スレッド間の同期と排他制御の知識ポイントのまとめ

スレッドが同時に実行される場合、スレッドがリソースを競合してデータの曖昧さが生じるのを防ぐために、重...

Centos6.5 でのスーパーバイザーのアップグレード、インストール、および構成に関するチュートリアル

スーパーバイザー紹介Supervisor は、Python で開発されたクライアント/サーバー サー...

HTML の類似タグと属性の違いの詳細な説明

【1】<i></i>タグと<em></em>タグ同じ...

Django は Pillow を使用して検証コード機能を簡単に設定します (Python)

1. モジュールをインポートし、検証状態を定義する PIL から Image、ImageDraw、...

js でオブジェクトを作成するさまざまな方法とその長所と短所のまとめ

目次初期作成方法ファクトリーパターンコンストラクターパターンコンストラクタパターンの最適化プロトタイ...

Debian システムでの自動パッケージ更新の問題を解決する方法

いつから始まったのかはわかりませんが、コンピュータの電源を入れてインターネットに接続するたびに、デー...

MySQL データ挿入効率の比較

データを挿入するとき、以前オフィス システムに取り組んでいたときにはデータベースのパフォーマンスにつ...

Vueフロントエンドパッケージングの詳細なプロセス

目次1. パッケージ化コマンドを追加する2. パッケージ化されたコードを実行する3. パッケージ化し...

MySQL 8.0.13 で日付を 0000-00-00 00:00:00 に設定すると発生する問題を解決する

データベース操作を学び始めたばかりです。今日、データを保存していたところ、エラーが発生していることに...

Vueは移動可能なフローティングボタンを実装します

この記事の例では、どこにでも移動できるフローティングボタンを実現するためのVueの具体的なコードを共...

Vueインスタンスで$refsを使用する際の注意点

開発の過程では、インスタンスの vm.$refs(this.$refs) を使用して、ref で登録...

収集する価値のあるCSS命名規則(ルール) よく使われるCSS命名規則

CSS命名規則(ルール) よく使われるCSS命名規則ヘッダー: ヘッダーコンテンツ: コンテンツ/コ...