Rechercher dans le manuel MySQL

B.4.4.8 Problems with Floating-Point Values

Inhoudsopgave

Floating-point numbers sometimes cause confusion because they are approximate and not stored as exact values. A floating-point value as written in an SQL statement may not be the same as the value represented internally. Attempts to treat floating-point values as exact in comparisons may lead to problems. They are also subject to platform or implementation dependencies. The FLOAT and DOUBLE data types are subject to these issues. For DECIMAL columns, MySQL performs operations with a precision of 65 decimal digits, which should solve most common inaccuracy problems.

The following example uses DOUBLE to demonstrate how calculations that are done using floating-point operations are subject to floating-point error.

  1. mysql> CREATE TABLE t1 (i INT, d1 DOUBLE, d2 DOUBLE);
  2. mysql> INSERT INTO t1 VALUES (1, 101.40, 21.40), (1, -80.00, 0.00),
  3.     -> (2, 0.00, 0.00), (2, -13.20, 0.00), (2, 59.60, 46.40),
  4.     -> (2, 30.40, 30.40), (3, 37.00, 7.40), (3, -29.60, 0.00),
  5.     -> (4, 60.00, 15.40), (4, -10.60, 0.00), (4, -34.00, 0.00),
  6.     -> (5, 33.00, 0.00), (5, -25.80, 0.00), (5, 0.00, 7.20),
  7.     -> (6, 0.00, 0.00), (6, -51.40, 0.00);
  8.  
  9. mysql> SELECT i, SUM(d1) AS a, SUM(d2) AS b
  10.     -> FROM t1 GROUP BY i HAVING a <> b;
  11.  
  12. +------+-------+------+
  13. | i    | a     | b    |
  14. +------+-------+------+
  15. |    1 |  21.4 | 21.4 |
  16. |    2 |  76.8 | 76.8 |
  17. |    3 |   7.4 |  7.4 |
  18. |    4 |  15.4 | 15.4 |
  19. |    5 |   7.2 |  7.2 |
  20. |    6 | -51.4 |    0 |
  21. +------+-------+------+

The result is correct. Although the first five records look like they should not satisfy the comparison (the values of a and b do not appear to be different), they may do so because the difference between the numbers shows up around the tenth decimal or so, depending on factors such as computer architecture or the compiler version or optimization level. For example, different CPUs may evaluate floating-point numbers differently.

If columns d1 and d2 had been defined as DECIMAL rather than DOUBLE, the result of the SELECT query would have contained only one row—the last one shown above.

The correct way to do floating-point number comparison is to first decide on an acceptable tolerance for differences between the numbers and then do the comparison against the tolerance value. For example, if we agree that floating-point numbers should be regarded the same if they are same within a precision of one in ten thousand (0.0001), the comparison should be written to find differences larger than the tolerance value:

  1. mysql> SELECT i, SUM(d1) AS a, SUM(d2) AS b FROM t1
  2.     -> GROUP BY i HAVING ABS(a - b) > 0.0001;
  3. +------+-------+------+
  4. | i    | a     | b    |
  5. +------+-------+------+
  6. |    6 | -51.4 |    0 |
  7. +------+-------+------+
  8. 1 row in set (0.00 sec)

Conversely, to get rows where the numbers are the same, the test should find differences within the tolerance value:

  1. mysql> SELECT i, SUM(d1) AS a, SUM(d2) AS b FROM t1
  2.     -> GROUP BY i HAVING ABS(a - b) <= 0.0001;
  3. +------+------+------+
  4. | i    | a    | b    |
  5. +------+------+------+
  6. |    1 | 21.4 | 21.4 |
  7. |    2 | 76.8 | 76.8 |
  8. |    3 |  7.4 |  7.4 |
  9. |    4 | 15.4 | 15.4 |
  10. |    5 |  7.2 |  7.2 |
  11. +------+------+------+
  12. 5 rows in set (0.03 sec)

Floating-point values are subject to platform or implementation dependencies. Suppose that you execute the following statements:

  1. CREATE TABLE t1(c1 FLOAT(53,0), c2 FLOAT(53,0));
  2. INSERT INTO t1 VALUES('1e+52','-1e+52');
  3. SELECT * FROM t1;

On some platforms, the SELECT statement returns inf and -inf. On others, it returns 0 and -0.

An implication of the preceding issues is that if you attempt to create a replication slave by dumping table contents with mysqldump on the master and reloading the dump file into the slave, tables containing floating-point columns might differ between the two hosts.


Zoek in de MySQL-handleiding

Nederlandse vertaling

U hebt gevraagd om deze site in het Nederlands te bezoeken. Voor nu wordt alleen de interface vertaald, maar nog niet alle inhoud.

Als je me wilt helpen met vertalingen, is je bijdrage welkom. Het enige dat u hoeft te doen, is u op de site registreren en mij een bericht sturen waarin u wordt gevraagd om u toe te voegen aan de groep vertalers, zodat u de gewenste pagina's kunt vertalen. Een link onderaan elke vertaalde pagina geeft aan dat u de vertaler bent en heeft een link naar uw profiel.

Bij voorbaat dank.

Document heeft de 26/06/2006 gemaakt, de laatste keer de 26/10/2018 gewijzigd
Bron van het afgedrukte document:https://www.gaudry.be/nl/mysql-rf-problems-with-float.html

De infobrol is een persoonlijke site waarvan de inhoud uitsluitend mijn verantwoordelijkheid is. De tekst is beschikbaar onder CreativeCommons-licentie (BY-NC-SA). Meer info op de gebruiksvoorwaarden en de auteur.

Referenties

  1. Bekijk - html-document Taal van het document:en Manuel MySQL : https://dev.mysql.com/

Deze verwijzingen en links verwijzen naar documenten die geraadpleegd zijn tijdens het schrijven van deze pagina, of die aanvullende informatie kunnen geven, maar de auteurs van deze bronnen kunnen niet verantwoordelijk worden gehouden voor de inhoud van deze pagina.
De auteur Deze site is als enige verantwoordelijk voor de manier waarop de verschillende concepten, en de vrijheden die met de referentiewerken worden genomen, hier worden gepresenteerd. Vergeet niet dat u meerdere broninformatie moet doorgeven om het risico op fouten te verkleinen.

Inhoudsopgave Haut