Questions et réponses pour le floating-point :

Les nombres à virgule flottante sont des approximations de nombres réels qui peuvent représenter des plages plus grandes que des entiers mais utilisent la même quantité de mémoire, au prix d'une précision moindre. Si votre question concerne de petites erreurs arithmétiques (par exemple, pourquoi 0,2 + 0,1 est-il égal à 0,300000001?) Ou des erreurs de conversion décimale, veuillez lire la page "info" ci-dessous avant de publier.

8
votes
Je viens de parler de algorithme de sommation Kahan (ou compensé) pour minimiser le relancement , et J ...

8
votes
Je me demande si cela est vrai: lorsque je prends la racine carrée d'un entier carré, comme dans 100_000_000.times do |i| puts i if Math.sqrt(i*i).floor != i end ...

8
votes
Dupliqué possible: est double multiplication bris&eac ...

8
votes
J'ai une table avec 3 colonnes: xxx pré> Exemple de valeurs pour courant_balance: p> xxx pré> Je veux qu'ils affichent comme ceci: P> SELEC ...