Questions et réponses pour le floating-point :

Les nombres à virgule flottante sont des approximations de nombres réels qui peuvent représenter des plages plus grandes que des entiers mais utilisent la même quantité de mémoire, au prix d'une précision moindre. Si votre question concerne de petites erreurs arithmétiques (par exemple, pourquoi 0,2 + 0,1 est-il égal à 0,300000001?) Ou des erreurs de conversion décimale, veuillez lire la page "info" ci-dessous avant de publier.

7
votes
Je veux obtenir 1/7 avec une meilleure précision, mais il a été tronqué. Comment puis-je obtenir une meilleure précision lorsque je convertit un ...

7
votes
Je comprends la foule de problèmes dans la comparaison des flotteurs et je déplore leur utilisation dans ce cas - mais je ne suis pas l'auteur de la table et que je n'ai qu'un petit ...

7
votes
Bonjour à tous, J'ai des problèmes avec des mathématiques flottantes et je suis totalement perdu dans ".to_f" 's, "* 100"' s et ".0"! P> J'espérais que ...

7
votes