Questions et réponses pour le floating-point :

Les nombres à virgule flottante sont des approximations de nombres réels qui peuvent représenter des plages plus grandes que des entiers mais utilisent la même quantité de mémoire, au prix d'une précision moindre. Si votre question concerne de petites erreurs arithmétiques (par exemple, pourquoi 0,2 + 0,1 est-il égal à 0,300000001?) Ou des erreurs de conversion décimale, veuillez lire la page "info" ci-dessous avant de publier.

10
votes
J'ai fait des tests avec des calculs de points flottants pour minimiser la perte de précision. J'ai trébuché sur un phénomène que je veux montrer ici et j'esp&eg ...

10
votes
Je travaillais sur ce programme et j'ai remarqué que l'utilisation de% F pour un double et% D pour un flotteur me donne quelque chose de complètement différent. Tout le monde ...

10
votes
J'aimerais connaître une bonne façon de vérifier si un numéro X est un rationnel (deux entiers n, m existent de sorte que x = n / m) en python. in mathematica ...

10
votes
J'ai le code suivant: String curDir = "."; File fileObject = new File(curDir); File[] fileList = fileObject.listFiles(); float fileLengthMegabytes = (float)fileList[i].length() / 1000000; ...