Questions et réponses pour le precision :

Pour les questions liées à la précision numérique en programmation. Pour la précision de classification, utilisez la balise [precision-rappel].

8
votes
Je me demande si cela est vrai: lorsque je prends la racine carrée d'un entier carré, comme dans 100_000_000.times do |i| puts i if Math.sqrt(i*i).floor != i end ...

8
votes
Je peux seulement supposer que c'est un bug. La première affirmation passe alors que la seconde échoue: xxx sinon un bug, pourquoi? ...

8
votes
J'ai couru dans un problème curieux. Un algorithme que je travaille est consiste en beaucoup de calculs comme celui-ci xxx où la longueur de la sommat ...

8
votes
Lorsque je saisis cela dans la fenêtre Immédiate de Visual Studio 2008: ? .9 - .8999999999999995 Cela me donne cela comme la réponse: ...