Questions et réponses pour le rounding-error :

les erreurs d'arrondi surviennent lorsque le nombre stocké n'est pas exactement le nombre attendu

2
votes

Comment éviter les erreurs d'arrondi des devises avec le type de variable décimale?

Je travaille sur un calculateur de plan de paiement. J'ai changé de type de variable «double» à «décimal» pour éviter les erreurs d'arrondi, mai ...

c# decimal rounding-error

1 commentaire(s)

12
votes

Spécification du DPI d'un contexte de périphérique GDI

J'ai une application qui génère des métafiles (EMFS). Il utilise le dispositif de référence (alias l'écran) pour rendre ces métafiles, de sorte que ...

rounding-error gdi metafile

2 commentaire(s)

10
votes

Si deux langues suivent IEEE 754, les calculs dans les deux langues entraînent-ils les mêmes réponses?

Je suis en train de convertir un programme de code Scilab en C ++. Une boucle en particulier produise un résultat légèrement différent de celui du code Scilab d'origine ...

c++ floating-point precision rounding-error scilab

12 commentaire(s)

8
votes

Minimiser l'effet des erreurs d'arrondi causées par des opérations répétées efficacement

Je viens de parler de algorithme de sommation Kahan (ou compensé) pour minimiser le relancement , et J ...

algorithm floating-point rounding-error

0 commentaire(s)