Questions et réponses pour le precision :

Pour les questions liées à la précision numérique en programmation. Pour la précision de classification, utilisez la balise [precision-rappel].

11
votes
Nous avons un problème intéressant si nous devons déterminer la précision décimale d'une entrée d'utilisateurs (zone de texte). Nous devons essentiellemen ...

10
votes
Je me demande quelle est la précision de la classe de minuterie dans System.Timers, car c'est un double (ce qui semblerait indiquer que vous pouvez avoir des fractions de millisecondes). Qu ...

10
votes
Je suis en train de convertir un programme de code Scilab en C ++. Une boucle en particulier produise un résultat légèrement différent de celui du code Scilab d'origine ...

10
votes
J'ai fait des tests avec des calculs de points flottants pour minimiser la perte de précision. J'ai trébuché sur un phénomène que je veux montrer ici et j'esp&eg ...