Dev Faq

Questions et réponses pour le precision :

Pour les questions liées à la précision numérique en programmation. Pour la précision de classification, utilisez la balise [precision-rappel].

5
votes

Arrondir vers le haut ou vers le bas lorsque 0,5

J'ai un problème avec la façon dont Javascript arrondit les nombres en frappant 0,5. J'écris des calculatrices de prélèvements et je constate une différen ...
8 commentaire(s)
2
votes

Quelle est la précision du péché de numpy (x)? Comment le découvrir? [besoin de résoudre numériquement x = a * sin (x)]

J'essaye de résoudre numériquement l'équation x = a * sin (x) , où a est une constante, en python. J'ai déjà essayé d' ...
13 commentaire(s)
2
votes

Comment pourriez-vous diviser un IEEE754 64 bits par 1 000 sur une plate-forme ne prenant en charge que le flottant 32 bits?

J'ai un compteur électrique connecté à un DCS (système de contrôle distribué) par PROFIBUS. Le compteur (Siemens Sentron PAC3200) fournit son compte comme ...
6 commentaire(s)
1
votes

Comment multiplier les nombres entiers entre 11 et 30 par 0,015?

J'essaie d'imprimer les nombres entiers de 11 à 30 multipliés par 0,015 function round( number, step ) { const inverseStep = 1 / step; return Math.round( number * invers ...
2 commentaire(s)