Questions et réponses pour le floating-point :

Les nombres à virgule flottante sont des approximations de nombres réels qui peuvent représenter des plages plus grandes que des entiers mais utilisent la même quantité de mémoire, au prix d'une précision moindre. Si votre question concerne de petites erreurs arithmétiques (par exemple, pourquoi 0,2 + 0,1 est-il égal à 0,300000001?) Ou des erreurs de conversion décimale, veuillez lire la page "info" ci-dessous avant de publier.

9
votes
Je codise un agent SNMP. Je dois envoyer des valeurs qui ont un point décimal à un gestionnaire SNMP. J'ai quelques options: tronquer le numéro. ...

9
votes
J'ai besoin de fonctions de logit et inverse logit de sorte que logit (inv_logit (n)) == n . J'utilise numpy et voici ce que j'ai: xxx et voici les v ...

9
votes
J'ai cette ligne de code simple: xxx Lorsque j'imprime ce Val ou regarde dans la portée, il stocke la valeur 123456.13 OK, ça va bien, &cced ...

9
votes