Questions et réponses pour le floating-accuracy :

Concernant la précision des opérations effectuées sur les nombres à virgule flottante.

1
votes

Comment multiplier les nombres entiers entre 11 et 30 par 0,015?

J'essaie d'imprimer les nombres entiers de 11 à 30 multipliés par 0,015 function round( number, step ) { const inverseStep = 1 / step; return Math.round( number * invers ...

javascript precision floating-accuracy

2 commentaire(s)

11
votes

Comparaison des points flottants irréproductibilité

i et mon doctorat. L'élève a rencontré un problème dans un contexte d'analyse des données de physique que je pourrais utiliser quelques informations sur. Nous av ...

c++ floating-accuracy

10 commentaire(s)

11
votes

Python Float - Str - Flotherness

>>> float(str(0.65000000000000002)) 0.65000000000000002 >>> float(str(0.47000000000000003)) 0.46999999999999997 ??? What is going on here? How do I convert 0.470000000000 ...

string python floating-point ieee-754 floating-accuracy

3 commentaire(s)

10
votes

Vérifiez si un nombre est rationnel en Python, pour une précision FP donnée

J'aimerais connaître une bonne façon de vérifier si un numéro X est un rationnel (deux entiers n, m existent de sorte que x = n / m) en python. in mathematica ...

python algorithm math floating-point floating-accuracy

0 commentaire(s)

1 2 > >>