Questions et réponses pour le integer-overflow :

Un débordement d'entier se produit lorsque le résultat d'une opération est supérieur à la valeur maximale qui peut être représentée par le type entier sous-jacent.

7
votes

Comment puis-je calculer a * b / c lorsque a et b sont tous deux plus petits que c, mais que a * b déborde?

En supposant que uint est le plus grand type intégral sur ma plate-forme en virgule fixe, j'ai:if (a > b) return a / c * b; return b / c * a; Ce qui doit r ...

c integer integer-overflow integer-arithmetic

19 commentaire(s)

2
votes

Comment pourriez-vous diviser un IEEE754 64 bits par 1 000 sur une plate-forme ne prenant en charge que le flottant 32 bits?

J'ai un compteur électrique connecté à un DCS (système de contrôle distribué) par PROFIBUS. Le compteur (Siemens Sentron PAC3200) fournit son compte comme ...

integer-overflow floating-point ieee-754 precision floating-point-conversion

6 commentaire(s)

0
votes

Fibonacci récursif avec débordement entier

J'ai utilisé la mémoire de mémoisation pour réduire le temps nécessaire pour compléter les fibonacci récursives. mais problème est que c ...

c++ integer-overflow int fibonacci

2 commentaire(s)

12
votes

Est-il possible d'accéder au registre du drapeau de trop-plein dans une CPU avec C ++?

Après avoir effectué une opération mathématique, en multipliant deux entiers, est-il possible d'accéder au registre du drapeau de trop-plein dans une CPU avec C ...

c++ assembly integer-overflow flags

5 commentaire(s)

1 2 > >>