Je suis conscient que l'arithmétique en virgule flottante pose des problèmes de précision. Je les surmonte généralement en basculant vers une représentation décimale fixe du nombre ou simplement en négligeant l'erreur. Cependant, je ne sais pas quelles sont les causes de cette inexactitude....
Des langages de programmation tels que Scheme (R5RS) et Python ( voir cette question ) s’arrondissent vers l’entier pair le plus proche lorsque la valeur se situe exactement entre les entiers environnants. Quel est le raisonnement derrière cela? Existe-t-il une idée mathématique permettant de...
En recherchant l’exactitude des nombres en virgule flottante, j’ai vu à quelques endroits une déclaration semblable à " float et double sont ( conçus pour / utilisés souvent dans ) des calculs d'ingénierie et scientifiques " De mon point de vue, la force des flotteurs et des doubles réside dans la...
Les ordinateurs ont du mal à stocker des nombres fractionnaires où le dénominateur est autre chose qu'une solution à 2 ^ x. En effet, le premier chiffre après la décimale vaut 1/2, le deuxième 1/4 (ou 1 / (2 ^ 1) et 1 / (2 ^ 2)) etc. Pourquoi traiter toutes sortes d'erreurs d'arrondi alors que...
En créant une application qui traite de nombreux calculs mathématiques, j'ai rencontré le problème que certains nombres provoquent des erreurs d'arrondi. Bien que je comprenne que la virgule flottante n'est pas exacte , le problème est de savoir comment gérer les nombres exacts pour m'assurer que...
J'essaie de réfléchir à la façon dont je procéderais pour faire des calculs sur des nombres extrêmement grands (à l'infini - intergers sans flottants) si la construction du langage est incapable de gérer des nombres supérieurs à une certaine valeur. Je suis sûr que je ne suis ni le premier ni le...
En numérique, il est très important de pouvoir identifier des schémas instables et d'améliorer leur stabilité. Comment identifier les calculs en virgule flottante instables? Je travaille sur une simulation très complexe où de nombreux schémas numériques fonctionnent ensemble et je recherche une...
Lors de l'examen de l' implémentation d'une fonction par un autre programmeur pour calculer le CDF de distribution normale , j'ai suggéré de remplacer l'intégralité de l'implémentation par les fonctions intégrées de Python ou d'utiliser SciPy, une bibliothèque scientifique commune. Un autre...