Questions marquées «floating-point»

14
Quand utiliser float vs decimal

Je crée cette API, et la base de données stockera des valeurs qui représentent l'un des éléments suivants: pourcentage moyenne taux Honnêtement, je n'ai aucune idée de la façon de représenter quelque chose dont la plage est comprise entre 0 et 100% en nombre. Devrait-ce être 0,00 - 1,00 0,00 -...

12
Somme stable efficace de nombres ordonnés

J'ai une assez longue liste de nombres positifs à virgule flottante ( std::vector<float>, taille ~ 1000). Les nombres sont triés par ordre décroissant. Si je les additionne suite à la commande: for (auto v : vec) { sum += v; } Je suppose que je peux avoir un problème de stabilité numérique,...

12
Comportement étrange de (^) à Haskell

Pourquoi GHCi donne-t-il une réponse incorrecte ci-dessous? GHCi λ> ((-20.24373193905347)^12)^2 - ((-20.24373193905347)^24) 4.503599627370496e15 Python3 >>> ((-20.24373193905347)**12)**2 - ((-20.24373193905347)**24) 0.0 MISE À JOUR J'implémenterais la fonction (^) de Haskell comme suit....