Pour les questions liées à la précision numérique en programmation. Pour la précision de classification, utilisez la balise [precision-rappel].
Je veux aêtre arrondi à 13,95 . >>> a 13.949999999999999 >>> round(a, 2) 13.949999999999999 La roundfonction ne fonctionne pas comme je m'y
J'ai lu la différence entre la double précision et la simple précision. Cependant, dans la plupart des cas, floatet doublesemblent interchangeables, c'est-à-dire que l'utilisation de l'un ou de l'autre ne semble pas affecter les résultats. Est-ce vraiment le cas? Quand les flotteurs et les doubles...
Précision contre. Précision Ce que je voudrais savoir, c'est si je dois utiliser System.currentTimeMillis () ou System.nanoTime () lors de la mise à jour des positions de mon objet dans mon jeu? Leur changement de mouvement est directement proportionnel au temps écoulé depuis le dernier appel et je...
J'ai donc obtenu la réponse à ma dernière question (je ne sais pas pourquoi je n'y ai pas pensé). J'imprimais une doubleutilisation coutqui a été arrondie quand je ne m'y attendais pas. Comment puis-je faire coutimprimer une doubleutilisation en toute
Je voulais afficher un nombre à 2 décimales. Je pensais pouvoir utiliser toPrecision(2)en JavaScript. Cependant, si le nombre est 0.05, je comprends 0.0500. Je préfère que ça reste le même. Voir sur JSbin . Quelle est la meilleure façon de procéder? Je peux penser à coder quelques solutions, mais...
J'ai la colonne suivante spécifiée dans une base de données: décimal (5,2) Comment interprète-t-on cela? Selon les propriétés de la colonne vues dans SQL Server Management Studio, je peux voir que cela signifie: décimal (précision numérique, échelle numérique). Que signifient en termes réels la...
Comment puis-je construire exactement un horodatage du temps réel avec une précision en millisecondes? J'ai besoin de quelque chose comme 16.4.2013 9: 48: 00: 123. Est-ce possible? J'ai une application, où j'échantillonne des valeurs 10 fois par seconde, et je dois les montrer dans un...
Pourquoi certains nombres perdent leur précision lorsqu'ils sont stockés sous forme de nombres à virgule flottante? Par exemple, le nombre décimal 9.2peut être exprimé exactement comme un rapport de deux nombres décimaux ( 92/10), qui peuvent tous deux être exprimés exactement en binaire (...
Je suis en train d'obtenir la somme 1 + 2 + ... + 1000000000, mais je suis d' obtenir des résultats amusants en PHP et Node.js . PHP $sum = 0; for($i = 0; $i <= 1000000000 ; $i++) { $sum += $i; } printf("%s", number_format($sum, 0, "", "")); // 500000000067108992 Node.js var sum = 0; for (i = 0;...
Récemment, j'ai dû sérialiser un double en texte, puis le récupérer. La valeur ne semble pas être équivalente: double d1 = 0.84551240822557006; string s = d1.ToString("R"); double d2 = double.Parse(s); bool s1 = d1 == d2; // -> s1 is False Mais selon MSDN: Standard Numeric Format Strings ,...
Quelle est la différence entre une opération à virgule flottante simple précision et une opération flottante double précision? Je suis particulièrement intéressé par les termes pratiques liés aux consoles de jeux vidéo. Par exemple, la Nintendo 64 a-t-elle un processeur 64 bits et si c'est le cas,...
Non, ce n'est pas une autre question "Pourquoi est (1 / 3.0) * 3! = 1" . J'ai beaucoup lu sur les virgules flottantes ces derniers temps; plus précisément, comment le même calcul peut donner des résultats différents sur différentes architectures ou paramètres d'optimisation. C'est un problème pour...
Je sais que le 0.1nombre décimal ne peut pas être représenté exactement avec un nombre binaire fini ( explication ), donc double n = 0.1perdra une certaine précision et ne sera pas exactement 0.1. D'autre part 0.5peut être représenté exactement parce que c'est le cas 0.5 = 1/2 = 0.1b. Cela dit, il...
public class doublePrecision { public static void main(String[] args) { double total = 0; total += 5.6; total += 5.8; System.out.println(total); } } Le code ci-dessus s'imprime: 11.399999999999 Comment pourrais-je obtenir ceci pour simplement imprimer (ou pouvoir l'utiliser comme)...
Je crée un programme dans lequel j'ai besoin d'obtenir l'heure en millisecondes. Par temps, je veux dire un nombre qui n'est jamais égal à lui-même, et qui est toujours 1000 nombres plus grand qu'il y a une seconde. J'ai essayé de convertir DateTime.Nowen a TimeSpanet d'en tirer le résultat...
En utilisant uniquement ANSI C, existe-t-il un moyen de mesurer le temps avec une précision de quelques millisecondes ou plus? Je parcourais time.h mais je n'ai trouvé que des fonctions de seconde
Je suis nouveau dans JavaScript et je viens de découvrir toFixed()ettoPrecision() d'arrondir les nombres. Cependant, je ne peux pas comprendre quelle est la différence entre les deux. Quelle est la différence entre number.toFixed()et
Il existe une option dans R pour contrôler l'affichage des chiffres. Par exemple: options(digits=10) est censé donner les résultats du calcul en 10 chiffres jusqu'à la fin de la session R. Dans le fichier d'aide de R, la définition du paramètre digits est la suivante: chiffres: contrôle le nombre...
C'est une question qui m'a été posée lors de mon récent entretien et que je veux savoir (je ne me souviens pas vraiment de la théorie de l'analyse numérique, alors aidez-moi :) Si nous avons une fonction, qui accumule des nombres à virgule flottante: std::accumulate(v.begin(), v.end(), 0.0); vest...
Existe-t-il un printfspécificateur de largeur qui peut être appliqué à un spécificateur à virgule flottante qui formaterait automatiquement la sortie avec le nombre nécessaire de chiffres significatifs sorte que lors du balayage de la chaîne, la valeur à virgule flottante d'origine soit acquise?...