Dans mon expérience en programmation, je dois souvent décider si je dois utiliser des nombres flottants ou doubles pour mes nombres réels. Parfois, je privilégie le double, parfois le double, mais cela semble plus subjectif. Si je devais être confronté pour défendre ma décision, je ne donnerais...
À chaque endroit où j'ai regardé, il est dit que doublec'est supérieur à floatpresque à tous les égards. floata été rendu obsolète par doubleJava, pourquoi est-il toujours utilisé? Je programme beaucoup avec Libgdx, et ils vous obligent à utiliser float(deltaTime, etc.), mais il me semble que...
Cette question d'entrevue a été posée à l'un de mes amis - "Il y a un flux constant de nombres provenant d'une liste infinie de nombres dont vous avez besoin pour maintenir une structure de données afin de renvoyer les 100 premiers nombres les plus élevés à un moment donné. Supposons que tous les...
OK, je me sens stupide de poser cette question - mais dans l'article de Jeff: Obtenir l'écran de téléphone de l'interview correct et initialement indiqué dans les 5 questions essentielles de l'écran de téléphone : Ils ne devraient pas vous regarder fixement quand vous demandez avec 2 ^ 16 is. C'est...
Des langages de programmation tels que Scheme (R5RS) et Python ( voir cette question ) s’arrondissent vers l’entier pair le plus proche lorsque la valeur se situe exactement entre les entiers environnants. Quel est le raisonnement derrière cela? Existe-t-il une idée mathématique permettant de...
C#a le decimaltype utilisé pour les nombres nécessitant une représentation exacte en base 10. Par exemple, 0.1ne peut pas être représenté en base 2 (par exemple, floatet double) et sera toujours une approximation lorsqu'il est stocké dans des variables de ces types. Je me demandais si le fait...
Il y a eu une histoire dans les nouvelles d'un homme dont le compte Paypal a été accidentellement crédité de 92.233.720.368.547.800 $. D'où vient ce numéro? Quel type de bogue de programmation est susceptible de donner lieu à ce
Récemment, alors qu’il enseignait la bataille Big vs Little Endian, un étudiant a demandé si elle était réglée et j’ai réalisé que je ne le savais pas. En regardant l'article de Wikipedia , il semble que les paires d'OS / d'architecture les plus populaires actuelles utilisent Little Endian, mais...
Cette question concerne le nombre de bits requis pour stocker une plage. Ou, autrement dit, pour un nombre donné de bits, quelle est la plage maximale pouvant être stockée et comment? Imaginez que nous voulons stocker une sous-plage dans la plage 0-255. Ainsi, par exemple, 45-74. Nous pouvons...
Les ordinateurs ont du mal à stocker des nombres fractionnaires où le dénominateur est autre chose qu'une solution à 2 ^ x. En effet, le premier chiffre après la décimale vaut 1/2, le deuxième 1/4 (ou 1 / (2 ^ 1) et 1 / (2 ^ 2)) etc. Pourquoi traiter toutes sortes d'erreurs d'arrondi alors que...
Cette question a été migrée depuis Stack Overflow car il est possible d'y répondre sur Software Engineering Stack Exchange. Migré il y a 8 ans . Je réfléchissais simplement à la rand()fonction php , et je pensais à comment je pouvais la refaire, et je suis tombé complètement stupéfait. Comment...
J'ai récemment conçu un module de série chronologique où ma série chronologique est essentiellement un SortedDictionnary<DateTime, double>. Maintenant, je voudrais créer des tests unitaires pour m'assurer que ce module fonctionne toujours et produit le résultat attendu. Une opération courante...
En Java , il y a des types primitifs pour byte, short, intet longet la même chose pour floatet double. Pourquoi est-il nécessaire qu'une personne définisse le nombre d'octets à utiliser pour une valeur primitive? La taille ne pouvait-elle pas être déterminée de manière dynamique en fonction de la...
En numérique, il est très important de pouvoir identifier des schémas instables et d'améliorer leur stabilité. Comment identifier les calculs en virgule flottante instables? Je travaille sur une simulation très complexe où de nombreux schémas numériques fonctionnent ensemble et je recherche une...
Quel est le moyen le plus rapide de trouver le premier (plus petit) entier qui n'existe pas dans une liste donnée d' entiers non triés (et qui est supérieur à la plus petite valeur de la liste)? Mon approche primitive consiste à les trier et à parcourir la liste, y a-t-il une meilleure...
Verrouillé . Cette question et ses réponses sont verrouillées car la question est hors sujet mais a une signification historique. Il n'accepte pas actuellement de nouvelles réponses ou interactions. J'ai vu cela sur le SO à plusieurs reprises. Chaque fois qu'une question est vague et que la...
Je ne peux pas comprendre pourquoi les systèmes à microprocesseur implémentent des nombres non signés. Je suppose que le coût est juste le double du nombre de branches conditionnelles, car supérieur à, inférieur à, .etc, a besoin d'un algorithme différent de signé, existe-t-il encore des...
Je joue avec le .NET BigInteger et, fondamentalement, je me demande quel nombre - une réponse estimée serait bien - est le point de déviation de la courbe de (le graphique de (augmentation du temps requis pour les opérations) vs (valeur de BigInteger))? ou sont-ils conçus sans un tel écart de telle...
2¹⁶-1 & 2⁵ = 2⁵ (ou? Évidemment?) Un développeur m'a demandé aujourd'hui ce qu'est 65535 & 32 au niveau du bit, c'est-à-dire 2¹⁶-1 & 2⁵ =? J'ai pensé au début spontanément 32 mais cela m'a semblé facile après quoi j'ai réfléchi pendant plusieurs minutes puis j'ai répondu 32. 32 semble...
Je sais que cela a quelque chose à voir avec le complément de 2 et l'ajout de 1, mais je ne comprends pas vraiment comment vous pouvez coder un nombre de plus avec la même quantité de bits lorsqu'il s'agit de nombres négatifs.