Est-il possible d'obtenir une division par 0 (ou l'infini) dans l'exemple suivant? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } } Dans des cas normaux, ce ne sera évidemment pas le cas. Mais que se passe-t-il si aet bsont très proches,...
J'ai le code simple suivant: int speed1 = (int)(6.2f * 10); float tmp = 6.2f * 10; int speed2 = (int)tmp; speed1et speed2devrait avoir la même valeur, mais en fait, j'ai: speed1 = 61 speed2 = 62 Je sais que je devrais probablement utiliser Math.Round au lieu de cast, mais j'aimerais comprendre...
Je construis une application Web qui est principalement destinée aux navigateurs mobiles. J'utilise des champs de saisie avec le type de nombre, donc (la plupart) les navigateurs mobiles n'appellent que le clavier numérique pour une meilleure expérience utilisateur. Cette application Web est...
Comme le titre l'indique, je veux prendre un nombre à virgule flottante et l'arrondir à l'entier le plus proche. Cependant, si ce n'est pas un tout, je veux TOUJOURS arrondir la variable, quelle que soit sa proximité avec le prochain entier supérieur. Y a-t-il un moyen de faire...
Pourquoi Clang optimise-t-il la boucle dans ce code #include <time.h> #include <stdio.h> static size_t const N = 1 << 27; static double arr[N] = { /* initialize to zero */ }; int main() { clock_t const start = clock(); for (int i = 0; i < N; ++i) { arr[i] *= 1.0; } printf("%u...
Comment obtenir les nombres après une virgule décimale? Par exemple, si je l'ai 5.55, comment puis-je l'obtenir
La documentation de la fonction round () indique que vous lui transmettez un nombre et que les positions après la virgule sont arrondies. Ainsi, il devrait faire ceci: n = 5.59 round(n, 1) # 5.6 Mais, en réalité, la bonne vieille bizarrerie en virgule flottante s'infiltre et vous obtenez:...
Je ne connais pas du tout PHP et j'avais une petite question. J'ai 2 variables pricePerUnitet InvoicedUnits. Voici le code qui définit ces valeurs: $InvoicedUnits = ((string) $InvoiceLineItem->InvoicedUnits); $pricePerUnit = ((string) $InvoiceLineItem->PricePerUnit); Si je produis ceci,...
Lorsque j'essaie de l'utiliser floatcomme paramètre de modèle, le compilateur pleure ce code, alors qu'il intfonctionne correctement. Est-ce parce que je ne peux pas utiliser floatcomme paramètre de modèle? #include<iostream> using namespace std; template <class T, T defaultValue> class...
Y a-t-il une différence entre ceux-ci: float foo1 = (int)(bar / 3.0); float foo2 = floor(bar / 3.0); Si je comprends bien, les deux cas ont le même résultat. Y a-t-il une différence dans le code
John Carmack a une fonction spéciale dans le code source de Quake III qui calcule la racine carrée inverse d'un float, 4x plus rapide que normal (float)(1.0/sqrt(x)), y compris une 0x5f3759dfconstante étrange . Voir le code ci-dessous. Quelqu'un peut-il expliquer ligne par ligne ce qui se passe...
Je veux supprimer des chiffres d'un flottant pour avoir un nombre fixe de chiffres après le point, comme: 1.923328437452 -> 1.923 J'ai besoin de sortir sous forme de chaîne vers une autre fonction, pas d'imprimer. Je veux aussi ignorer les chiffres perdus, pas les
Je convertis une chaîne comme "41.00027357629127", et j'utilise; Convert.ToSingle("41.00027357629127"); ou float.Parse("41.00027357629127"); Ces méthodes renvoient 4.10002732E + 15 . Quand je passe au flottant, je veux "41.00027357629127". Cette chaîne doit être la même
J'ai profilé certaines de nos mathématiques de base sur un Intel Core Duo, et en examinant diverses approches de la racine carrée, j'ai remarqué quelque chose d'étrange: en utilisant les opérations scalaires SSE, il est plus rapide de prendre une racine carrée réciproque et de la multiplier. pour...
C'est une question qui m'a été posée lors de mon récent entretien et que je veux savoir (je ne me souviens pas vraiment de la théorie de l'analyse numérique, alors aidez-moi :) Si nous avons une fonction, qui accumule des nombres à virgule flottante: std::accumulate(v.begin(), v.end(), 0.0); vest...
Existe-t-il un printfspécificateur de largeur qui peut être appliqué à un spécificateur à virgule flottante qui formaterait automatiquement la sortie avec le nombre nécessaire de chiffres significatifs sorte que lors du balayage de la chaîne, la valeur à virgule flottante d'origine soit acquise?...
Qu'indique faprès les chiffres? Est-ce de C ou Objective-C? Y a-t-il une différence à ne pas ajouter cela à un nombre constant? CGRect frame = CGRectMake(0.0f, 0.0f, 320.0f, 50.0f); Pouvez-vous expliquer pourquoi je n'écrirais pas simplement: CGRect frame = CGRectMake(0, 0, 320,...
J'ai écrit ce code: float b = 3.6; et j'obtiens ceci: Erreur: problème de compilation non résolu: Incompatibilité de type: impossible de convertir de double en float Pourquoi? Quelle est la définition de
C'est juste pour satisfaire ma propre curiosité. Y a-t-il une implémentation de ceci: float InvSqrt (float x) { float xhalf = 0.5f*x; int i = *(int*)&x; i = 0x5f3759df - (i>>1); x = *(float*)&i; x = x*(1.5f - xhalf*x*x); return x; } à Rust? S'il existe, affichez le code. J'ai essayé...
J'essaie de convertir des nombres tirés d'un UITextField, qui je suppose, sont en fait des chaînes, et de les convertir en Float, afin que je puisse les multiplier. J'ai deux UITextfields qui sont déclarés comme suit: @IBOutlet var wage: UITextField @IBOutlet var hour: UITextField Lorsque...