Questions marquées «precision»

Problèmes liés à la représentation de quantités numériques dans une représentation finie dans une base donnée différant de leur valeur mathématique exacte.

77
Existe-t-il un solveur de programmation non linéaire de haute qualité pour Python?

J'ai plusieurs problèmes d'optimisation globale non convexe difficiles à résoudre. Actuellement, j'utilise la boîte à outils Optimization de MATLAB (en particulier, fmincon()avec algorithm = 'sqp'), ce qui est assez efficace . Cependant, la majeure partie de mon code est en Python et j'aimerais...

13
Précision en virgule flottante simple ou double

Les nombres à virgule flottante simple précision occupent la moitié de la mémoire et sur les machines modernes (même sur les GPU, il semble) les opérations peuvent être effectuées avec eux à presque deux fois la vitesse par rapport à la double précision. De nombreux codes FDTD que j'ai trouvés...

9
Représentant des nombres d'Eisenstein sans flotteurs

J'ai un projet où j'ai besoin d'utiliser des champs quadratiques Plus précisément des nombres de la forme a+b−3−−−√a+b−3a + b \sqrt{-3} aveca,b∈Qa,b∈Qa,b \in \mathbb{Q}. Par exemple, voici les nombres premiers en entiers d'Eisenstein : Je ne veux pas utiliser de sauge. Je voudrais écrire mon propre...