Hallo,
ist es möglich, mit mit DllStructCreate erzeugten Variablen zu rechnen? Mir geht es speziell um die doppelte Floatingpoint-Genauigkeit, die ich benötige.
Oder ist der Autoit Variablentyp variant automatisch 64 bit oder mehr genau, wenn ich mit Kommazahlen rechne?
Ich steh' da aufm Schlauch....
Variablen mit der Genauigkeit von double erzeugen und damit rechnen
-
- [ gelöst ]
-
Trubadour -
12. August 2011 um 14:21 -
Geschlossen -
Erledigt
-
-
- Offizieller Beitrag
Im Normalfall wird mit der von dir gewünschten Genauigkeit (Double) gerechnet. Sollten Funktionen davon abweichen (z.B. BitAND), dann wird in der Hilfe darauf hingewiesen.
-
Hallo BugFix,
vielen Dank für die promte Antwort. Wäre schön, wenn das In der Hilfe so stehen würde.
VG,Jens -
- Offizieller Beitrag
Wäre schön, wenn das In der Hilfe so stehen würde.
Der Inhalt kann nicht angezeigt werden, da er nicht mehr verfügbar ist. -
Jetzt, wo du mich mit der Nase nochmal direkt draufstösst, sehe ich auch, dass ich ein wenig genauer hätte lesen müssen.... und bis ganz unten scrollen.
Aber wenn man oben anfängt zu lesen, wäre es schön, dort stände direkt beim Kommazahlen-Beispiel so etwas wie: "gerechnet wird intern mit 64bit, auch doppelte Genauigkeit (Double) genannt." oder so ähnlich. Wie im Hilfetext bei Integer für die HEX-Notation "(wenn Hex-Notation genutzt wird sind nur 32-bit Zahlen gültig)"
Blind war ich trotzdem.
Danke nochmal -
Es wird immer mit dem kleinstmöglichen Datentyp gerechnet.
Wenn alle Variablen Int32 sind, dann ist auch das Ergebnis Int32, wenn es noch reinpasst. Ist eine Variable Int64, so ist das Ergebnis Int64. Ist eine Variable Double, ist das Ergebnis Double. AutoIt verwendet niemals 32bit floats.