precision()
Die Systemfunktion 'mathLib.precision()' gibt den Genauigkeitsgrad für eine Variable zurück.
In EGL ist die Genauigkeit die Gesamtzahl der Ziffern, die in einer Variablen verwendet werden können, um deren Wert auszudrücken, nicht nur die Anzahl der Dezimalstellen. Die Genauigkeit einer ganzen Zahl (INT) ist 9. Bei Gleitkommazahlen ist die Genauigkeit die maximale Anzahl der Ziffern, mit der eine Zahl in dem System dargestellt werden kann, auf dem das Programm ausgeführt wird.
Syntax
mathLib.precision(numerische_Variable SMALLINT | INT |
BIGINT | DECIMAL | SMALLFLOAT | FLOAT in)
returns (Ergebnis INT)
- numerische_Variable
- Eine Variable, die mit einem der vorstehenden Typen zuordnungskompatibel ist.
- Ergebnis
- Die maximale Anzahl der Ziffern in 'numerische_Variable' wird als ganze Zahl (INT) zurückgegeben.
Beispiel
result INT;
myVar FLOAT;
result = mathLib.precision(myVar); // Ergebnis = 15