precision()
mathLib.precision() 시스템 함수는 변수의 정밀도를 리턴합니다.
EGL에서 정밀도는 소수 자리의 수만이 아니라 변수에서 변수의 값을 표현하기 위해 사용할 수 있는 총 자릿수입니다. INT의 정밀도는 9입니다. 부동 소수점 수의 경우 정밀도는 프로그램이 실행 중인 시스템에서 숫자가 표현할 수 있는 최대 자릿수입니다.
구문
mathLib.precision(numericVariable SMALLINT | INT |
BIGINT | DECIMAL | SMALLFLOAT | FLOAT in)
returns (result INT)
- numericVariable
- 위의 유형과 지정 호환 가능한 변수입니다.
- result
- numericVariable의 최대 자릿수가 INT로 리턴됩니다.
예제
result INT;
myVar FLOAT;
result = mathLib.precision(myVar); // result=15