precision()

mathLib.precision() 시스템 함수는 변수의 정밀도를 리턴합니다.

EGL에서 정밀도는 소수 자리의 수만이 아니라 변수에서 변수의 값을 표현하기 위해 사용할 수 있는 총 자릿수입니다. INT의 정밀도는 9입니다. 부동 소수점 수의 경우 정밀도는 프로그램이 실행 중인 시스템에서 숫자가 표현할 수 있는 최대 자릿수입니다.

구문

  mathLib.precision(numericVariable SMALLINT | INT |
              BIGINT | DECIMAL | SMALLFLOAT | FLOAT in)
  returns (result INT)
numericVariable
위의 유형과 지정 호환 가능한 변수입니다.
result
numericVariable의 최대 자릿수가 INT로 리턴됩니다.

예제

  result INT;
  myVar FLOAT;

  result = mathLib.precision(myVar); // result=15