- 1500
- 計算誤差。SQRT 組み込み関数の短精度浮動小数点引数
が 0 より小さい。
- 1501
- 計算誤差。SQRT 組み込み関数の長精度浮動小数点引数
が 0 より小さい。
- 1502
- 計算誤差。SQRT 組み込み関数の拡張浮動小数点引数
が 0 より小さい。
- 1503
- LOG、LOG2、または LOG10 組み込み関数の計算誤差。
拡張浮動小数点引数が 0 より小さい。
- 1504
- LOG、LOG2、または LOG10 組み込み関数の計算誤差。
短精度浮動小数点引数が 0 より小さい。
- 1505
- LOG、LOG2、または LOG10 組み込み関数の計算誤差。
長精度浮動小数点引数が 0 より小さい。
- 1506
- SIN、COS、SIND、または COSD 組み込み関数の計算誤差。短精度浮動小数点引数の絶対値が大きすぎる。
表記ごとの限度は、以下の通りである。
- 表記
- 限度
- 16 進数
- pi*(2**18)
- z ieee 10 進数
- 1s6
- 1507
- SIN、COS、SIND、または COSD 組み込み関数の計算誤差。長精度浮動小数点引数の絶対値が大きすぎる。表記ごとの限度は、以下の通りである。
- 表記
- 限度
- 16 進数
- pi*(2**50)
- z ieee 2 進数
- 3.53711d15
- z ieee 10 進数
- 1d15
- i ieee 2 進数
- 2**63
- 1508
- 計算誤差。TAN または TAND 組み込み関数の短精度浮動小数点引数の絶対値が大きすぎる。表記ごとの限度は、以下の通りである。
- 表記
- 限度
- 16 進数
- pi*(2**18)
- z ieee 10 進数
- 1s6
- 1509
- 計算誤差。TAN または TAND 組み込み関数の長精度浮動小数点引数の絶対値が大きすぎる。
表記ごとの限度は、以下の通りである。
- 表記
- 限度
- 16 進数
- pi*(2**50)
- z ieee 2 進数
- 3.53711d15
- z ieee 10 進数
- 1d15
- i ieee 2 進数
- 2**63
- 1514
- 計算誤差。ATANH 組み込み関数の短精度浮動小数点引数の
絶対値が 1 より大きい。
- 1515
- 計算誤差。ATANH 組み込み関数の長精度浮動小数点引数の
絶対値が 1 より大きい。
- 1516
- 計算誤差。ATANH 組み込み関数の拡張浮動小数点引数の
絶対値が 1 より大きい。
- 1517
- SIN、COS、SIND、または COSD 組み込み関数の計算誤差。拡張精度浮動小数点引数が大きすぎる。
表記ごとの限度は、以下の通りである。
- 表記
- 限度
- 16 進数
- pi*(2**100)
- z ieee 2 進数
- 4.07802q33
- z ieee 10 進数
- 1q33
- i ieee 2 進数
- 2**64
- 1518
- 計算誤差。ASIN または ACOS 組み込み関数の短精度浮動小数点引数の
絶対値が 1 を超えている。
- 1519
- 計算誤差。ASIN または ACOS 組み込み関数の長精度浮動小数点引数の
絶対値が 1 を超えている。
- 1520
- 計算誤差。ASIN または ACOS 組み込み関数の拡張浮動小数点引数の
絶対値が 1 を超えている。
- 1522
- 計算誤差。TAN または TAND 組み込み関数の拡張浮動小数点引数の絶対値が大きすぎる。表記ごとの限度は、以下の通りである。
- 表記
- 限度
- 16 進数
- pi*(2**100)
- z ieee 2 進数
- 4.07802q33
- z ieee 10 進数
- 1q33
- i ieee 2 進数
- 2**64
- 1523
- 計算誤差。SINH または COSH 組み込み関数の実数の短精度浮動小数点引数の絶対値が大きすぎる。表記ごとの限度は、以下の通りである。
- 表記
- 限度
- 16 進数
- 175.366
- z ieee 10 進数
- 2.233507s02
- 1524
- SINH または COSH 組み込み関数の実数の長精度浮動小数点引数の絶対値が大きすぎる。表記ごとの限度は、以下の通りである。
- 表記
- 限度
- 16 進数
- 175.366
- z ieee 2 進数
- 709.7827
- z ieee 10 進数
- 8.864952608027075d02
- i ieee 2 進数
- 710.47
- 1525
- SINH または COSH の実数の拡張浮動小数点引数の絶対値が大きすぎる。表記ごとの限度は、以下の通りである。
- 表記
- 限度
- 16 進数
- 175.366
- z ieee 2 進数
- 11354
- z ieee 10 進数
- 1.41493853964484107282905574890354q4
- i ieee 2 進数
- 11357.56
- 1529
- SIN、COS、SIND、または COSD 組み込み関数の計算誤差。複素数の短精度浮動小数点引数の実数部の絶対値が大きすぎる。表記ごとの限度は、以下の通りである。
- 表記
- 限度
- 16 進数
- pi*(2**18)
- z ieee 10 進数
- 1s6
- 1530
- SIN、COS、SIND、または COSD 組み込み関数の計算誤差。複素数の長精度浮動小数点引数の実数部の絶対値が大きすぎる。
表記ごとの限度は、以下の通りである。
- 表記
- 限度
- 16 進数
- pi*(2**50)
- z ieee 2 進数
- 3.53711d15
- z ieee 10 進数
- 1d15
- i ieee 2 進数
- 2**63
- 1531
- SIN、COS、SIND、または COSD 組み込み関数の計算誤差。複素数の拡張浮動小数点引数の実数部の絶対値が大きすぎる。
表記ごとの限度は、以下の通りである。
- 表記
- 限度
- 16 進数
- pi*(2**100)
- z ieee 2 進数
- 4.07802q33
- z ieee 10 進数
- 1q33
- i ieee 2 進数
- 2**64
- 1550
- 計算誤差。指数演算時に、実数の短精度浮動小数点の基数
が 0 であり、かつ整数の指数が正でない。
- 1551
- 計算誤差。指数演算時に、実数の長精度浮動小数点の基数
が 0 であり、かつ整数の指数が正でない。
- 1552
- 計算誤差。指数演算時に、実数の短精度浮動小数点の基数
が 0 であり、かつ浮動小数点または非整数の指数が正でない。
- 1553
- 計算誤差。指数演算時に、実数の長精度浮動小数点の基数
が 0 であり、かつ浮動小数点または非整数の指数が正でない。
- 1554
- 計算誤差。指数演算時に、複素数の短精度浮動小数点の基数
が 0 であり、かつ整数の指数が正でない。
- 1555
- 計算誤差。指数演算時に、複素数の長精度浮動小数点の基数
が 0 であり、かつ整数の指数が正でない。
- 1556
- 計算誤差。指数演算時に、複素数の短精度浮動小数点の基数
が 0 であり、かつ浮動小数点または非整数の指数が正の実数でない。
- 1557
- 計算誤差。指数演算時に、複素数の長精度浮動小数点の基数
が 0 であり、かつ浮動小数点または非整数の指数が正の実数でない。
- 1558
- 計算誤差。ATAN または ATAND 組み込み関数の複素数の短精度浮動小数
点引数が、それぞれ ±1I または ±1 の値をとっている。
- 1559
- 計算誤差。ATAN または ATAND 組み込み関数の複素数の長精度浮動小数
点引数が、それぞれ ±1I または ±1 の値をとっている。
- 1560
- 計算誤差。指数演算時に、実数の拡張浮動小数点の基数
が 0 であり、かつ整数の指数が正でない。
- 1561
- 計算誤差。指数演算時に、実数の拡張浮動小数点の基数
が 0 であり、かつ浮動小数点または非整数の指数が正でない。
- 1562
- 計算誤差。指数演算時に、複素数の拡張浮動小数点の基数
が 0 であり、かつ整数の指数が正でない。
- 1563
- 計算誤差。複素数の拡張浮動小数点の基数
が 0 であり、かつ浮動小数点または非整数の指数が正でない。
- 1564
- 計算誤差。ATAN または ATAND 組み込み関数の複素数の拡張浮動小数
点引数が、それぞれ ±1I または ±1 の値をとっている。
- 1568
- EXP 組み込み関数の計算誤差。複素数の短精度浮動小数点引数の虚数部の絶対値が大きすぎる。
表記ごとの限度は、以下の通りである。
- 表記
- 限度
- 16 進数
- pi*(2**18)
- z ieee 10 進数
- 1s6
- 1569
- EXP 組み込み関数の計算誤差。複素数の長精度浮動小数点引数の虚数部の絶対値が大きすぎる。
表記ごとの限度は、以下の通りである。
- 表記
- 限度
- 16 進数
- pi*(2**50)
- z ieee 2 進数
- 3.53711d15
- z ieee 10 進数
- 1d15
- i ieee 2 進数
- 2**63
- 1570
- EXP 組み込み関数の計算誤差。複素数の拡張浮動小数点引数の虚数部の絶対値が大きすぎる。
表記ごとの限度は、以下の通りである。
- 表記
- 限度
- 16 進数
- pi*(2**100)
- z ieee 2 進数
- 4.07802q33
- z ieee 10 進数
- 1qd33
- i ieee 2 進数
- 2**64
- 1571
- GAMMA または LOGGAMMA 組み込み関数の計算誤差。実数の短精度拡張浮動小数点引数が大きすぎる。
表記ごとの GAMMA の限度は、以下の通りである。
- 表記
- 限度
- 16 進数
- 57.5744
- z ieee 10 進数
- 6.932968s01
表記ごとの LOGGAMMA の限度は、以下の通りである。
- 表記
- 限度
- 16 進数
- 4.2937*(10**73)
- z ieee 10 進数
- 4.608910s94
- 1572
- GAMMA または LOGGAMMA 組み込み関数の計算誤差。実数の長精度浮動小数点引数が大きすぎる。
表記ごとの GAMMA の限度は、以下の通りである。
- 表記
- 限度
- 16 進数
- 57.5744
- z ieee 2 進数
- 171.624
- z ieee 10 進数
- 2.053796629328708d02
- i ieee 2 進数
- 171.6243
表記ごとの LOGGAMMA の限度は、以下の通りである。
- 表記
- 限度
- 16 進数
- 4.2937*(10**73)
- z ieee 2 進数
- 2.559d305
- z ieee 10 進数
- 1.138023083333461d382
- i ieee 2 進数
- 2.0d0**1014
- 1573
- GAMMA または LOGGAMMA 組み込み関数の計算誤差。実数の拡張拡張浮動小数点引数が大きすぎる。
表記ごとの GAMMA の限度は、以下の通りである。
- 表記
- 限度
- 16 進数
- 57.5744
- z ieee 2 進数
- 1755
- z ieee 10 進数
- 2.12454995666246323632807135355444q3
- i ieee 2 進数
- 171.6243
表記ごとの LOGGAMMA の限度は、以下の通りである。
- 表記
- 限度
- 16 進数
- 4.2937*(10**73)
- z ieee 2 進数
- 1q4928
- z ieee 10 進数
- 7.07272165228093306168809969252963q6140
- i ieee 2 進数
- 2.0q0**1014
- 1574
- TANH 組み込み関数の計算誤差。複素数の短精度浮動小数点引数の虚数部の絶対値が大きすぎる。
表記ごとの限度は、以下の通りである。
- 表記
- 限度
- 16 進数
- pi*(2**18)
- z ieee 10 進数
- 1s6
- 1575
- TANH 組み込み関数の計算誤差。複素数の長精度浮動小数点引数の虚数部の絶対値が大きすぎる。
表記ごとの限度は、以下の通りである。
- 表記
- 限度
- 16 進数
- pi*(2**50)
- z ieee 2 進数
- 3.53711d15
- z ieee 10 進数
- 1d15
- i ieee 2 進数
- 2**63
- 1576
- TANH 組み込み関数の計算誤差。複素数の拡張浮動小数点引数の虚数部の絶対値が大きすぎる。
表記ごとの限度は、以下の通りである。
- 表記
- 限度
- 16 進数
- pi*(2**100)
- z ieee 2 進数
- 4.07802q33
- z ieee 10 進数
- 1q33
- i ieee 2 進数
- 2**64
- 1577
- LOG、LOG2、または LOG10 組み込み関数の計算誤差。実数の短精度浮動小数点引数が 0 に等しい。
- 1578
- LOG、LOG2、または LOG10 組み込み関数の計算誤差。実数の長精度浮動小数点引数が 0 に等しい。
- 1579
- LOG、LOG2、または LOG10 組み込み関数の計算誤差。実数の拡張浮動小数点引数が 0 に等しい。
- 1611
- 計算誤差。EXP 組み込み関数に対する実数の短精度浮動小数点引数が大きすぎる。
表記ごとの限度は、以下の通りである。
- 表記
- 限度
- 16 進数
- 174.673
- z ieee 10 進数
- 2.233507s02
- 1612
- 計算誤差。EXP 組み込み関数に対する実数の長精度浮動小数点引数が大きすぎる。
表記ごとの限度は、以下の通りである。
- 表記
- 限度
- 16 進数
- 174.673
- z ieee 2 進数
- 709.7827
- z ieee 10 進数
- 8.864952608027075d02
- i ieee 2 進数
- 710.47
- 1613
- 計算誤差。EXP 組み込み関数に対する実数の拡張浮動小数点引数が大きすぎる。
表記ごとの限度は、以下の通りである。
- 表記
- 限度
- 16 進数
- 174.673
- z ieee 2 進数
- 11354
- z ieee 10 進数
- 1.41493853964484107282905574890354q4
- i ieee 2 進数
- 11357.56
- 1729
- 計算誤差。指数演算時に、実数の短精度浮動小数点の基数
が 0 であり、かつ実数の短精度浮動小数点の指数が正または 0 でない。
- 1730
- 計算誤差。指数演算時に、実数の長精度浮動小数点の
基数が 0 であり、かつ実数の長精度浮動小数点の指数
が正または 0 でない。
- 1754
- 計算誤差。複素数の短精度浮動小数点の基数と
複素数の短精度浮動小数点の指数を指定した指数演算時に、
引数が限度を超えた。
- 1755
- 計算誤差。複素数の長精度浮動小数点の基数と
複素数の長精度浮動小数点の指数を指定した指数演算時に、
引数が限度を超えた。
- 1756
- 計算誤差。複素数の拡張浮動小数点の基数と
複素数の拡張浮動小数点の指数を指定した指数演算時に、
引数が限度を超えた。
- 1853
- TAN または TAND の計算誤差。複素数の短精度浮動小数点引数について、引数の実数部の絶対値が大きすぎる。
表記ごとの限度は、以下の通りである。
- 表記
- 限度
- 16 進数
- pi*(2**18)
- z ieee 10 進数
- 1s6
- 1854
- TAN または TAND の計算誤差。複素数の長精度浮動小数点引数について、引数の実数部の絶対値が大きすぎる。
表記ごとの限度は、以下の通りである。
- 表記
- 限度
- 16 進数
- pi*(2**50)
- z ieee 2 進数
- 3.53711d15
- z ieee 10 進数
- 1d15
- i ieee 2 進数
- 2**63
- 1855
- TAN または TAND の計算誤差。複素数の拡張浮動小数点引数について、引数の実数部の絶対値が大きすぎる。
表記ごとの限度は、以下の通りである。
- 表記
- 限度
- 16 進数
- pi*(2**100)
- z ieee 2 進数
- 4.07802q33
- z ieee 10 進数
- 1q33
- i ieee 2 進数
- 2**64
- 1914
- 計算誤差。SINH または COSH 組み込み関数の複素数の短精度浮動小数点引数の虚数部の絶対値が大きすぎる。
表記ごとの限度は、以下の通りである。
- 表記
- 限度
- 16 進数
- pi*(2**18)
- z ieee 10 進数
- 1s6
- 1915
- 計算誤差。SINH または COSH 組み込み関数の複素数の長精度浮動小数点引数の虚数部の絶対値が大きすぎる。
表記ごとの限度は、以下の通りである。
- 表記
- 限度
- 16 進数
- pi*(2**50)
- z ieee 2 進数
- 3.53711d15
- z ieee 10 進数
- 1d15
- i ieee 2 進数
- 2**63
- 1916
- 計算誤差。SINH または COSH 組み込み関数の複素数の拡張浮動小数点引数の虚数部の絶対値が大きすぎる。
表記ごとの限度は、以下の通りである。
- 表記
- 限度
- 16 進数
- pi*(2**100)
- z ieee 2 進数
- 4.07802q33
- z ieee 10 進数
- 1q33
- i ieee 2 進数
- 2**64
- 1960
- SQRT の計算誤差。実数の短精度浮動小数点引数が 0 に等しい。
- 1961
- SQRT の計算誤差。実数の長精度浮動小数点引数が 0 に等しい。
- 1962
- SQRT の計算誤差。実数の拡張浮動小数点引数が 0 に等しい。
|
This information center is powered by Eclipse technology. (http://www.eclipse.org)