[NT系]set /aコマンドによる計算で思うような計算結果が得られない (DOSプロンプト活用相談室LOG)

[NT系]set /aコマンドによる計算で思うような計算結果が得られない

758.	set /aコマンドによる計算で思うような計算結果が得られません 2004年09月05日(日) 02時11分

ナツ

set /aコマンドによる計算ですが思うような計算結果が得られません。

たとえば下記の計算は0になってしまいます。

set /a abc=10000000000/10

なぜでしょうか？
教えてください。
Windows2000Proです。

761.	Re:set /aコマンドによる計算で思うような計算結果が得られません 2004年09月06日(月) 11時22分

YanaKen

ナツさん、こんにちは。

＞たとえば下記の計算は0になってしまいます。
＞
＞set /a abc=10000000000/10

　試してみました。

E:\>set /a abc=100000 / 10
10000
E:\>set /a abc=1000000 / 10
100000
E:\>set /a abc=10000000 / 10
1000000
E:\>set /a abc=100000000 / 10
10000000
E:\>set /a abc=1000000000 / 10
100000000
E:\>set /a abc=10000000000 / 10
0

　なるほど、10000000000だともう扱えないようですね。
　コンピュータ上の計算プログラムを「無限に大きな数が扱える」ように作ることは(そこに多大なエネルギーを注ぎ込めば別として)困難です。SETコマンドの演算機能は(おまけ的機能ですから)そのへんの仕様は適当、ということでしょう。

　もう少し詳しくチェックしてみたところでは、扱える数値は、
　-2147483648 ～ 2147483647
　……の範囲(32ビットであらわせる整数の範囲)であることがわかりました。
　その範囲を越えると、一律で「０」が返ったり、あるいは「桁あふれ」の結果として、あるべき結果とはかけはなれた数値が返ってきます。

例：
E:\>set /a abc=2147483647+1
-2147483648

　そういうものだとわきまえて使うしかないと思います。

YanaKen

775.	Re2:set /aコマンドによる計算で思うような計算結果が得られません 2004年09月09日(木) 02時30分

ナツ

YanaKenさん
ありがとう御座います。
調べても分からずにいたので助かりました。

日時: 2004年09月05日 00:50 | この記事のURL

カテゴリー「SET, PATH, %環境変数%」索引へ

資料書籍

DOSプロンプト活用相談室LOG

[NT系]set /aコマンドによる計算で思うような計算結果が得られない

カテゴリー一覧

資料書籍

検索

About