投稿時間：10/07/23(金) 10:18
投稿者名：石松
Ｅメール：
ＵＲＬ　：
ＨＯＳＴ：sndr2.swgproxy.osakac.ac.jp
タイトル：理解できない計算結果を出力して困っています。

HSP 3.2.1をWindows7の64bit版で使用しています。

下記2つのプログラムを作りましたが、計算値に誤差があるようです。

for i,0,8,1
atai=powf(2,i)
mes "2の " + i + " 乗は " + atai + " です。"
next

上記のプログラムの値は下記になります。

2の 0 乗は 1.000000 です。
2の 1 乗は 2.000000 です。
2の 2 乗は 4.000000 です。
2の 3 乗は 8.000000 です。
2の 4 乗は 16.000000 です。
2の 5 乗は 32.000000 です。
2の 6 乗は 64.000000 です。
2の 7 乗は 128.000000 です。

この値は正しいのですが、整数にすると理解できない値を出力します。
そのプログラムは、下記になります。

for i,0,8,1
atai=int(powf(2,i))
mes "2の " + i + " 乗は " + atai + " です。"
next

上記のプログラムの値は下記になります。

2の 0 乗は 1 です。
2の 1 乗は 2 です。
2の 2 乗は 4 です。
2の 3 乗は 7 です。
2の 4 乗は 16 です。
2の 5 乗は 32 です。
2の 6 乗は 63 です。
2の 7 乗は 128 です。

なぜ、2の3乗の値が７で、2の6乗が63になるのかが理解できません。

解決策を教えてください。

- 以下は関連一覧ツリーです -

★ - 理解できない計算結果を出力して... - 石松 10/07/23(金) 10:18 No.8580

Re: 理解できない計算結果を出力... - ANTARES 10/07/24(土) 05:10 No.8587
Re^2: 理解できない計算結果を出... - 石松 10/07/26(月) 09:39 No.8591
Re^3: 理解できない計算結果を出... - ANTARES 10/07/27(火) 00:31 No.8598
Re^4: 理解できない計算結果を出... - ANTARES 10/07/27(火) 02:00 No.8602
Re^5: 理解できない計算結果を出... - 石松 10/07/27(火) 09:18 No.8604
Re^6: 理解できない計算結果を出... - 20100730 10/07/30(金) 18:16 No.8609
Re: 理解できない計算結果を出力... - ANTARES 10/07/24(土) 04:58 No.8585