- 668： 名前：枯れた名無しの水平思考 ：2010/10/31(日) 20:47:23 ID:oZtt0wip0(2)
- >>658
それより浮動小数点で0.1とかってビットで表現できたっけ？
- 671： 名前：枯れた名無しの水平思考 ：2010/10/31(日) 20:56:11 ID:4asYHOEO0(4)
- >>668
浮動小数点は一番上の桁を一桁目として、これに10^nを掛け算する事で表してるんじゃなかったか。
っていうかビット以外で数字を表現してたら怖ぇよ……- 676： 名前：枯れた名無しの水平思考 ：2010/10/31(日) 21:02:27 ID:oZtt0wip0(2)
- >>671
0以下を1/2^nの合計だと思ってたぜｗ
- 674： 名前：枯れた名無しの水平思考 ：2010/10/31(日) 21:00:37 ID:24GLBelF0(6)
- >>668
２進数で表現できないものを、コンピュータが扱えるとでも言うのか？ - 687： 名前：枯れた名無しの水平思考 ：2010/10/31(日) 21:48:02 ID:V8Hns/uo0(2)
- >>668
厳密な0.1は2進表現では無限循環小数になるはず
ただ、それとfloatなりdoubleの内部表現とはまた別の話
■TOP■ 全部 1- 101- 201- 301- 401- 501- 601- 701- 801- 901- ツリー解除 dat