5ちゃんねる ★スマホ版★ ■掲示板に戻る■ 全部 1- 最新50  

■ このスレッドは過去ログ倉庫に格納されています

35歳以上のプログラマー その13

500 :仕様書無しさん:2011/11/03(木) 14:32:29.05
よこからすまんけど、どういう話になってるのかなあ。
おそらく、

>>489
> 馬鹿は自分が馬鹿なのがわからないようだ。
> 十進数の数が完全に二進数で表現できるとでも思ってるのか?

このあたりが議論になっているとしたら、
これは数学的な話と計算機的な話とごちゃごちゃになってないか?

つまり、全ての実数をメモリ内に表現できるかという話であるならば、
メモリは有限であるから、例えば√2の数値表現はもてない。
ただし、√2という表現そのものはメモリになんらかの表現方法で
保存できるし、数値としてもノートに書くときには、せいぜい1.41421356
ぐらいまでしか書かないだろうから、有効桁を指定すればできる。
というか、マセマティカみたいに、計算しないで式を保存するタイプだと、
√2は√2という記号で保存しているから保存できることになる。

つか、おまえら、どういう状況でバカだとかいいあってるんだ?
√2を、ずっと最後の桁まで数値表現で計算機に保存できるか?
という話なのか?
最後の桁は存在しないから、計算機には保存できない。
ただし、√2という表現形式なら保存できる。

という話じゃだめなのか?


199 KB
★スマホ版★ 掲示板に戻る 全部 前100 次100 最新50

read.cgi ver 05.04.02 2018/11/22 Walang Kapalit ★
FOX ★ DSO(Dynamic Shared Object)