3Dカスタム少女改造スレ４

本ページはプロモーションが含まれています。

■掲示板に戻る■ 全部 1- 101- 201- 301- 401- 501- 601- 701- 801- 901- 1001- 最新50 read.htmlに切り替えるファイル管理

レス数が1000を超えています。残念ながら全部は表示しません。

885 名前：お客さん☆てっくあーつ：2016/07/10(日) 08:34:39 ID:sRg7dWr3: まぁどうでもいいことですが教養として。

PCで扱う数値は2進数というのはよく知られていると思いますが、
整数でしたら内部表現上問題ないのですが、小数は10進数とは
完全互換ではないのです。

2進数だと小数は
a(2^-1)+b(2^-2)+c(2^-3)+... = 0.5a+0.25b+0.125c+...
のように2のマイナス冪乗の和として表現されます。
このため、例えば0.1をこれで表現しようとすると循環小数に
なってしまい正確には0.1ではなくなります。

たまにツールとかで頂点位置が微妙にズレるとかも、テキスト表現
で小数を扱うと、その変換途中で微妙に数値が変化してしまうため
起こることがあります。
(浮動小数点数値ファイル保存はバイナリでやろう)

和が1なら、イプシロン(小さな誤差範囲)を設定してその範囲内に収めるといいんじゃないですかね

334KB

新着レスの表示

掲示板に戻る全部前100 次100 最新50 read.htmlに切り替えるファイル管理

img0ch(CGI)/2.1