下
3Dカスタム少女改造スレ ４
885:お客さん☆てっくあーつ2016/07/10(日) 08:34:39 ID:sRg7dWr3 [sage] AAS
まぁどうでもいいことですが教養として。
PCで扱う数値は2進数というのはよく知られていると思いますが、
整数でしたら内部表現上問題ないのですが、小数は10進数とは
完全互換ではないのです。
2進数だと小数は
a(2^-1)+b(2^-2)+c(2^-3)+... = 0.5a+0.25b+0.125c+...
のように2のマイナス冪乗の和として表現されます。
このため、例えば0.1をこれで表現しようとすると循環小数に
なってしまい正確には0.1ではなくなります。
たまにツールとかで頂点位置が微妙にズレるとかも、テキスト表現
で小数を扱うと、その変換途中で微妙に数値が変化してしまうため
起こることがあります。
(浮動小数点数値ファイル保存はバイナリでやろう)
和が1なら、イプシロン(小さな誤差範囲)を設定してその範囲内に収めるといいんじゃないですかね
上前次1-新書写板AA設索