spamsink: (Default)
spamsink ([personal profile] spamsink) wrote2008-10-05 07:09 pm
  • Add Memory
  • Share This Entry

Американской хозяйке на заметку

Если округлить дюйм до 25.6 мм, то переводить доли дюйма в миллиметры станет намного удобнее.
Flat | Top-Level Comments Only

[identity profile] spamsink.livejournal.com 2008-10-06 05:08 am (UTC)(link)
Ты сможешь быстро сказать, сколько будет 7/64 дюйма в миллиметрах? А если округлить, то тут же выяснится, что чуть-чуть меньше, чем 2.8 мм.
Дюйм, конечно же, 25.4 мм, но "округление вносит всего 0.8% ошибку.
Edited 2008-10-06 05:11 (UTC)

[identity profile] galkao.livejournal.com 2008-10-06 05:17 am (UTC)(link)
Так не округляют:) Я поняла, что ты имел в виду 256 (степерь двойки), но тоже за уши притянуто, потому что не является целочисленным...

А округляют всегда до ближайшего разряда. Дюйм "округляется" до 2 см... Но уж никак не до 2.6:-) Да, я зануда:))))

[identity profile] spamsink.livejournal.com 2008-10-06 05:20 am (UTC)(link)
потому что не является целочисленным...

Ты помнишь, что такое мантисса и порядок?

[identity profile] galkao.livejournal.com 2008-10-06 05:24 am (UTC)(link)
Помню, но с двоичной системой не вяжется...

[identity profile] spamsink.livejournal.com 2008-10-06 05:42 am (UTC)(link)
Не понимаю, в чем сложность считать в десятых долях миллиметра.
Flat | Top-Level Comments Only