Отправлено -=ВН=- 15 марта 2004 г. 19:55 В ответ на: отбрасывание или округление? отправлено Oleg_0515 15 марта 2004 г. 18:42

По моему так:
0x68db9 =429497~=(2^32)/10000. Т.е. 0.0001 в формате 1.32.
(x*0x68db9+1)/65536 по моему нужно рассматривать так:
(x*0x68db9)/65536 с переводом в формат .16
И потом к переведенному в .16 результату добавить 1/65536.
Т.е. при x=12345 рез-т первой операции=0x13c09=1.234512329 в формате .16

• Спасибо (и Vallav тоже). Теперь понятно, "обобщительно" и "запоминательно" :) — Oleg_0515   (16.03.2004 17:01, пустое)