как будет выглядень формате int , например, результат от вычисления COS(pi/4) («Телесистемы»: Конференция «Микроконтроллеры и их применение»)

Разработка, производство и продажа радиоэлектронной аппаратуры

| Карта сайта | Пишите нам | В избранное

Требуется программист в Зеленограде
- обработка данных с датчиков; ColdFire; 40 тыс.
e-mail:jobsmp@pochta.ru

Телесистемы | Электроника | Конференция «Микроконтроллеры и их применение»

как будет выглядень формате int , например, результат от вычисления COS(pi/4)

Отправлено pirandelo 28 августа 2009, г. 02:14
В ответ на: Фиксированная точка это то жэ самое что и целые числа. Только после умножэния сдвигать на разряд влево. отправлено пользователем Dr.Alex 28 августа 2009, г. 01:03

cos(pi/4)=0.7071067811 , если сдвинуть влево на один разряд получу 1.414 беру целую часть получаю единицу.
Или скажем 0.707*0.707=0.4998 умножаю на 2 получаю 0.999 целая часть 0. Точность сильно страдает, или я не так понял?

Составить ответ | Вернуться на конференцию.

Ответы

0,7071067811 в 16-бит фиксе представляется целым числом 0,7071067811*32768=23170 и никак иначе.. - Dr.Alex (28.08.2009, 03:24:0 193.19.83.15, пустое)
- Ясно, Спасибо! - pirandelo (28.08.2009, 10:44:15 81.200.24.180, пустое)
А сообразить представить 2*cos(pi/4) как 1414, 2*cos(pi/4)^2 как 999 чрезмерная извилистость извилин не позволяет? - MBedder (28.08.2009, 02:26:3 80.92.96.19, пустое)