Отправлено st256 15 января 2006 г. 20:31

Почему у VS6 прм выполнении

__int64 max_32 = 2147483647;

y = -960924;
y = y / 65536;

получается y = -14? Должно быть -15!!!

• Насколько я помню, направление округления при делении отрицательных чисел в С не определено. (+) — Oldring   (16.01.2006 22:28 83.237.132.172, 206 байт)
  • Еще как определено (+) — SM   (17.01.2006 00:00 213.141.159.26, 307 байт)
    • Да, точно, не знал, что с 1999 года уже определено :) — Oldring   (17.01.2006 21:05 62.213.72.103, пустое)
      • И, кстати, в стандарте плюсов от 2003 года все еще the sign of the remainder is implementation-defined :) — Oldring   (17.01.2006 21:23 62.213.72.103, пустое)
• Деление делается вот так (+) — SM   (15.01.2006 20:43 213.141.159.26, 245 байт)
  • Я дико извиняюсь(:-) — GM   (16.01.2006 15:32 84.252.243.82, 130 байт)
    • Да, только усечение в другую сторону для отрицательных операндов получается. Это, кстати, нередкая хрень, приводящая к несходунчикам :) в тест-векторах ITU-шных алгоритмов. — SM   (16.01.2006 17:43 81.94.147.99, пустое)
      • А можно на си сделать округление таким образом y = (y+32768) >> 16? Или это работает не всегда? — GM   (16.01.2006 19:19 84.252.243.82, пустое)
        • А лучше пользоваться ITU-шными ф-циями. Из хидера gsm.h CCS. — SM   (17.01.2006 00:17 213.141.159.26, пустое)
        • Можно — SM   (16.01.2006 19:26 81.94.147.99, пустое)
    • Вариант, предложенный SM и усечение работают по разному для разных знаков операнда. — st256   (16.01.2006 17:28 81.1.217.72, пустое)
  • Да, наверное Вы правы. — st256   (15.01.2006 21:30 81.1.217.73, пустое)

E-mail: info@telesys.ru