Отправлено jkl 29 апреля 2004 г. 23:31 В ответ на: Вопрос по точности в Си(+) отправлено Бывает 29 апреля 2004 г. 15:42

Вычисления надо проводить в целых чилах. Плавающая запятая в этих сдучаях дает большую ошибку. Если Вы читали, то это придумал Брезенхейм в 60 годах прошлого века. Тогда одна операция плавающей запятой выполнялась за время 100-1000 целочисленных операций. И все его алгоритмы, построение прямых, элипсов и пр. были оптимизированы для применения без операций плавающей запятой. Поэтому для растровой графики 1000х1000, порядок чисел (инкрементов - декрементов и остатков) не более 10^9 и должно хватать типа LONG 32.

• нет. после вот этого 10^9 . Нужно ещё решить энное кол-во квадратных уравнений и провести соотношения. и 10 в 9 вырождается как раз и становится примерно 10 в 20 — Бывает   (30.04.2004 12:16, 152 байт)
  • Ответ: Используйте целое 64 - должно хватить. — jkl   (01.05.2004 23:36, пустое)
    • Сомневаются мужики. попробую , но кажется такое ухищирение не приведет к улучшению рез-тата. А писать самому 64 плавучку - неоптимально. — Бывает   (02.05.2004 03:56, пустое)