Форумы Интермех
 ° Начало ° Ответить ° Статистика ° Регистрация ° Поиск ° RSS ° Wiki °

Форумы Интермех / Techcard / Вычисления с точностью более 3-х знаков после запятой
Автор Сообщение
Iceberg
Участник


Дата: 6 Май 2004 12:53:33


При вычислении параметров заготовки (нормы расхода основного материала) при малых значениях переменной (например НР=0,00075) происходит округление до 3-х цифр после запятой и в таблице сохраняется значение, равное 0. Как настроить вывод корректных значений в сводную ведомость?

Engineer
Участник


Дата: 7 Май 2004 15:36:21


Настройка базы данных/становки/параметры/основные - количество знаков после точки.

АТВ
Участник


Дата: 12 Окт 2006 14:45:24 ° Поправил: АТВ


В самом сценарии расчета заготовки полученное значение округляется так, как нам требуется, т.е. до 2-ух значащих цифр, как и указано в файле формул. Но когда, мы в итоге соглашаемся с полученными данными, нажимаем кнопку "да" и все рассчитанные параметры помещаются в заготовку полученные значения отображаются с точностью 3-х знаков после запятой. В настойке базы данных стоит установка 4 знака после точки, пробовали и 5. Результат тот же. Как настроить вывод значений с большей точностью?
У нас TechCard 6.0 SP2

S_Del-Maar
Участник
Ижорский завод, Колпино (С-Пб)

Дата: 29 Дек 2006 11:08:55 ° Поправил: S_Del-Maar


АТВ
У нас пришлось сделать следующим образом. В расчётную формулу вводим операцию умножения на 10 или 100 до округления и операцию деления на 10 или 100 соответственно. Вот таким образом:

(r0.001(((((Р1м/1000)*(Р2м/1000))*КЗ/КДТ)*KI)*10))/10

И это помогло в проблеме с округлением и операциями с очень малыми числами. Ноу-хау - интермех

АТВ
Участник


Дата: 9 Янв 2007 08:18:07


У нас в формуле стоит функция округления до двух значащих цифр S2. Проблему устранили. Нужно в подготовительном и механосборочном виде производства ставить установку 5 знаков после точки. А мы устанавливали только для механосборочного. Сейчас у нас TechCard 7.0

Ваш ответ

Bold Style  Italic Style  Underlined Style  Image Link  Insert URL 
...



Перед отправкой "нелатинского" текста проверьте кодировку броузера!
 » Логин  » Пароль 
 

На форуме сейчас: гостей - 1
пользователей - 0
Наибольшее количество посетителей: 87 [1 Янв 2017 02:23:26]
гостей - 87 / пользователей - 0


miniВВ © 2001-2021