Форумы Интермех - Вычисления с точностью более 3-х знаков после запятой 318 page 0

Форумы Интермех / Techcard / Вычисления с точностью более 3-х знаков после запятой

Автор	Сообщение
Iceberg Участник	Дата: 6 Май 2004 12:53:33 При вычислении параметров заготовки (нормы расхода основного материала) при малых значениях переменной (например НР=0,00075) происходит округление до 3-х цифр после запятой и в таблице сохраняется значение, равное 0. Как настроить вывод корректных значений в сводную ведомость?
Engineer Участник	Дата: 7 Май 2004 15:36:21 Настройка базы данных/становки/параметры/основные - количество знаков после точки.
АТВ Участник	Дата: 12 Окт 2006 14:45:24 ° Поправил: АТВ В самом сценарии расчета заготовки полученное значение округляется так, как нам требуется, т.е. до 2-ух значащих цифр, как и указано в файле формул. Но когда, мы в итоге соглашаемся с полученными данными, нажимаем кнопку "да" и все рассчитанные параметры помещаются в заготовку полученные значения отображаются с точностью 3-х знаков после запятой. В настойке базы данных стоит установка 4 знака после точки, пробовали и 5. Результат тот же. Как настроить вывод значений с большей точностью? У нас TechCard 6.0 SP2
S_Del-Maar Участник Ижорский завод, Колпино (С-Пб)	Дата: 29 Дек 2006 11:08:55 ° Поправил: S_Del-Maar АТВ У нас пришлось сделать следующим образом. В расчётную формулу вводим операцию умножения на 10 или 100 до округления и операцию деления на 10 или 100 соответственно. Вот таким образом: (r0.001(((((Р1м/1000)(Р2м/1000))КЗ/КДТ)KI)10))/10 И это помогло в проблеме с округлением и операциями с очень малыми числами. Ноу-хау - интермех
АТВ Участник	Дата: 9 Янв 2007 08:18:07 У нас в формуле стоит функция округления до двух значащих цифр S2. Проблему устранили. Нужно в подготовительном и механосборочном виде производства ставить установку 5 знаков после точки. А мы устанавливали только для механосборочного. Сейчас у нас TechCard 7.0