Number formatting, rounding, precision

UA
EN

This section is under development.

Всі математичні обчислення TechEditor виконує з подвійною машинною точністю. Це означає, що кожне число в математичній моделі може мати до 15 знаків після крапки і бути у діапазоні 2.23×10⁻³⁰⁸ .. 1.79×10³⁰⁸.

Важливо розуміти, що вигляд числа на екрані і його повне (дійсне) значення — не одне й те саме. Значення числа зберігається в пам'яті комп'ютера, а користувач може бачити число на екрані у різних форматах (в залежності від налаштувань). Наприклад, якщо ввести в розрахунок змінну “a:=2.003” і вивести її подвійне значення з традиційним округленням до двох знаків після крапки, то матимемо результат:

a:=2.003
2*a=4.01

Якщо тепер ми захочемо вивести потрійне значення “a” з трьома знаками після крапки, то отримаємо:

3*a=6.009

Як бачимо, втрати точності не відбулося, адже у розрахунках TechEditor оперує вихідним значенням змінної “a:=2.003”.

Загалом на те, як виглядатиме число на екрані, впливають або опції TechEditor, або індивідуально обраний формат. Поточна робота з математичною моделлю і безпосередньо обчислення відбуваються за незмінними синтаксичними правилами.

На формат відображення чисел впливають наступні налаштування TechEditor:

Float format — формат представлення числа, за замовчанням;
Max. number of digits — обмежує загальну кількість цифр в числі;
Digits — визначає або кількість знаків після крапки для формату Fixed (0..18) або кількість знаків в показнику експоненти для формату Scientific (0..4);
Show Trailing Zeros — визначає, чи потрібно показувати кінцеві нулі для формату Fixed (якщо обрано формат General, ці нулі видаляються автоматично).
Decimal Separator — символ-роздільник десяткових.

Опції “Max. number of digits” та “Digits” можна призначати для параметрів індивідуально, за допомогою специфікаторів (див. нижче).

У більшості випадків, ви можете призначити індивідуальний формат чисел, обираючи той чи інший специфікатор. Наприклад, Math Object дозволяє гнучко керувати кінцевим числовим результатом:

Текстові специфікатори можна редагувати.

В текстових документах (звітах), діаграмах чи математичних листах ви можете оперувати наступними числовими форматами:

General (специфікатор %g) — загальний тип числа (обирається автоматично між фіксованим та науковим);
Fixed (специфікатор %f) — фіксований тип числа (з округленням до вказаного розряду);
Scientific (специфікатор %e) — науковий (експоненціальний) тип числа;
Number (специфікатор %n) — число з системним розділювачем тисяч.

Загальний тип числа. За цією опцією, TechEditor намагається представити число в максимально компактному фіксованому форматі (Fixed), або використовує науковий формат (Scientific).

Приклади специфікаторів:

%g : за замовчанням;
%.3g : Digits = 3;
%4.1g : Max. number of digits = 4; Digits = 1;

Формат з фіксованою крапкою. Якщо вказаного параметру “Max. number of digits” замало для повного представлення числа, то використовується науковий формат (див. Scientific).

Приклади специфікаторів:

%f : за замовчанням;
%.1f : Digits = 1;
%.2f : Digits = 2;
%.3f : Digits = 3;