Author Topic: Какой диапазон чисел  (Read 4630 times)

0 Members and 1 Guest are viewing this topic.

Vint

  • Супермодератор
  • Герой форума
  • *
  • Posts: 3935
  • Лечу куда хочу. cman 4.13.014x32, 4.14.003 W10
    • View Profile
Какой диапазон чисел
« on: January 15, 2013, 03:06:26 PM »
Какой возможен диапазон чисел в программе? Не нашёл описания.

Столкнулся с
Code: (clickermann) [Select]
$a= 0.00002
LOGWRITE ($a)
результат -3
Ну и так далее.
При $a= 0.00001    результат -4
Если нулей после запятой три, то всё нормально.

Да, и про верхний предел хотелось бы знать.


Johnny

  • Создатель
  • Герой форума
  • *
  • Posts: 593
    • View Profile
Re: Какой диапазон чисел
« Reply #1 on: January 15, 2013, 08:18:19 PM »
мммм это интересный баг. дело в том что когда в начале дробного числа идет много нулей, для краткости оно пытается записаться число в экспоненциальном виде
можешь написать print(0.00002) и посмотреть что будет в логе. упустил из виду.

границы так сразу и не вспомню

Vint

  • Супермодератор
  • Герой форума
  • *
  • Posts: 3935
  • Лечу куда хочу. cman 4.13.014x32, 4.14.003 W10
    • View Profile
Re: Какой диапазон чисел
« Reply #2 on: January 15, 2013, 10:01:52 PM »
Интересно. Что значит "пытается"?   :)
Если может, пусть записывает с экспонентой, думаю никто против не будет.
А с этими пока что делать? Или только будущее обновление поможет?
Кстати, временно хотел выкрутиться через калькулятор но не тут то было. Не знаю как число из переменной (вычисленной) загнать в калькулятор. Напрашивался простой выход - через буфер, но работает только на целых числах. С дробными начинается котовасия с точками/запятыми.
« Last Edit: January 16, 2013, 09:34:06 AM by Vint »