С Новым годом! Форум программистов, компьютерный форум, киберфорум
PascalABC.NET
Войти
Регистрация
Восстановить пароль
Блоги Сообщество Поиск Заказать работу  
 
Рейтинг 4.64/11: Рейтинг темы: голосов - 11, средняя оценка - 4.64
0 / 0 / 0
Регистрация: 20.10.2016
Сообщений: 12

Ошибки преобразования числа типа Double в String

18.01.2017, 18:17. Показов 2201. Ответов 1

Студворк — интернет-сервис помощи студентам
Доброго времени суток, форумчане. У меня серьезная проблема с преобразованием , взгляните:

Java
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
begin
  begin
      var i: Double;
      i := -9 + 10.1;
      println('В первом случае i = ',i);
      // выводит: i = 1.1 ; все хорошо
 
      i := -10 + 10.1;
      println('Во втором случае i = ',i,'   //Это не нормально');
      // выводит:   i =  0.0999999999999996 , что за хрень?!?!
 
      i := -11 + 10.1;
      println('В третьем случае i =',i);
      // выводит:  i = -0.9 , все нормально
 
      i := -10.11 + 10.1;
      println('В четвертом случае',i,'   //Это не нормально');
      // выводит:  i = -0.00999999999999979 , что опять за хрень??!!
 
      println();
      
      println('Другая ситуация');
      
      i := 0.0001;
      println('В первом случае i = ',i);
      // выводит:  i = 0.0001 , все вновь нормально
 
 
      i := 0.00001;
      println('Во втором случае i = ',i,'   //Это не нормально. Видимо число кодируется от пяти нулей');
      / выводит: / i = 1E-05 ; окей, видимо, кодирование данных, чтобы оптимизировать память
 
      i := 0.00004000001;
      println('В третьем случае i =',i,'   //  И это не нормально. Он кодировал только первый ряд нулей слева, дальше не стал, почему?');
      // выводит: i = 4.000001E-05 ;  тогда почему здесь он не все кодирует?
    
  end;  
end.
Буду безмерно благодарен, если вы покидаете статеек или объясните, как это работает, и как это исправить, потому что я делаю калькулятор, в котором дисплей выводит String-значение, для меня это принципиально. Заранее спасибо!
0
Лучшие ответы (1)
Programming
Эксперт
39485 / 9562 / 3019
Регистрация: 12.04.2006
Сообщений: 41,671
Блог
18.01.2017, 18:17
Ответы с готовыми решениями:

Обеспечить операторы преобразования матрицы к типу double[] и наоборот - от типа double[] к матрице
Здравствуйте. Выполняю лабораторную работу, по заданию которой необходимо создать класс "Матрица" со всякими там...

Массивы и строки: реализовать метод ldtoms() для преобразования числа типа long double в денежную строку
Вернемся к обсуждению денежных строк из упражнения 6. Напишите ме- тод ldtoms() для преобразования числа типа long double в денежную...

Как сгенерировать случайное число типа я double имея на входе 2 числа типа double - минимальное и максимальное
Например: public class ExtendedRandom : Random { public ExtendedRandom() : base() { ...

1
77 / 76 / 57
Регистрация: 07.08.2016
Сообщений: 173
18.01.2017, 20:24
Лучший ответ Сообщение было отмечено Megas781 как решение

Решение

Это проблема связана с особенностью представления вещественных чисел в памяти компьютера. Они же обрабатываются в двоичном виде. А, например, 0.1 нельзя представить в нём без погрешности. Известная проблема сложения 0.2 и 0.1:
http://0.30000000000000004.com/
В PascalABC.NET именно она у меня обрабатывается нормально. Но всё равно с вещественными числами такие казусы возможны.

С тем, как это исправить, у меня возникли проблемы.
Вообще, надо определить, до какого знака округлять.
Можно так:
Pascal
1
2
3
4
writeln(round((-10 + 10.1)*100000000)/100000000);
writeln(round((10.11 + 10.1)*100000000)/100000000);
writeln(round((-10.11 + 10.1)*100000000)/100000000);
writeln(round(0.00004000001*100000000)/100000000);
Но тогда 0.00004000001 выводится в экспоненциальной форме.


Можно использовать форматированный вывод вещественных чисел:
Pascal
1
2
3
4
writeln((-10 + 10.1):0:8);
writeln((10.11 + 10.1):0:8);
writeln((-10.11 + 10.1):0:8);
writeln(0.00004000001:0:8);
Будет выделено 8 знаков после запятой, т.е. выводится в нормальной десятичной дроби, но всегда по 8 знаков.

Как сделать так, чтобы было выделено столько, сколько нужно, под дробь, я не нашёл. Может, кто подскажет.

Добавлено через 7 минут
И ещё.
Число перед "Е" - это мантисса. Здесь всё есть об этом. Поэтому там разное количество знаков.
0
Надоела реклама? Зарегистрируйтесь и она исчезнет полностью.
inter-admin
Эксперт
29715 / 6470 / 2152
Регистрация: 06.03.2009
Сообщений: 28,500
Блог
18.01.2017, 20:24
Помогаю со студенческими работами здесь

Преобразования const double в string
Дана const double k = 0.001, как преобразовать в строку string z = 0,001 ?

Есть ли какие то стандартные функции преобразования double в string?
В проекте необходимы функции, для преобразование double в string и наоборот. Первое получилось очень даже просто static double...

Запись информации из вектора типа string в вектор типа double
Как записать только числа , которые хранятся в векторе типа стринг, в вектор типа дабл, в векторе типа стринг есть как буквы так и числа ,...

Функция, которая принимает аргумент типа String и возвращает результат типа Double
Написать функцию, которая принимает аргумент типа String, и возвращает результат типа Double, который содержит числовой эквивалент значения...

Сравнение массива типа string с числом типа double
Добрый день! Проблема заключается в том,что нужно найти индекс максимального размера галактики. Само число хранится в двумерном...


Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
2
Ответ Создать тему
Новые блоги и статьи
Советы по крайней бережливости. Внимание, это ОЧЕНЬ длинный пост.
Programma_Boinc 28.12.2025
Советы по крайней бережливости. Внимание, это ОЧЕНЬ длинный пост. Налог на собак: https:/ / **********/ gallery/ V06K53e Финансовый отчет в Excel: https:/ / **********/ gallery/ bKBkQFf Пост отсюда. . .
Кто-нибудь знает, где можно бесплатно получить настольный компьютер или ноутбук? США.
Programma_Boinc 26.12.2025
Нашел на реддите интересную статью под названием Anyone know where to get a free Desktop or Laptop? Ниже её машинный перевод. После долгих разбирательств я наконец-то вернула себе. . .
Thinkpad X220 Tablet — это лучший бюджетный ноутбук для учёбы, точка.
Programma_Boinc 23.12.2025
Рецензия / Мнение/ Перевод Нашел на реддите интересную статью под названием The Thinkpad X220 Tablet is the best budget school laptop period . Ниже её машинный перевод. Thinkpad X220 Tablet —. . .
PhpStorm 2025.3: WSL Terminal всегда стартует в ~
and_y87 14.12.2025
PhpStorm 2025. 3: WSL Terminal всегда стартует в ~ (home), игнорируя директорию проекта Симптом: После обновления до PhpStorm 2025. 3 встроенный терминал WSL открывается в домашней директории. . .
Как объединить две одинаковые БД Access с разными данными
VikBal 11.12.2025
Помогите пожалуйста !! Как объединить 2 одинаковые БД Access с разными данными.
Новый ноутбук
volvo 07.12.2025
Всем привет. По скидке в "черную пятницу" взял себе новый ноутбук Lenovo ThinkBook 16 G7 на Амазоне: Ryzen 5 7533HS 64 Gb DDR5 1Tb NVMe 16" Full HD Display Win11 Pro
Музыка, написанная Искусственным Интеллектом
volvo 04.12.2025
Всем привет. Некоторое время назад меня заинтересовало, что уже умеет ИИ в плане написания музыки для песен, и, собственно, исполнения этих самых песен. Стихов у нас много, уже вышли 4 книги, еще 3. . .
От async/await к виртуальным потокам в Python
IndentationError 23.11.2025
Армин Ронахер поставил под сомнение async/ await. Создатель Flask заявляет: цветные функции - провал, виртуальные потоки - решение. Не threading-динозавры, а новое поколение лёгких потоков. Откат?. . .
Поиск "дружественных имён" СОМ портов
Argus19 22.11.2025
Поиск "дружественных имён" СОМ портов На странице: https:/ / norseev. ru/ 2018/ 01/ 04/ comportlist_windows/ нашёл схожую тему. Там приведён код на С++, который показывает только имена СОМ портов, типа,. . .
Сколько Государство потратило денег на меня, обеспечивая инсулином.
Programma_Boinc 20.11.2025
Сколько Государство потратило денег на меня, обеспечивая инсулином. Вот решила сделать интересный приблизительный подсчет, сколько государство потратило на меня денег на покупку инсулинов. . . .
КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin
Copyright ©2000 - 2026, CyberForum.ru