Форум программистов, компьютерный форум, киберфорум
Java SE (J2SE)
Войти
Регистрация
Восстановить пароль
Блоги Сообщество Поиск Заказать работу  
 
Рейтинг 4.84/19: Рейтинг темы: голосов - 19, средняя оценка - 4.84
Си-решеточник
 Аватар для Rameron
141 / 135 / 60
Регистрация: 07.02.2011
Сообщений: 669

Непонятки с округлением в BigDecimal

10.07.2012, 14:59. Показов 4009. Ответов 5
Метки нет (Все метки)

Студворк — интернет-сервис помощи студентам
Не могу понять, почему результаты вычислений не округляются до указанной длины...

В общем, пример:

Функция, что подносит матрицу к указанной степени:

Java
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
public static Vector<Vector<BigDecimal>> matrixPower(Vector<Vector<BigDecimal>> vcMatrix, int nPower)
    {
        Vector<Vector<BigDecimal>> resultMatrix;
        resultMatrix = getEmptyVTemplate(vcMatrix);
        
        int nSize = vcMatrix.size();
        
        for (int i = 0; i < nSize; i++)
        {
            for (int j = 0; j < nSize; j++)
            {
                resultMatrix.get(i).get(j).setScale(3, BigDecimal.ROUND_HALF_DOWN);
                resultMatrix.get(i).set(j ,vcMatrix.get(i).get(j).pow(nPower));         
            }
        }       
        
        
        return resultMatrix;
    }
Ведь для каждого значения матрицы, каждого BigDecimal я прописываю способ округления, но результирующая матрица имеет не округленные значения.

И что самое интересное - если запросить параметр scale, то до округления он равен нулю, а после округления - 6.

Просьба объяснить, в чём я не прав.
0
Programming
Эксперт
39485 / 9562 / 3019
Регистрация: 12.04.2006
Сообщений: 41,671
Блог
10.07.2012, 14:59
Ответы с готовыми решениями:

BigDecimal setScale
public void Tabulation () { for(double x = this.xBegin; x &lt;= this.xEnd; x = x + this.h){ BigDecimal a = new BigDecimal(y); ...

BigInteger и BigDecimal
Подскажите пожалуйста, каким образом можно инициализировать и заполнять массив из элементов класса BigInteger и BigDecimal.

Ошибка с BigDecimal
import java.math.*; import java. public class BigDecimal { public static void main(String args) { BigInteger c =...

5
Эксперт Java
 Аватар для turbanoff
4094 / 3828 / 745
Регистрация: 18.05.2010
Сообщений: 9,331
Записей в блоге: 12
10.07.2012, 15:09
BigDecimal - немутабельный (immutable). И все операции с ним возвращают новый объект, а старый - не меняют.
Замените
Java
12
                resultMatrix.get(i).get(j).setScale(3, BigDecimal.ROUND_HALF_DOWN);
на
Java
12
13
                BigDeciaml roundValue = resultMatrix.get(i).get(j).setScale(3, BigDecimal.ROUND_HALF_DOWN);
                resultMatrix.get(i).set(j, roundValue);
Добавлено через 3 минуты
хотя у вас там что-то странное дальше происходит. Вы затираете значение.
Что делает getEmptyVTemplate ?

PS. А почему используете Vector, а не ArrayList ?
0
Си-решеточник
 Аватар для Rameron
141 / 135 / 60
Регистрация: 07.02.2011
Сообщений: 669
10.07.2012, 15:17  [ТС]
Функция getEmptyVTemplate:

Java
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
public static Vector<Vector<BigDecimal>> getEmptyVTemplate(Vector<Vector<BigDecimal>> vcInputMatrix)
    {
        Vector<Vector<BigDecimal>> vcMatrix = new Vector<Vector<BigDecimal>>(1,1);
        
        int nSize = vcInputMatrix.size();
        int nRowSize = vcInputMatrix.get(0).size();
        
        Vector<BigDecimal> vcRow;
        for (int i = 0;i<nSize;i++)
        {
            vcRow = new Vector<BigDecimal>(1,1);
            for (int j = 0;j<nRowSize;j++)
            {
                vcRow.add(BigDecimal.valueOf(0));
            }
            vcMatrix.add(vcRow);    
        }
        
        return vcMatrix;
    }
Грубо говоря, создает копию указанной матрицы, обнуляя все значения.

А насчет Vector - а у ArrayList есть какие-то преимущества?
0
Эксперт Java
 Аватар для turbanoff
4094 / 3828 / 745
Регистрация: 18.05.2010
Сообщений: 9,331
Записей в блоге: 12
10.07.2012, 15:29
Тогда делайте так:
Java
12
13
                BigDeciaml roundValue = vcMatrix.get(i).get(j).pow(nPower).setScale(3, BigDecimal.ROUND_HALF_DOWN);
                resultMatrix.get(i).set(j, roundValue);
Vector - synchronized, блокируется при любом вызове метода. То есть медленней, если вам не нужен многопоточный доступ.
1
Си-решеточник
 Аватар для Rameron
141 / 135 / 60
Регистрация: 07.02.2011
Сообщений: 669
10.07.2012, 15:35  [ТС]
Проблему решил, переписав функцию подобным образом:

Java
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
public static Vector<Vector<BigDecimal>> matrixPower(Vector<Vector<BigDecimal>> vcMatrix, int nPower)
    {
        Vector<Vector<BigDecimal>> resultMatrix;
        resultMatrix = getEmptyVTemplate(vcMatrix);
        
        BigDecimal powerResult;
        MathContext ctx;
        int nScale = 3;
        
        int nSize = vcMatrix.size();
        
        for (int i = 0; i < nSize; i++)
        {
            for (int j = 0; j < nSize; j++)
            {
                powerResult = vcMatrix.get(i).get(j).pow(nPower);           
                ctx = new MathContext(powerResult.precision() - (powerResult.scale()-nScale), RoundingMode.HALF_UP);
                resultMatrix.get(i).set(j ,vcMatrix.get(i).get(j).pow(nPower,ctx));         
            }
        }       
        
        
        return resultMatrix;
    }
Хотя дважды подносить одно и тоже в степень...

Добавлено через 4 минуты
Ваш способ гораздо проще, спасибо!
0
 Аватар для Skipy
2000 / 1427 / 92
Регистрация: 25.11.2010
Сообщений: 3,611
10.07.2012, 19:25
Цитата Сообщение от turbanoff Посмотреть сообщение
Vector - synchronized, блокируется при любом вызове метода. То есть медленней
Замедление составляет порядка 10нс на вызов. Проверялось неоднократно. Для сравнения, выполнение одной операции деления с плавающей точкой занимает около 150нс.
0
Надоела реклама? Зарегистрируйтесь и она исчезнет полностью.
inter-admin
Эксперт
29715 / 6470 / 2152
Регистрация: 06.03.2009
Сообщений: 28,500
Блог
10.07.2012, 19:25
Помогаю со студенческими работами здесь

Отображение bigdecimal
День добрый. Имеется t.decimal &quot;average_price&quot;, precision: 8, scale: 2. Сохраняю в бд SET `average_price` = 3.59280368. ...

Преобразование List<BigDecimal>
Добрый день. Я получаю цифровое значение из БД в BigDecimal. Все значения собираются в List Мне нужно найти в этом List максимальное и...

Написать простой калькулятор для чисел BigDecimal
Всем доброго времени суток. Помогите написать простой калькулятор для чисел BigDecimal, в виде: Число1 (знак) Число2 Калькулятор...

Функция с округлением величин
Здравствуйте, не мог бы ведающий Гуру помочь разобраться в скрипте? Задача скрипта выдать результат, из заданных значений, некоторые из...

Проблема с округлением чисел
Есть функция, получающая дробную часть числа в системе счисления с основанием p void dectox_double(double a, int p, char *s) { int...


Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
6
Ответ Создать тему
Новые блоги и статьи
http://iceja.net/ математические сервисы
iceja 20.01.2026
Обновила свой сайт http:/ / iceja. net/ , приделала Fast Fourier Transform экстраполяцию сигналов. Однако предсказывает далеко не каждый сигнал (см ограничения http:/ / iceja. net/ fourier/ docs ). Также. . .
http://iceja.net/ сервер решения полиномов
iceja 18.01.2026
Выкатила http:/ / iceja. net/ сервер решения полиномов (находит действительные корни полиномов методом Штурма). На сайте документация по API, но скажу прямо VPS слабенький и 200 000 полиномов. . .
Расчёт переходных процессов в цепи постоянного тока
igorrr37 16.01.2026
/ * Дана цепь постоянного тока с R, L, C, k(ключ), U, E, J. Программа составляет систему уравнений по 1 и 2 законам Кирхгофа, решает её и находит переходные токи и напряжения на элементах схемы. . . .
Восстановить юзерскрипты Greasemonkey из бэкапа браузера
damix 15.01.2026
Если восстановить из бэкапа профиль Firefox после переустановки винды, то список юзерскриптов в Greasemonkey будет пустым. Но восстановить их можно так. Для этого понадобится консольная утилита. . .
Сукцессия микоризы: основная теория в виде двух уравнений.
anaschu 11.01.2026
https:/ / rutube. ru/ video/ 7a537f578d808e67a3c6fd818a44a5c4/
WordPad для Windows 11
Jel 10.01.2026
WordPad для Windows 11 — это приложение, которое восстанавливает классический текстовый редактор WordPad в операционной системе Windows 11. После того как Microsoft исключила WordPad из. . .
Classic Notepad for Windows 11
Jel 10.01.2026
Old Classic Notepad for Windows 11 Приложение для Windows 11, позволяющее пользователям вернуть классическую версию текстового редактора «Блокнот» из Windows 10. Программа предоставляет более. . .
Почему дизайн решает?
Neotwalker 09.01.2026
В современном мире, где конкуренция за внимание потребителя достигла пика, дизайн становится мощным инструментом для успеха бренда. Это не просто красивый внешний вид продукта или сайта — это. . .
КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin
Copyright ©2000 - 2026, CyberForum.ru