Блог

Я выполняю вычисление и не получаю ожидаемого ответа. Я теряю некоторый масштаб при выполнении вычисления.

Calc равен: 651/1000 * -413.72063274 = -269.33213191 (до 8 д.п.)

В SQL Server я делаю это:

 declare @var numeric(28,8)
declare @a numeric(28,8)
declare @b numeric(28,8)

set @var = -413.72063274
set @a   = 651.00000000
set @b   = 1000.00000000

select CAST((@a/@b) * @var as numeric(28,8)) as result_1
     , CAST(CAST(@a as numeric(28,8)) 
      /CAST(@b as numeric(28,8)) as numeric(28,8)) 
      *CAST(@var as numeric (28,8))   as result_2
  

Результаты

результат_1: -269.33213200 (соответствует 6dp)
результат_2: -269.332132 (соответствует 6dp)

Как мне заставить запрос возвращать: -269.33213191 (исправить на 8dp)?

Правила преобразования decimal в decimal для умножения и деления описаны в BOL.

* Точность результата и масштаб имеют абсолютный максимум 38. Когда точность результата превышает 38, соответствующий масштаб уменьшается, чтобы предотвратить усечение неотъемлемой части результата.

но оставляет неуказанным, как именно выполняется такое усечение. Это задокументировано здесь . Однако иногда проще просто использовать метод проб и ошибок!

Следующие промежуточные приведения дают желаемый результат. Сможете ли вы с этим смириться?

 DECLARE @var NUMERIC(19,8)
DECLARE @a NUMERIC(19,8)
DECLARE @b NUMERIC(19,8)

SET @var = -413.72063274
SET @a   = 651.00000000
SET @b   = 1000.00000000

DECLARE @v SQL_VARIANT 
SET @v =  CAST(@a/@b AS NUMERIC(24,10))* CAST(@var AS NUMERIC(23,8))

SELECT    CAST(SQL_VARIANT_PROPERTY(@v, 'BaseType') AS VARCHAR(30)) AS BaseType,    
          CAST(SQL_VARIANT_PROPERTY(@v, 'Precision') AS INT) AS PRECISION,    
          CAST(SQL_VARIANT_PROPERTY(@v, 'Scale') AS INT) AS Scale
  

В этом конкретном случае вы могли бы схитрить, сначала умножив все значения и разделив конечный результат обратно на этот множитель.

 declare @var numeric(28,8)
declare @a numeric(28,8)
declare @b numeric(28,8)
declare @m numeric(28,8)

set @var = -413.72063274
set @a   = 651.00000000
set @b   = 1000.00000000
set @m   = 10000000


select CAST(((@a*@m) * (@var*@m) / (@b*@m)) AS NUMERIC(28, 8)) / @m 
-- Result: -269.3321319137
  

Редактировать

с другой стороны, following сохраняет свою точность без использования множителя

 select CAST(@a * @var AS NUMERIC(28, 8)) / @b
-- Result: -269.3321319140
  

Вы начинаете с деления, а после этого умножаете. Потеря точности заключается в делении. Это значение округляется до 8 dp, и результат умножается на 3-значное (413) значение (отсюда пропущенные последние две цифры)

Решением было бы использовать большую точность для промежуточных результатов или сначала выполнить умножение.

(@a * @var) / @b математически равно вашему вычислению, но может дать более точные результаты.