热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

存储过程中字段计算,传入的小数在计算前就被四舍五入的问题。

存储过程部分代码如下:BasicUnit_1在数据库中为money类型我这里的@BasicUnit_1是用来计算BasicUnit_1字段的倍率。根据出厂价*倍率来批量设置Basic
存储过程部分代码如下:
BasicUnit_1在数据库中为 money类型
我这里的@BasicUnit_1 是用来计算BasicUnit_1字段的倍率。
根据出厂价*倍率来批量设置 BasicUnit_1 的价格。
BasicUnit_1 = ROUND((FactoryPrice * @BasicUnit_1),2)
用了好些保留两位的方法,也测试了单纯的 FactoryPrice * @BasicUnit_1 计算
假设 FactoryPrice = 4 传入 @BasicUnit_1 = 1.2 时   BasicUnit_1结果为4
传入 @BasicUnit_1 = 1.5 时   BasicUnit_1结果为8
应该是@BasicUnit_1 在计算前就被进行了四舍五入。以前没遇到过这个问题,求解决。

另外我这里用到了临时表来暂存一个批量修改的ID列表。
这个条件会被执行到20来次的价格设置条件,为避免相同的条件查询就做了个临时表。

本来想用表变量,无奈不能用
EXEC来执行带表变量的SQL语句。

也想过用条件判断字符串拼接来做更新语句,代码实在有些长。这个功能很少用到。
不知道这样做性能如何。



ALTER procedure [dbo].[UpdatePrice]--更新产品价格
(
--价格信息
@RowCounts int=0 output,--返回受影响的行数
@FactoryPrice Money = 0,--出厂价格
@BasicUnit_1 Decimal = 0,
@BasicUnit_2 Decimal = 0,
@BasicUnit_3 Decimal = 0,
@BasicUnit_4 Decimal = 0,
@BasicUnit_5 Decimal = 0,
@BasicUnit_6 Decimal = 0,
@Unit2_1 Decimal = 0,--包装2价格
@Unit2_2 Decimal = 0,
@Unit2_3 Decimal = 0,
@Unit2_4 Decimal = 0,
@Unit2_5 Decimal = 0,
@Unit2_6 Decimal = 0,
@Unit3_1 Decimal = 0,--包装3价格
@Unit3_2 Decimal = 0,
@Unit3_3 Decimal = 0,
@Unit3_4 Decimal = 0,
@Unit3_5 Decimal = 0,
@Unit3_6 Decimal = 0,
@strWhere varchar(1000)
)

AS

SET NOCOUNT ON
SET ANSI_WARNINGS OFF
SET XACT_ABORT ON
DECLARE @Sql VARCHAR(1000)

CREATE TABLE #TempTable (ProductID INT)
SET @Sql = 'INSERT INTO #TempTable (ProductID) SELECT (ProductID) FROM V_Products WHERE '+ @strWhere
EXEC(@Sql)

BEGIN TRAN
SET @RowCounts = @@RowCount

if(@FactoryPrice != 0)
begin
UPDATE ProductPrice SET FactoryPrice=@FactoryPrice where ProductID IN (select ProductID from #TempTable)
SET @RowCounts = @RowCounts + @@RowCount
end
----------------包装单位1价格----------------------------
IF ISNULL(@BasicUnit_1, 0) != 0
BEGIN
UPDATE ProductPrice SET BasicUnit_1 = ROUND((FactoryPrice * @BasicUnit_1),2) where ProductID IN (select ProductID from #TempTable)
SET @RowCounts = @RowCounts + @@RowCount
END
COMMIT TRAN
PRINT(@RowCounts)

7 个解决方案

#1


declare @variant decimal(p,s)

decimal默认为decimal(18,0)

#2


根据我以前给银行做系统的经验,由于都是上千亿,并且最后汇总不能误差大于1块钱。所以当时公司规定,一般都保留到小数点6位,然后在最后一步汇总的时候才convert来截取小数位。这样误差会小很多。如果过早四舍五入,当数据量大的时候,误差就比较明显。

#3


晕死,我在建表的时候是 (18,2)的 这里没想到~ 

#4


 @BasicUnit_1  --> 这个变量 你设什么类型? 试试 numeric(18,2)

#5


引用 2 楼 DBA_Huangzj 的回复:
根据我以前给银行做系统的经验,由于都是上千亿,并且最后汇总不能误差大于1块钱。所以当时公司规定,一般都保留到小数点6位,然后在最后一步汇总的时候才convert来截取小数位。这样误差会小很多。如果过早四舍五入,当数据量大的时候,误差就比较明显。

我也想精确点的,结果犯了个很低级的错误~ 没问前还没发现错误在哪里。

大侠帮我看看这样的临时表,性能方面是否可行。
每次执行存储过程时候 这个条件可能会被用到很多次。  如果多用户执行这个存储过程 临时表应该是互相独立的吧。 我记得是根据每个用户的Session来建立的。

#6


临时表是根据每个connection来建立的

#7


引用 5 楼 banian_cn 的回复:
引用 2 楼 DBA_Huangzj 的回复:
根据我以前给银行做系统的经验,由于都是上千亿,并且最后汇总不能误差大于1块钱。所以当时公司规定,一般都保留到小数点6位,然后在最后一步汇总的时候才convert来截取小数位。这样误差会小很多。如果过早四舍五入,当数据量大的时候,误差就比较明显。
我也想精确点的,结果犯了个很低级的错误~ 没问前还没发现错误在哪里。

大侠帮我看看这样的临时表,……
对,临时表是每个连接独有的,除非你使用了全局临时表也就是##开头的。

推荐阅读
  • 在Oracle11g以前版本中的的DataGuard物理备用数据库,可以以只读的方式打开数据库,但此时MediaRecovery利用日志进行数据同步的过 ... [详细]
  • Java String与StringBuffer的区别及其应用场景
    本文主要介绍了Java中String和StringBuffer的区别,String是不可变的,而StringBuffer是可变的。StringBuffer在进行字符串处理时不生成新的对象,内存使用上要优于String类。因此,在需要频繁对字符串进行修改的情况下,使用StringBuffer更加适合。同时,文章还介绍了String和StringBuffer的应用场景。 ... [详细]
  • 高质量SQL书写的30条建议
    本文提供了30条关于优化SQL的建议,包括避免使用select *,使用具体字段,以及使用limit 1等。这些建议是基于实际开发经验总结出来的,旨在帮助读者优化SQL查询。 ... [详细]
  • MyBatis多表查询与动态SQL使用
    本文介绍了MyBatis多表查询与动态SQL的使用方法,包括一对一查询和一对多查询。同时还介绍了动态SQL的使用,包括if标签、trim标签、where标签、set标签和foreach标签的用法。文章还提供了相关的配置信息和示例代码。 ... [详细]
  • 本文介绍了在开发Android新闻App时,搭建本地服务器的步骤。通过使用XAMPP软件,可以一键式搭建起开发环境,包括Apache、MySQL、PHP、PERL。在本地服务器上新建数据库和表,并设置相应的属性。最后,给出了创建new表的SQL语句。这个教程适合初学者参考。 ... [详细]
  • 本文介绍了如何使用php限制数据库插入的条数并显示每次插入数据库之间的数据数目,以及避免重复提交的方法。同时还介绍了如何限制某一个数据库用户的并发连接数,以及设置数据库的连接数和连接超时时间的方法。最后提供了一些关于浏览器在线用户数和数据库连接数量比例的参考值。 ... [详细]
  • 本文介绍了一个在线急等问题解决方法,即如何统计数据库中某个字段下的所有数据,并将结果显示在文本框里。作者提到了自己是一个菜鸟,希望能够得到帮助。作者使用的是ACCESS数据库,并且给出了一个例子,希望得到的结果是560。作者还提到自己已经尝试了使用"select sum(字段2) from 表名"的语句,得到的结果是650,但不知道如何得到560。希望能够得到解决方案。 ... [详细]
  • 本文详细介绍了Spring的JdbcTemplate的使用方法,包括执行存储过程、存储函数的call()方法,执行任何SQL语句的execute()方法,单个更新和批量更新的update()和batchUpdate()方法,以及单查和列表查询的query()和queryForXXX()方法。提供了经过测试的API供使用。 ... [详细]
  • 本文讨论了在数据库打开和关闭状态下,重新命名或移动数据文件和日志文件的情况。针对性能和维护原因,需要将数据库文件移动到不同的磁盘上或重新分配到新的磁盘上的情况,以及在操作系统级别移动或重命名数据文件但未在数据库层进行重命名导致报错的情况。通过三个方面进行讨论。 ... [详细]
  • ALTERTABLE通过更改、添加、除去列和约束,或者通过启用或禁用约束和触发器来更改表的定义。语法ALTERTABLEtable{[ALTERCOLUMNcolu ... [详细]
  • 前景:当UI一个查询条件为多项选择,或录入多个条件的时候,比如查询所有名称里面包含以下动态条件,需要模糊查询里面每一项时比如是这样一个数组条件:newstring[]{兴业银行, ... [详细]
  • Oracle seg,V$TEMPSEG_USAGE与Oracle排序的关系及使用方法
    本文介绍了Oracle seg,V$TEMPSEG_USAGE与Oracle排序之间的关系,V$TEMPSEG_USAGE是V_$SORT_USAGE的同义词,通过查询dba_objects和dba_synonyms视图可以了解到它们的详细信息。同时,还探讨了V$TEMPSEG_USAGE的使用方法。 ... [详细]
  • web.py开发web 第八章 Formalchemy 服务端验证方法
    本文介绍了在web.py开发中使用Formalchemy进行服务端表单数据验证的方法。以User表单为例,详细说明了对各字段的验证要求,包括必填、长度限制、唯一性等。同时介绍了如何自定义验证方法来实现验证唯一性和两个密码是否相等的功能。该文提供了相关代码示例。 ... [详细]
  • Java学习笔记之使用反射+泛型构建通用DAO
    本文介绍了使用反射和泛型构建通用DAO的方法,通过减少代码冗余度来提高开发效率。通过示例说明了如何使用反射和泛型来实现对不同表的相同操作,从而避免重复编写相似的代码。该方法可以在Java学习中起到较大的帮助作用。 ... [详细]
  • MySQL语句大全:创建、授权、查询、修改等【MySQL】的使用方法详解
    本文详细介绍了MySQL语句的使用方法,包括创建用户、授权、查询、修改等操作。通过连接MySQL数据库,可以使用命令创建用户,并指定该用户在哪个主机上可以登录。同时,还可以设置用户的登录密码。通过本文,您可以全面了解MySQL语句的使用方法。 ... [详细]
author-avatar
手机用户2502895931
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有