因BigDecimal类型数据引出的问题详析
前言
我们都知道,java中对大小数,高精度的计算都会用到BigDecimal.但是在实际应用中,运用BigDecimal还是会遇到一些问题,下面话不多说了,来一起看看详细的介绍吧
问题描述:
程序中需要判断一个字段是否为0(字段类型为BigDecimal),想都没想,对象的判断用equals?结果却与预期有一定的差距,看下面代码及运行结果。
publicstaticvoidmain(String[]args){ BigDecimaldecimal1=BigDecimal.valueOf(0); BigDecimaldecimal2=newBigDecimal("0.00"); System.out.println("theresultis"+decimal1.equals(decimal2)); }
运行结果:
theresultisfalse
结论:BigDecimal类型比较相等不能简单的通过equals方法实现。
BigDecimal类的equals方法源码如下:
publicbooleanequals(Objectx){ if(!(xinstanceofBigDecimal)) returnfalse; BigDecimalxDec=(BigDecimal)x; if(x==this) returntrue; if(scale!=xDec.scale)//这里会比较数字的精度 returnfalse; longs=this.intCompact; longxs=xDec.intCompact; if(s!=INFLATED){ if(xs==INFLATED) xs=compactValFor(xDec.intVal); returnxs==s; }elseif(xs!=INFLATED) returnxs==compactValFor(this.intVal); returnthis.inflate().equals(xDec.inflate()); }
看上面的注释可以知道,BigDecimal类的equals方法会判断数字的精度,看下面的代码及运行结果:
publicstaticvoidmain(String[]args){ BigDecimaldecimal1=BigDecimal.valueOf(0).setScale(2); BigDecimaldecimal2=newBigDecimal("0.00").setScale(2); System.out.println("theresultis"+decimal1.equals(decimal2)); }
运行结果:
theresultistrue
结论:使用BigDecimal类equals方法判断两个BigDecimal类型的数据时,需要设置精度,否则结果可能不正确。
思考:每次都设置精度比较麻烦,有其他方式进行相等的比较吗?
看了下BigDecimal的方法列表,有一个名为compareTo的方法,通过注释可知,貌似可以进行不同精度的比较,看下面的代码。
publicstaticvoidmain(String[]args){ BigDecimaldecimal1=BigDecimal.valueOf(1.1); BigDecimaldecimal2=newBigDecimal("1.10"); System.out.println("theresultis"+decimal1.compareTo(decimal2)); }
运行结果:
theresultis0
0表示两个数相等,所有可以通过compareTo实现不同精度的两个BigDecimal类型的数字是否相等的比较
引出的问题:公司的项目中,为了避免由于精度丢失引起问题,凡是有精度要求的字段用的都是BigDecimal类型。数据持久层用的是Mybatis框架,Mybatis的mapper文件中有些条件判断用的是BigDecimal对应的字段,如下:
select*fromtb_scorewhere1=1 andscore>#{score} ...
score是一个BigDecimal类型的字段,score!=0Mybatis是如何进行判断的,会不会用的是上面的equals方法?如果是那么项目上线会不会捅大篓子,想到这儿,有点怕了。写了个程序测了下,这样写完全没问题,能够达到我想要的目的。但是还是有点担心,看看Mybatis底层是如何实现的吧,以免以后犯类似的错误嘛。
经过分析调试,很快就找到了关键代码的位置,如下:
publicclassExpressionEvaluator{ publicbooleanevaluateBoolean(Stringexpression,ObjectparameterObject){ Objectvalue=OgnlCache.getValue(expression,parameterObject); if(valueinstanceofBoolean){ return(Boolean)value; } if(valueinstanceofNumber){ return!newBigDecimal(String.valueOf(value)).equals(BigDecimal.ZERO); } returnvalue!=null; } ...
publicfinalclassOgnlCache{ .... publicstaticObjectgetValue(Stringexpression,Objectroot){ try{ Map
用的是表达式求值,Ognl这个类的竟然没有源码,apache的官网上找了下,是有相应的源码的,只是需要单独下载,真麻烦,算了不看了。据说底层用的是Spring的ognl表达式,我也不关心了。但是以后如果不确定mapper中的test是否正确咋个办?
想了下,还是写一个工具类在拿不准的时候用一下吧,反正拿不准的时候肯定很少,所以随便写了简单的吧,如下:
publicstaticvoidmain(String[]args){ ExpressionEvaluatorevaluator=newExpressionEvaluator(); Stringexpression="score!=nullandscore!=0"; DynamicContextcontext=newDynamicContext(newConfiguration(),null); context.bind("score",BigDecimal.valueOf(0.1)); Booleanflag=evaluator.evaluateBoolean(expression,context.getBindings()); System.out.println("theresultis"+flag); }
运行结果:
theresultistrue
总结
开发过程中,一定要细心去处理细节上的东西,不然一不小心就跳坑里了,轻则系统造成数据的不一致,修复数据;重则造成重大的损失....
好了,以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,如果有疑问大家可以留言交流,谢谢大家对毛票票的支持。