一个函数解决SQLServer中bigint 转 int带符号时报错问题
有一个需求是要在一个云监控的状态值中存储多个状态(包括可同时存在的各种异常、警告状态)使用了位运算机制在一个int型中存储。
现在监控日志数据量非常大(亿级别)需要对数据按每小时、每天进行聚合,供在线报表使用。
状态分了3个级别:正常(0)、警告(1)、异常(2),聚合时需要使用max选择最差的状态,就需要对状态值进行处理加上级别和状态位个数,就要借助bigint型来做运算了,
问题是再将bigint转为int时获取原始状态值时,SQLServer报错了:
消息8115,级别16,状态2,第1行
将expression转换为数据类型int时出现算术溢出错误。
因为状态码中已经用到了0x80000000,出现了符号位的问题。
写了一个转换函数解决了。
CREATEFUNCTION[dbo].[BigintToInt] ( @Valuebigint ) RETURNSint AS BEGIN --是否有int符号位 IF@Value&0x80000000<>0RETURN@Value&0xFFFFFFFF|0xFFFFFFFF00000000 --无符号位 RETURN@Value&0xFFFFFFFF END
热门推荐
10 读书祝福语女生短句简短
11 感谢同事新婚祝福语简短
12 感谢教官文案祝福语简短
13 员工聚会蛋糕祝福语简短
14 元宵发客户祝福语简短
15 给团队信心祝福语简短
16 医美的祝福语大全简短
17 异国姻缘的祝福语简短
18 兄妹拍照祝福语简短的话