高精度数值类型
- Decimal/Number数据类型能以高精度存储非常大的数字,并能准确地计算。当前实现中Number和Decimal合并为同一类型。
- Decimal/Number数据类型当前最大能存储40位有效数字。
- 对于Decimal/Number数据类型,若结果溢出则报错,报错信息为GS-00659:%s out of range。
DECIMAL/NUMBER
语法:
NUMBER/DECIMAL NUMBER/DECIMAL(p) NUMBER/DECIMAL(p,s)
功能:存储高精度浮点数。
取值范围:(-1.0E128, 1.0E128)
- p取值范围[1,38],表示能存储的最大精度。
- s取值[-84,127],表示小数点后面有效数字个数。
- 若不指定p和s,表示不对小数点后面的数值做限制,最大能存储40位有效数字。
- 若不指定s或s=0时, 表示number类型没有小数部分。
占用空间:4~24字节。
对应关键字:
- DECIMAL
- NUMBER
- NUMERIC
用户可以按以下方式定义Decimal/Number列:
- column_name NUMBER
此时,该列直接存储输入的值,并按最大40位有效数字存储。
- column_name NUMBER(precision, scale)
GaussDB 100支持指定Number类型的精度(precision)和小数位(scale),语法格式为:
column_name NUMBER(precision, scale)
- precision表示有效数字个数,其取值范围为[1, 38],scale表示小数点右侧的数据位数,其取值范围为[-84,127]。若scale为负数,则将小数点左边对应个数的数字约掉。
- 若仅指定了precision且未指定scale,则scale的默认值为0,即:column_name NUMBER(precision),此时,scale默认为0。表示没有小数部分。
下表列举了precision和scale对Number类型存储的影响。
表1 precision和scale对Number类型存储的影响 输入数据
NUMBER定义
存储结果
1234567.89
NUMBER
1234567.89
1234567.89
NUMBER(12,1)
1234567.9(末尾9被四舍五入)
1234567.61
NUMBER(12,1)
1234567.6
1234567.61
NUMBER(12)
1234568
1234567.61
NUMBER(12,3)
1234567.61
1234567.61
NUMBER(12,6)
错误,精度溢出
1234567.61
NUMBER(12,-2)
1234600
说明:Decimal/Number类型采用变长存储,其长度跟其有效数字有关。
「喜欢这篇文章,您的关注和赞赏是给作者最好的鼓励」
关注作者
【版权声明】本文为墨天轮用户原创内容,转载时必须标注文章的来源(墨天轮),文章链接,文章作者等基本信息,否则作者和墨天轮有权追究责任。如果您发现墨天轮中有涉嫌抄袭或者侵权的内容,欢迎发送邮件至:contact@modb.pro进行举报,并提供相关证据,一经查实,墨天轮将立刻删除相关内容。