社区
MS-SQL Server
帖子详情
float数值范围
zhengyingcan
2008-10-28 04:21:11
float数值范围
float从-1.79E+308到1.79E+308可变精度的数字 ,但是我看不懂,能不能具体点,比如从 1255.25225525222 ~ -1255.25225525222 这样子 我就能看得懂了,
flaot跟它一样,小数位一样多,比它范围更大,精确度更大的字符类型是那一种呢
real从-3.04E+38到3.04E+38可变精度的数字
这个范围具体点的话,应该是从多少到多少呢
...全文
4012
6
打赏
收藏
float数值范围
float数值范围 float从-1.79E+308到1.79E+308可变精度的数字 ,但是我看不懂,能不能具体点,比如从 1255.25225525222 ~ -1255.25225525222 这样子 我就能看得懂了, flaot跟它一样,小数位一样多,比它范围更大,精确度更大的字符类型是那一种呢 real从-3.04E+38到3.04E+38可变精度的数字 这个范围具体点的话,应该是从多少到多少呢
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
6 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
ChinaJiaBing
2008-10-28
打赏
举报
回复
到联机丛书查查...
dawugui
2008-10-28
打赏
举报
回复
[Quote=引用楼主 zhengyingcan 的帖子:]
float数值范围
float从-1.79E+308到1.79E+308可变精度的数字 ,但是我看不懂,能不能具体点,比如从 1255.25225525222 ~ -1255.25225525222 这样子 我就能看得懂了,
flaot跟它一样,小数位一样多,比它范围更大,精确度更大的字符类型是那一种呢
real从-3.04E+38到3.04E+38可变精度的数字
这个范围具体点的话,应该是从多少到多少呢
[/Quote]
数据太大,以至于没必要用具体的数值显示出来.
-1.79E+308
=
-1.79 * 100000...000(308个0)
水族杰纶
2008-10-28
打赏
举报
回复
E+308是指10的308次方
水族杰纶
2008-10-28
打赏
举报
回复
E科學計數法
dawugui
2008-10-28
打赏
举报
回复
float 和 real
用于表示浮点数字数据的近似数字数据类型。浮点数据为近似值;并非数据类型范围内的所有数据都能精确地表示。
语法
float [ ( n ) ]
从 - 1.79E + 308 到 1.79E + 308 之间的浮点数字数据。n 为用于存储科学记数法 float 数尾数的位数,同时指示其精度和存储大小。n 必须为从 1 到 53 之间的值。
n 所在范围 精度 存储大小
1-24 7 位数 4 字节
25-53 15 位数 8 字节
Microsoft® SQL Server™ float[(n)] 数据类型对于从 1 到 53 之间的所有 n 值均符合 SQL-92 标准。double precision 的同义词为 float(53)。
real
从 ?3.40E + 38 到 3.40E + 38 之间的浮点数字数据。存储大小为 4 字节。在 SQL Server 中,real 的同义词为 float(24)。
fzcheng
2008-10-28
打赏
举报
回复
float [ ( n ) ]
其中 n 为用于存储 float 数值尾数的位数,以科学记数法表示,因此可以确定精度和存储大小。如果指定了 n,则它必须是介于 1 和 53 之间的某个值。n 的默认值为 53。
搞定系列 :paddleocr训练自己数据集windows版
paddleocr训练自己数据集windows版是一门专门适合初学者训练自己的paddleocr模型教程。通过本教程您可以收获:(1)学会在windows上安装自己的显卡驱动(2)学会在windows上安装cuda+cudnn(3)学会在windows上安装anaconda3(4)学会在windows安装PPOCRLabel以及使用PPOCRLabel标注自己的数据集(5)学会使用paddleocr训练文本检测模型(6)学会使用paddleocr训练文本识别模型(7)学会使用paddleocr导出自己的模型(8)学会使用paddleocr测试自己的模型
float
精度和
数值
范围
float
:一般的编译器为其分配的内存为4个字节,内存表示形式:符号为(1位)阶码(8位有符号整型数)尾数(23位)
精度:有效数字或者说小数点之后的位数为23位,2^(-23)=0.0000001,所以精度为6~7位,
数值
范围
为1+1=2
数值
范围
:8位阶码可表示的有符号整数大小为-128~127,2^127=1.7*10^38,而尾数部分的
数值
范围
为-2.0~2.0,由此可得出
float
数值
范围
为-3.4e38~3.4e38
float
, double
数值
范围
及计算方式
数值
范围
int(整型) 尺寸:32bit
范围
:-2147483648~2147483647 -2^31=-2147483648; 2^31-1=2147483647; 说明:首位为0表示正数,为1表示负数等价于 111111111…->01111111… 备注:其余整形同理 浮点数 单精度
float
尺寸:32bit
范围
: 负值取值
范围
为 -3.4028235E+38 到 -1.4012984E-45; 正值取值
范围
为 -1.4012984E-45 到 3.4028235E+38。
关于
float
,double等表示的
数值
范围
的计算
最近看了IEEE754浮点数的表示方法。在C的参考书中有提到
float
类型数据的表示
范围
为-3.4*10^38~+3.4*10^38。究竟如何计算该
范围
,分析如下: 对于单精度浮点数(
float
)来说,有一位符号位,指数位共8位,尾数共23位。指数能够表示的指数
范围
为-128~127。尾数为23位。当尾数全1时再加上小数点前面的1,指数取到最大正数127(8位,正数最大127,负数最小-1
float
的
范围
和有效位
float
的
范围
和有效位
float
范围
是3.4E-38 ——3.4E+38,可提供7位有效数字。 上述这两个量都是近似值,各个编译器不太一样的。 下面我就将标准值是怎么定义的,和你说一下: 这个比较复杂,建议你找一下IEEE754标准看一下。 这个简单说一下吧: 在IEEE754标准中进行了单精度浮点数(
float
)和双精度数浮点数(double)的定义。
float
有32bit,double有64bit。它们的构成包括符号位、指数位和尾数位。 这些位的构成如下: 种类-------符号位...
MS-SQL Server
34,591
社区成员
254,589
社区内容
发帖
与我相关
我的任务
MS-SQL Server
MS-SQL Server相关内容讨论专区
复制链接
扫一扫
分享
社区描述
MS-SQL Server相关内容讨论专区
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章