社区
VB基础类
帖子详情
计算溢出问题
gbabadboy01
2005-12-08 01:39:12
我是个菜鸟,请问一个问题,为什么我在计算一个乘法的时候,比如说230*256会发生溢出错误,而230*10却不会溢出,如果我想计算230*256,怎样解决,请大虾指点。
...全文
150
4
打赏
收藏
计算溢出问题
我是个菜鸟,请问一个问题,为什么我在计算一个乘法的时候,比如说230*256会发生溢出错误,而230*10却不会溢出,如果我想计算230*256,怎样解决,请大虾指点。
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
4 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
wangtopcool
2005-12-08
打赏
举报
回复
错误原因:
试图在计算中使用一个数字,并且该数字被强制为一个整数,但是结果超过了整数的范围,例如:
Dim x As Long
x = 2000 * 365 ' 错误: 溢出
解决方法:
Dim x As Long
x = CLng(2000) * 365
weiweiplay
2005-12-08
打赏
举报
回复
数据类型定义错误
Summer006
2005-12-08
打赏
举报
回复
clng(230)*256
或者全部定义成long变量来算
northwolves
2005-12-08
打赏
举报
回复
230.0*256
单行文本与多行文本
溢出
时显示省略号的CSS设置
单行文本与多行文本
溢出
时显示省略号的CSS设置
计算
机数据
溢出
怎么解决方法,
计算
机
溢出
问题
(1)
大多数机器对整数使用补码编码,而对浮点数使用IEEE标准754编码。在位级上理解这些编码,且理解其算术运算的数学优缺点,对正确使用编程语言避免漏洞来说,非常重要。1、整数运算(1). 无符号加法针对w位无符号数:
溢出
判断:(2). 补码加法(有符号加法)针对w位补码:
溢出
判断:(3). 无符号乘法:(4). 补码乘法(有符号乘法):先做无符号乘法,再把无符号数转为补码(5). 乘2的幂次无符号数与...
vb
计算
溢出
问题
在Vb
计算
中,如果相乘或者相加的两个数都是integer类型,数值默认是integer类型 这两个数
计算
的和就默认是integer类型 integer类型的最大范围是32767,超过就会
溢出
此时需要将其中或者将两个变量的或者数的类型编程long或者double等类型就不会
溢出
其他类型的
溢出
问题
相同
Java日期
计算
溢出
问题
Java日期
计算
中出现
溢出
的
问题
java基础(十四)之整数
计算
溢出
问题
(原码,补码)
引言: 之所以写关于原码和补码的原因是在牛客网上做一道关于字符串转数字的
问题
,其中就涉及到转化过程中数字
溢出
的
问题
。所以特地进行了原码和补码的再度深入学习。一.原码数字分正负,如某人欠我钱,则可以用负数来表达。所以在原码中规定了二进制串的最高位用于标识符号位,即0代表正,1代表负。这其实是挺符合我们现实世界人思考方式。为了描述方便,这里我们这针对4位二进制进行分析。 现实世界中1在这4位二进制描
VB基础类
7,763
社区成员
197,609
社区内容
发帖
与我相关
我的任务
VB基础类
VB 基础类
复制链接
扫一扫
分享
社区描述
VB 基础类
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章