书香 发表于 2024-2-29 02:59

【数值类型的限制范围】

本帖最后由 书香 于 2024-2-29 15:58 编辑

1:短整数型。可容纳 -32,768 到 32,767 之间的数值,尺寸为 2 个字节。

2:整数型。可容纳 -2,147,483,648 到 2,147,483,647 之间的数值,尺寸为 4 个字节。

3:长整数型。可容纳 -9,223,372,036,854,775,808 到 9,223,372,036,854,775,807 之间的数值,尺寸为 8 个字节。

4:小数型。可容纳 3.4E +/- 38 (7位小数) 之间的数值,尺寸为 4 个字节。

5:双精度小数型。可容纳 1.7E +/- 308 (15位小数) 之间的数值,尺寸为 8 个字节。
为什么是这么多讲起来太复杂,我们就讲解一下在使用中的注意事项

①:涉及到小数的变量我们使用   双精度小数型,这个范围是最大的
.版本 2

.局部变量 a, 双精度小数型


②:数据类型转换时应尽可能的使用到数值,而不是到整数
a = 到数值 (123)

③:当数值在-2,147,483,648 到 2,147,483,647范围外的时候应使用长整数,比如现在一些账号(比如手机号)都大于2,147,483,647,很多人用来做运算的时候直接到整数,结果显示的数是错的,应该要到长整数


④:创建的变量尽可能的避免使用长整数类型,因为整数基本够用,特殊的地方使用长整数可以起到提醒作用,而且大多数的函数都是返回的整数类型,你使用一个长整数去接收倒是不会出错就是感觉怪怪的

难点:
从专业角度来说,32位的程序一次性只可以提取4个字节,应该尽可能避免使用8个字节大小的数据(提取2次),这也解释为什么要有这么多种类型,而不是直接就保留   双精度小数型和长整数型的原因,但其实对于这点速度我们可以忽略不计

难点2:
再来谈一下这个数据类型的尺寸什么意思,一个字节是是8个2进制长度,例如短整数型是2个字节,也就是16个2进制表示,然后因为要表示正负,所以,最大值就是15个1,对应的10进制就是32767,这里需要注意的是

(点击返回课程目录:https://www.52hb.com/thread-58658-1-1.html)

lies 发表于 2024-2-29 11:06

学习了,谢谢!

我不介绍 发表于 2025-2-12 23:14

感谢科普,感谢分享教学
页: [1]
查看完整版本: 【数值类型的限制范围】