找回密码
 注册
关于网站域名变更的通知
查看: 417|回复: 4
打印 上一主题 下一主题

为什么 floor((5+0.1)*100) 的结果是509哇?

[复制链接]

该用户从未签到

跳转到指定楼层
1#
发表于 2017-2-28 11:07 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式

EDA365欢迎您登录!

您需要 登录 才可以下载或查看,没有帐号?注册

x
为什么 floor((5+0.1)*100) 的结果是509哇?

skill > floor((4+0.1)*100)
409
Skill > floor((5+0.1)*100)
509
Skill > floor((6+0.1)*100)
610
Skill > floor((3+0.1)*100)
310
Skill > floor((2+0.1)*100)
210
Skill > floor((1+0.1)*100)
110
Skill > floor((7+0.1)*100)
710
Skill >

该用户从未签到

2#
发表于 2017-2-28 17:14 | 只看该作者
计算机保存小数就有这毛病,你执行下
printf("%.20f", 5.1)
就可以看到,虽然输入的是5.1,但是实际保存的是一个很接近5.1的小数

点评

改成 round 了。现在可以咯。 谢谢  详情 回复 发表于 2017-3-3 18:35

该用户从未签到

3#
 楼主| 发表于 2017-3-3 18:35 | 只看该作者
chrysalis 发表于 2017-2-28 17:14
计算机保存小数就有这毛病,你执行下
printf("%.20f", 5.1)
就可以看到,虽然输入的是5.1,但是实际保存 ...

改成 round 了。现在可以咯。  谢谢

该用户从未签到

4#
发表于 2017-6-7 22:22 | 只看该作者
学到了,看来编程必须得小心

该用户从未签到

5#
发表于 2017-6-7 22:27 | 只看该作者
floor
floor(
n_number
)
=> x_integer
Description
Returns the largest integer not larger than the given argument
您需要登录后才可以回帖 登录 | 注册

本版积分规则

关闭

推荐内容上一条 /1 下一条

EDA365公众号

关于我们|手机版|EDA365电子论坛网 ( 粤ICP备18020198号-1 )

GMT+8, 2025-6-21 11:40 , Processed in 0.078125 second(s), 28 queries , Gzip On.

深圳市墨知创新科技有限公司

地址:深圳市南山区科技生态园2栋A座805 电话:19926409050

快速回复 返回顶部 返回列表