这是一个bug?浮动操作被视为整数
发布时间:2021-01-17 15:04:35 所属栏目:asp.Net 来源:互联网
导读:此操作返回0: string value = “0.01”;float convertedValue = float.Parse(value);return (int)(convertedValue * 100.0f); 但是这个操作返回1: string value = “0.01”;float convertedValue = float.Parse(value) * 100.0f;r
此操作返回0: string value = “0.01”; float convertedValue = float.Parse(value); return (int)(convertedValue * 100.0f); 但是这个操作返回1: string value = “0.01”; float convertedValue = float.Parse(value) * 100.0f; return (int)(convertedValue); 因为convertedValue是一个浮点数,而是在括号中* 100f不应该被视为浮动操作? 解决方法两者之间的区别在于编译器优化浮点运算的方式.让我解释.string value = "0.01"; float convertedValue = float.Parse(value); return (int)(convertedValue * 100.0f); 在此示例中,该值被解析为80位浮点数,用于计算机的内部浮点地牢.然后将其转换为32位浮点数以存储在convertedValue变量中.这使得值被四舍五入,似乎是略小于0.01的数字.然后将其转换回80位浮点数乘以100,将舍入误差增加100倍.然后将其转换为32位int.这导致float被截断,并且由于它实际上略小于1,所以int转换返回0. string value = "0.01"; float convertedValue = float.Parse(value) * 100.0f; return (int)(convertedValue); 在此示例中,该值再次解析为80位浮点数.然后将其乘以100,然后将其转换为32位浮点数.这意味着舍入误差是如此之小,当转换为32位浮点型存储在convertedValue中时,它将舍入到正好为1.然后当转换为int时,您将获得1. 主要思想是计算机使用高精度浮点进行计算,然后在值存储在变量中时对其进行舍入.您使用浮动物体的分配越多,舍入误差越多. (编辑:鄂州站长网) 【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容! |
相关内容
- asp.net-core – ClaimTypes的ASP.NET要求
- asp.net-web-api – 从ASP.NET Web API ASP.NET Core 2返回
- ASP.NET OnClientClick =“return false;”不起作用
- asp.net – 如何从TableAdapter中检索存储过程返回值
- asp.net-mvc – ELMAH和SQL Server 2008 R2?
- asp.net – 在网站上放置广告的最佳做法?
- 使用ASP.NET AJAX Control Toolkit设置焦点
- 是否有WPF的母版页(如asp.net)的概念?
- asp.net – Tridion分析和个性化错误:用户不能为空.请确保
- 充分利用ASP.NET的三种缓存提高站点性能的注意方法
推荐文章
站长推荐
- asp.net-mvc – 更改ASP.NET MVC筛选器中的视图
- asp.net-mvc – LiveReload ASP.net MVC Web应用
- asp.net – OWIN第二天拒绝身份验证cookie
- 学习:正则表达式的基本语法
- asp.net – Isapi过滤器无法在IIS 7上运行(在IIS
- asp.net-mvc – Gzip压缩无法运行ASP.net MVC5
- 61条面向对象设计的经验原则 转载
- asp.net-mvc – 使用类似MvcContrib Grid的东西在
- asp.net-mvc – ASP.NET MVC的Content / Themes
- asp.net-mvc – ActionResult上的自定义属性
热点阅读