教程中国
PHOTOSHOP CS9.0中文版 MAYA 8.5 FOR WINDOWS Corel Painter v9.0 Flash MX2004 中文版 Illustrator cs2 中文版
VC++6.0含sp6 中英文版 VB6.0 +sp6 简体中文版 Borland Delphi 7汉化版 MSDN for vb6.0中文版 Visual Studio 2005简体
教程中国下属 文件存储共享专家BIBIDU.COM 提供大型软件,教材,源码,电影,音乐,图书等下载 更多精品请点此进入
  您目前所在位置: 教程中国 >> VB >> 优化技术 >> 你真正理解"Allow Unrounded Floating Point Operations"选项的含义吗? RSS订阅
你真正理解"Allow Unrounded Floating Point Operations"选项的含义吗?
教程(视频,书籍)下载:  ASP.NET AutoCAD 数据库 C# ASP java photoshop 网页设计 delphi 3dmax Flash C++ VB 张孝祥 实例   更多请进入BIBIDU搜索
IT搜索引擎   
来自微软的资料鼓吹:高级优化对话框中的所有编译选项都被认为是不稳定的,它们可能导致不正确的结果,甚至程序崩溃。对于其中的大多数,这种说法是正确的,但是经常有一个叫做"Allow Unrounded Floating Point Operations"的选项能够给予正确的结果,防止应用程序产生bug。考虑下面的代码段:

Dim x As Double, y As Double, i As Integer

x = 10 ^ 18

y = x + 1 ' this can't be expressed with 64 bits

MsgBox (y = x) ' 显示 "True" (不正确的结果)


严格地说,由于X和Y变量不包含相同的数值,MsgBox将显示False。可问题是,由于数值1E18与1E18+1都以相同的64位浮点Double类型来表示,它们最终包含了几乎相同的数值,最后的MsgBox结果将是True。

如果打开了"Allow Unrounded Floating Point Operations"编译选项,VB就能重用已在数学协处理器堆栈中的数值,而不是内存中的数值(比如:变量)。因为FPU堆栈具备80位的精度,因此就可以区分出这2个数值的不同:


' if the program is compiled using the

' "Allow Unrounded Floating Point Operations" compiler option

MsgBox (y = x) ' 显示 "False" (正确的结果)


总结一下:当以解释模式、或者编译的p-code模式、或者编译的native代码模式但关掉"Allow Unrounded Floating Point Operations"选项这3种方式运行一个程序时,所有浮点数字运算在内部都以80位的精度进行处理。但如果有一个数值是存储在64位Double变量中,结果就是接近的了,并且,随后使用那个变量的表达式也将产生近似的结果,而不是绝对正确的结果。

相反,如果打开"Allow Unrounded Floating Point Operations"编译选项后运行一段native编译代码,在随后的表达式中VB就经常能重用内部的80位数值,而忽略存储在变量中的当前数值。注意:我们并不能完全控制这个功能,VB也许对此生效,也许就不生效,这要取决于表达式的复杂程度以及最初分配数值语句与随后产生结果的表达式语句的距离远近。

来源:十度教育
作者:
关键字:真正理解,quot,Allow,Unrounded,Floating,Point,quot,选项,含义吗
发表日期:2006-5-31 22:57:34

网页显示有限 阅读全文请下载本文完整版WORD文档

上一篇:为常量定义合适的类型   下一篇:除法运算符"\"与"/"的区别


2008-11-23 20:06:04
本文的相类似文章
  • checkpoint未完成, 不能分配新的日志
  • recover database in time point
  • 使用未写入文档参数"_ALLOW_RESETLOGS_CORRUPTION"进行崩溃恢复经典
  • 最新Redhat Linux9 quota磁盘空间配置说明
  • sendmail出现"MX list for hostname points back to hostname"问题怎么办
  • Oracle9i 数据库(第二版)的高级选项
  • Inode 结构:Quota相关字段
  • 虚拟文件系统(VFS)简介:管理Quota的函式
  • 在RedHat 7.x 上实现reiserfs & quota
  • Quota就是在Red Hat linux下实现磁盘配额的工具
  • 在学习中进步 在进步中成长 教程中国相随您的成长之路
    华腾联合科技股份有限公司版权所有
    广告联系:Rosibo@163.com