5414.html

来自「以电子书的形式收集了VB一些常见问题解决方法,可以很方便的查找自己需要解决的问题」· HTML 代码 · 共 35 行

HTML
35
字号
<html>
  <head>
    <title>原因出在 0.693 这个数字</title>
  </head>
  <body bgcolor="#FFFFFF" vlink="#808080">
    <center>
      <h1>原因出在 0.693 这个数字</h1>
    </center>
<hr size=7 width=75%>

<hr size=7 width=75%><p>
Posted by <a href="mailto:yfwu@iname.com">小吴</a> on September 09, 1998 at 07:58:53:<p>
In Reply to: <a href="5401.html">Re: 数学问题</a> posted by David Wong on September 08, 1998 at 20:43:47:<p>
嗯,在计算机概论中曾经教过,电脑是以二的补数法来存放数字,所以许多我们认为理所当然的数字在电脑中事实上是无法确实表现出来的。最简单的例子就是 0.1<p>试着在 Debug Window 中打入下列两个算式:<br>?.693-.67<br> 2.29999999999999E-02 <br>?.693#-.67<br> 2.29999999999999E-02 <br>?.693!-.67<br> 2.30000185966491E-02 <p>你会发现当你使用 .693-.67 时,VB 是用 double 型别下去算值,结果算得 2.299... ,因此在做最后的四舍五入时没有进位。不过奴过你把数值改为 single 型别就可以了。原因无它,二进位补数使然。
<br>
<br><hr size=7 width=75%><p>
<a name="followups">Follow Ups:</a><br>
<ul><!--insert: 5414-->
<!--top: 5416--><li><a href="5416.html">Re: 原因出在 0.693 这个数字</a> <b>David Wong</b> <i>09:07:48 9/09/98</i>
(<!--responses: 5416-->2)
<ul><!--insert: 5416-->
<!--top: 5432--><li><a href="5432.html">Re: 原因出在 0.693 这个数字</a> <b>Honey</b> <i>18:38:54 9/09/98</i>
(<!--responses: 5432-->1)
<ul><!--insert: 5432-->
<!--top: 5483--><li><a href="5483.html">Re: 原因出在 0.693 这个数字</a> <b>David Wong</b> <i>11:34:11 9/10/98</i>
(<!--responses: 5483-->0)
<ul><!--insert: 5483-->
</ul><!--end: 5483-->
</ul><!--end: 5432-->
</ul><!--end: 5416-->
</ul><!--end: 5414-->
<br><hr size=7 width=75%><p>

</body></html>

⌨️ 快捷键说明

复制代码Ctrl + C
搜索代码Ctrl + F
全屏模式F11
增大字号Ctrl + =
减小字号Ctrl + -
显示快捷键?