subject_52273.htm

vc

<p>
序号：52273 发表者：俊俊 发表日期：2003-09-09 16:49:37
<br>主题：一个数据精度问题！
<br>内容：现在有一个float值，比如说float x=12.33,我想把小数点后第一位和第二位的值取出来，用的是(int)(x*10)%10和(int)(x*100)%10分别赋给int型的值,发现得到小数点后第一位的值是对的，第二位的值却是2，好像差在精度上！不知道如何解决，还望高手指点迷津！
<br><a href="javascript:history.go(-1)">返回上页</a><br><a href=http://www.copathway.com/cndevforum/>访问论坛</a></p>
<hr size=1>
<blockquote><p>
回复者：ShaGua 回复日期：2003-09-09 17:01:17
<br>内容：最好先转换成字符，然后再取，更方便。运算越多，精度越差。<BR><BR>其次(int)(x*10)%10和(int)(x*100)%10写的有问题。<BR>至少应该用：<BR>(int)((x*10.)%10.)<BR>(int)((x*100.)%10.)<BR>2003-9-9 21:59:33