asdfxx
发表于 2009-8-17 11:41:00
yxp
发表于 2009-8-17 11:52:00
<p>不知道你说的啥啊，怎么不举个例子。</p><p>你把这个数放大10个数量级再运算咋样，算完再除回去。</p>
英雄无敌
发表于 2009-8-17 15:06:00
<p>有两位小数不就够了吗，要那么高的精度？</p>
英雄无敌
发表于 2009-8-17 16:00:00
其实，小数是参与了运算的，只是运算后可能也只保留两位小数了
英雄无敌
发表于 2009-8-17 16:05:00
<p>命令: (setq en (car (entsel)))<br/>选择对象: <图元名: 7ef60e80></p><p>命令: (setq en (vlax-ename->vla-object en)) #<VLA-OBJECT IAcadLWPolyline <br/>048b4bf4></p><p>命令: (vla-get-area en) 4034.91</p><p>命令: (setq rr (vla-get-area) en)) *取消*<br/>语法错误<br/>命令: (setq rr (vla-get-area en)) 4034.91</p><p>命令: (/ rr 8) 504.363</p><p>命令: (/ 4034.91 8) 504.364</p><p>rr=4034.91</p><p>但用rr/8与用4034.91/8的结果是不一样的，证明rr并不是=4034.91，而是实际的值。</p><p>再看看下面</p><p>(rtos rr 2 10) "4034.9056767338"<br/>命令: (/ 4034.9056767338 8) 504.363</p>
ZZXXQQ
发表于 2009-8-17 21:39:00
楼主看一下误差理论，如果一个数除以一个很小的数误差要大于该数除以相近的数。
jaminth
发表于 2009-8-18 08:29:00
dimzin 可以设为8
页:
[1]