zfsaaa 发表于 2009-8-15 07:03:00

问个面积算法问题？

<p>问个面积算法问题？我用点面积，取3位小数算出上面两图面积是197666.005和11966.537。</p><p>而我用图上点尺寸算法494.1539x400.009=197666.0074</p><p>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 263.4999x424.9205=111966.5093</p><p>得数不同，原因何在，请高手指点。谢谢！</p>

gdzhou 发表于 2009-8-15 12:31:00

<p>这是小数位的精度问题。</p><p>在CAD中子单位可以达到八位，用特性看到的面积就是以八位精度的小数来计算出来的</p><p>你得到的尺寸才只有四位精度，以其中最大操作数位数（百位）100×0.0001（取的精度）＝0.01，则四位精度最大可以影响到0.01的位置</p><p>由此得出，要相达到取合三位的精度（实际上要达到第四位的影响精度0.0001）与特性显示的数值一致，你的尺寸至少要达到六位小数的精度才可以</p>

5061220 发表于 2009-8-15 16:15:00

<p>学习</p>

zfsaaa 发表于 2009-8-15 16:45:00

谢谢！
页: [1]
查看完整版本: 问个面积算法问题？