outfile精度好像不够



  • 铁铁们,我在OF代码里写了把我计算过程中的一些自定义数据输出到我指定的postProcessing文件的代码。但是我发现当我输出的数很小的时候,输出的精度不够,例如:算出来是3.99999999,他就输出4了。
    我在想既然能够算出来3.99999,肯定不是被计算机的截断精度不够了,而是输出的时候输出的精度不够。。是不是他自己动默认了保留几位小数啊。大家知道如何高精度输出数据到文件吗:134:



  • system-controlDict-writePrecision: 16



  • @东岳 好有道理!竟然忘了那里有个精度设置!


Log in to reply
 

CFD中文网 2016 - 2020 | 京ICP备15017992号-2