Your browser does not seem to support JavaScript. As a result, your viewing experience will be diminished, and you have been placed in read-only mode.
Please download a browser that supports JavaScript, or enable it if it's disabled (i.e. NoScript).
铁铁们,我在OF代码里写了把我计算过程中的一些自定义数据输出到我指定的postProcessing文件的代码。但是我发现当我输出的数很小的时候,输出的精度不够,例如:算出来是3.99999999,他就输出4了。 我在想既然能够算出来3.99999,肯定不是被计算机的截断精度不够了,而是输出的时候输出的精度不够。。是不是他自己动默认了保留几位小数啊。大家知道如何高精度输出数据到文件吗
system-controlDict-writePrecision: 16
@东岳 好有道理!竟然忘了那里有个精度设置!