outfile精度好像不够
-
铁铁们,我在OF代码里写了把我计算过程中的一些自定义数据输出到我指定的postProcessing文件的代码。但是我发现当我输出的数很小的时候,输出的精度不够,例如:算出来是3.99999999,他就输出4了。
我在想既然能够算出来3.99999,肯定不是被计算机的截断精度不够了,而是输出的时候输出的精度不够。。是不是他自己动默认了保留几位小数啊。大家知道如何高精度输出数据到文件吗 -
@Samuel-Tu 请问你解决了这个问题了吗?我是在controlDict中添加code进行计算得到的一些自定义的变量,但是结果在写入到文件中时,除了时间步数之外,其他的参数就一直是6位数或更少,小数点后边的就更少了。也尝试改了李老师说的这个,但是好像没用。
2020年5月14日 02:05
1/4
2023年12月23日 08:37