CFD中文网

    CFD中文网

    • 登录
    • 搜索
    • 最新

    outfile精度好像不够

    OpenFOAM
    2
    3
    583
    正在加载更多帖子
    • 从旧到新
    • 从新到旧
    • 最多赞同
    回复
    • 在新帖中回复
    登录后回复
    此主题已被删除。只有拥有主题管理权限的用户可以查看。
    • S
      Samuel-Tu 最后由 编辑

      铁铁们,我在OF代码里写了把我计算过程中的一些自定义数据输出到我指定的postProcessing文件的代码。但是我发现当我输出的数很小的时候,输出的精度不够,例如:算出来是3.99999999,他就输出4了。
      我在想既然能够算出来3.99999,肯定不是被计算机的截断精度不够了,而是输出的时候输出的精度不够。。是不是他自己动默认了保留几位小数啊。大家知道如何高精度输出数据到文件吗:134:

      1 条回复 最后回复 回复 引用
      • 李东岳
        李东岳 管理员 最后由 编辑

        system-controlDict-writePrecision: 16

        CFD高性能服务器 http://dyfluid.com/servers.html
        2023年,线下CFD课,预热一下 http://dyfluid.com/class.html

        S 1 条回复 最后回复 回复 引用
        • S
          Samuel-Tu @李东岳 最后由 编辑

          @东岳 好有道理!竟然忘了那里有个精度设置!

          1 条回复 最后回复 回复 引用
          • First post
            Last post