Skip to content
  • 最新
  • 版块
  • 东岳流体
  • 随机看[请狂点我]
皮肤
  • Light
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • Dark
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(不使用皮肤)
  • 不使用皮肤
折叠
CFD中文网

CFD中文网

  1. CFD中文网
  2. OpenFOAM
  3. outfile精度好像不够

outfile精度好像不够

已定时 已固定 已锁定 已移动 OpenFOAM
4 帖子 3 发布者 2.8k 浏览
  • 从旧到新
  • 从新到旧
  • 最多赞同
回复
  • 在新帖中回复
登录后回复
此主题已被删除。只有拥有主题管理权限的用户可以查看。
  • S 离线
    S 离线
    Samuel-Tu
    写于 最后由 编辑
    #1

    铁铁们,我在OF代码里写了把我计算过程中的一些自定义数据输出到我指定的postProcessing文件的代码。但是我发现当我输出的数很小的时候,输出的精度不够,例如:算出来是3.99999999,他就输出4了。
    我在想既然能够算出来3.99999,肯定不是被计算机的截断精度不够了,而是输出的时候输出的精度不够。。是不是他自己动默认了保留几位小数啊。大家知道如何高精度输出数据到文件吗:134:

    1 条回复 最后回复
  • 李东岳李 在线
    李东岳李 在线
    李东岳 管理员
    写于 最后由 编辑
    #2

    system-controlDict-writePrecision: 16

    http://dyfluid.com/index.html
    需要帮助debug算例的看这个 https://cfd-china.com/topic/8018

    S 1 条回复 最后回复
  • S 离线
    S 离线
    Samuel-Tu
    在 中回复了 李东岳 最后由 编辑
    #3

    @东岳 好有道理!竟然忘了那里有个精度设置!

    2 1 条回复 最后回复
  • 2 离线
    2 离线
    2019201300
    在 中回复了 Samuel-Tu 最后由 编辑
    #4

    @Samuel-Tu 请问你解决了这个问题了吗?我是在controlDict中添加code进行计算得到的一些自定义的变量,但是结果在写入到文件中时,除了时间步数之外,其他的参数就一直是6位数或更少,小数点后边的就更少了。也尝试改了李老师说的这个,但是好像没用。

    1 条回复 最后回复

  • 登录

  • 登录或注册以进行搜索。
  • 第一个帖子
    最后一个帖子
0
  • 最新
  • 版块
  • 东岳流体
  • 随机看[请狂点我]