欢迎光临散文网 会员登陆 & 注册

Fortran精度控制注意事项

2023-07-13 22:41 作者:阳既望  | 我要投稿

Fortran的精度损失一般来自于不同数据类型的转换过程,如:

整数向浮点型变量传递值不会有精度损失,但低精度浮点型变量型高精度浮点型变量传递值会有精度损失!

即使数值精确位数少于变量精度也可以使用尾缀的方法准确赋值:

想要保持精度,从数字赋值开始就需要规范精度!

那么,如何将一个单精度的变量准确的给双精度变量呢?

有人float->char->double,计算速度会慢不少。那这样呢?

哈哈哈

Fortran精度控制注意事项的评论 (共 条)

分享到微博请遵守国家法律