您的位置: 专家智库 > 资助详情>国家自然科学基金(41375110)

国家自然科学基金(41375110)

作品数:1 被引量:2H指数:1
相关作者:曹靖李建平更多>>
相关机构:北京师范大学天津理工大学中国科学院研究生院更多>>
发文基金:国家自然科学基金更多>>
相关领域:理学更多>>

文献类型

  • 1篇中文期刊文章

领域

  • 1篇理学

主题

  • 1篇小数
  • 1篇号数
  • 1篇IEEE75...

机构

  • 1篇北京师范大学
  • 1篇天津理工大学
  • 1篇中国科学院大...
  • 1篇中国科学院研...

作者

  • 1篇李建平
  • 1篇曹靖

传媒

  • 1篇天津师范大学...

年份

  • 1篇2014
1 条 记 录,以下是 1-1
排序方式:
同符号数相加“大数吃小数”的界限:理论分析被引量:2
2014年
研究计算机内部二进制浮点数IEEE754存储规则及相加过程,给出数值计算中两同号规范化数相加发生"大数吃小数"现象的严格理论界限,为实际数值计算中避免此类现象提供理论依据,并利用所得理论对数值试验中的现象及结论进行解释.
曹靖李建平
关键词:IEEE754标准
共1页<1>
聚类工具0