浮点数存储精度丢失问题——由学生提问所引发的思考

2023-01-06 06:21:24 文档大全网 [ 字体：小中大 ] [ 阅读： ]

【#文档大全网# 导语】以下是®文档大全网的小编为您整理的《浮点数存储精度丢失问题——由学生提问所引发的思考》，欢迎阅读！
点数,精度,丢失,提问,引发

作者：李伟余森门佳

作者机构：河南工业职业技术学院计算机工程系,河南南阳473000 出版物刊名：濮阳职业技术学院学报页码：151-153页年卷期：2015年第3期

主题词：浮点数存储误差有效数字

摘要：浮点数在计算机中的存储形式一直是计算机程序设计课程的难点。其存储精度的丢失往往会影响到程序的准确性和可靠性。从一道关于浮点数运算的学生提问入手，总结浮点数教学过程中的一些难点问题。包括浮点数在计算机中存储的格式、误差、范围、精度等，从各个方面进行了系统深入的分析。力求给出一个清晰的描述。