EXCEL表中某一格设定公式为前几项的和与差,计算结果应为0,为什么显示2.22045E-16?
发布网友
发布时间:2022-05-01 12:26
我来回答
共3个回答
热心网友
时间:2023-10-12 00:03
浮点精度问题
方法 1
若要浮动的点算术存储错误的影响降到最低程度,使用 Round() 函数舍入到所需计算的小数位数目的数字。例如对于如果您正在使用货币,您将有可能四舍五入为 2 个小数位:
=round(1*(0.5-0.4-0.1),2)
回到顶端
方法 2
经常可以避免浮点舍入错误影响您的工作,通过使用的 显示精度为准 选项。此选项将强制在工作表中的每个编号,以将工作表上显示的精度的值。
注意使用 显示精度 选项可以累积计算效果,可以使数据越来越不准确随着时间的推移。仅当您确信显示的 percision 将维护您的数据的准确性,请使用此选项。
若要用于 以显示精度为准 选项,请按照下列步骤操作:
Excel 2000,Excel 2002 和 Excel 20031.在 工具 菜单上单击 选项。
2.在 工作簿选项,计算方式 选项卡上单击以选中 以显示精度为准 复选框。
3.单击 确定。
Excel 20071.单击 Microsoft Office 按钮,请单击 Excel 选项,然后单击 高级类别。
2.在 计算此工作簿时 部分选择所需,单击以选中 设置为显示的精度 复选框的工作簿,然后单击 确定。
如果您使用 以显示精度为准 选项,您必须使用特定的数字格式格式化您的数字。
若要设置特定的数字精度的单元格的格式,请按照下列步骤操作: 1.用鼠标右键单击要设置其格式的单元格,然后单击 单元格格式。
2.在 数字 选项卡上的在 类别 框中,单击 数字。
3.小数位数 框中选择所需的精度 (数字的小数位数)。
4.单击 确定。
Excel 2010 年1.单击 文件 选项卡上,单击 Excel 选项,然后单击 高级类别。
2.在 计算此工作簿时 部分选择所需,单击以选中 设置为显示的精度 复选框的工作簿,然后单击 确定。
如果您使用 以显示精度为准 选项,您必须使用特定的数字格式格式化您的数字。
若要设置特定的数字精度的单元格的格式,请按照下列步骤操作: 1.用鼠标右键单击要设置其格式的单元格,然后单击 单元格格式。
2.在 数字 选项卡上的在 类别 框中,单击 数字。
3.小数位数 框中选择所需的精度 (数字的小数位数)。
4.单击 确定。
参考资料:http://support.microsoft.com/kb/214118
热心网友
时间:2023-10-12 00:03
计算精度问题。可以使用函数,如round()
热心网友
时间:2023-10-12 00:03
是不是某单元格中包含有逻辑值,逻辑值是不能参与计算的
热心网友
时间:2023-10-12 00:03
浮点精度问题
方法 1
若要浮动的点算术存储错误的影响降到最低程度,使用 Round() 函数舍入到所需计算的小数位数目的数字。例如对于如果您正在使用货币,您将有可能四舍五入为 2 个小数位:
=round(1*(0.5-0.4-0.1),2)
回到顶端
方法 2
经常可以避免浮点舍入错误影响您的工作,通过使用的 显示精度为准 选项。此选项将强制在工作表中的每个编号,以将工作表上显示的精度的值。
注意使用 显示精度 选项可以累积计算效果,可以使数据越来越不准确随着时间的推移。仅当您确信显示的 percision 将维护您的数据的准确性,请使用此选项。
若要用于 以显示精度为准 选项,请按照下列步骤操作:
Excel 2000,Excel 2002 和 Excel 20031.在 工具 菜单上单击 选项。
2.在 工作簿选项,计算方式 选项卡上单击以选中 以显示精度为准 复选框。
3.单击 确定。
Excel 20071.单击 Microsoft Office 按钮,请单击 Excel 选项,然后单击 高级类别。
2.在 计算此工作簿时 部分选择所需,单击以选中 设置为显示的精度 复选框的工作簿,然后单击 确定。
如果您使用 以显示精度为准 选项,您必须使用特定的数字格式格式化您的数字。
若要设置特定的数字精度的单元格的格式,请按照下列步骤操作: 1.用鼠标右键单击要设置其格式的单元格,然后单击 单元格格式。
2.在 数字 选项卡上的在 类别 框中,单击 数字。
3.小数位数 框中选择所需的精度 (数字的小数位数)。
4.单击 确定。
Excel 2010 年1.单击 文件 选项卡上,单击 Excel 选项,然后单击 高级类别。
2.在 计算此工作簿时 部分选择所需,单击以选中 设置为显示的精度 复选框的工作簿,然后单击 确定。
如果您使用 以显示精度为准 选项,您必须使用特定的数字格式格式化您的数字。
若要设置特定的数字精度的单元格的格式,请按照下列步骤操作: 1.用鼠标右键单击要设置其格式的单元格,然后单击 单元格格式。
2.在 数字 选项卡上的在 类别 框中,单击 数字。
3.小数位数 框中选择所需的精度 (数字的小数位数)。
4.单击 确定。
参考资料:http://support.microsoft.com/kb/214118
热心网友
时间:2023-10-12 00:03
计算精度问题。可以使用函数,如round()
热心网友
时间:2023-10-12 00:03
是不是某单元格中包含有逻辑值,逻辑值是不能参与计算的