关于精度的计算,求详细解答

发布网友发布时间：2023-09-04 13:26

共2个回答

热心网友时间：2023-09-09 11:02

2.5级的不确定度为600*2.5%=15
2级的不确定度为10
1.5级的不确定度为7.5
15/500=3%>2.5%所以2.5级的不适合
10/500=2%<2.5
2级的可以满足要求
7.5/500=
1.5%
1.5级的也可以满足要求
又因精度越高价格越高
这样来看就是2级的最适合了

热心网友时间：2023-09-09 11:03

双精度浮点计算目前还只是nvidiia构想中的技术（amd已经在rv770中使用了），按照nvidia的说法，会在gt300系列中使用，也就说目前最高端的gtx295都不支持该技术，更别说你的上一带核心9600gso了。

声明：本网页内容为用户发布，旨在传播知识，不代表本网认同其观点，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。E-MAIL:11247931@qq.com