在浮点数尾数下溢处理时,最大误差最大,但下溢处理不需要时间,平均误差又趋于0的方法是

作者:高老师 浏览 0

在浮点数尾数下溢处理时,最大误差最大,但下溢处理不需要时间,平均误差又趋于0的方法是
A、截断法
B、舍入法
C、ROM查表法
D、恒置“l”法
【正确答案】:D
【题目解析】:

由下图很清晰看到,误差最大的是D截断法舍入法恒置“1”法查表舍入法


📱 扫码体验刷题小程序

微信小程序二维码

扫一扫使用我们的微信小程序

热门题目

已复制到剪贴板