1二进制小数转换为十进制的误差问题例如将(0.706)D 转换为二进制数,要求其“误差不大于2的-10次方”。请注意打双引号部分即我不明白的地方,怎么判断这个误差?怎么知道的?望高手能现给出此题答案再解释!谢谢! 2 二进制小数转换为十进制的误差问题 例如将(0.706)D 转换为二进制数,要求其“误差不大于2的-10...
对于十进制小数部分,采用乘2取整法,即对十进制纯小数乘以2,摘除乘积中的整数部分后保留小数部分再乘以2,如此继续下去,直至乘积小数部分为零或者得到要求的精度为止。
方法为,乘2取整;把一个10进制的纯小数部分换为2进制纯小数,方法是将该10进制的纯小数不断的乘以基数2,每乘一次,都把乘积中的整数部分(包括0)取出;然后用余下的纯小数继续乘,一直乘到小数部分是0为止(如果小数部分一直不为0,就按精度要求乘上若个次即可)。这个方法乘为乘2取整法~把所...