1二进制小数转换为十进制的误差问题例如将(0.706)D 转换为二进制数,要求其“误差不大于2的-10次方”。请注意打双引号部分即我不明白的地方,怎么判断这个误差?怎么知道的?望高手能现给出此题答案再解释!谢谢! 2 二进制小数转换为十进制的误差问题 例如将(0.706)D 转换为二进制数,要求其“误差不大于2的-10...
0/2 + 0/4 + 1/8 +1/16……就是这样,权值分别是1/2^n
对于十进制小数部分,采用乘2取整法,即对十进制纯小数乘以2,摘除乘积中的整数部分后保留小数部分再乘以2,如此继续下去,直至乘积小数部分为零或者得到要求的精度为止。
1、方法主要是小数部分乘以2,取整数部分依次从左往右放在小数点后,直至小数点后为0,以0.125进行演示。2、首先将小数部分0.125乘以2,得0.25,然后取整数部分0。3、然后再将小数 方法为,乘2取整;把一个10进制的纯小数部分换为2进制纯小数,方法是将该10进制的纯小数不断的乘以基数2,每乘一次,都把乘积中的整数部...
方法为,乘2取整;把一个10进制的纯小数部分换为2进制纯小数,方法是将该10进制的纯小数不断的乘以基数2,每乘一次,都把乘积中的整数部分(包括0)取出;然后用余下的纯小数继续乘,一直乘到小数部分是0为止(如果小数部分一直不为0,就按精度要求乘上若个次即可)。这个方法乘为乘2取整法~把所...
小数部分不断地乘2取整,直到小数是0或要求的精度为止。0.0753*2=0.1506 取整数0 0.1506*2=0.3012 取整数0 0.3012*2=0.6024 取整数0 0.6024*2=1.2048 取整数1 0.2048*2=0.4096 取整数0 0.4096*2=0.8192 取整数0 0.8192*2=1.6384 取整数1 0.6384*2=1.2768 取整数1 0....