floating point approximation 【计】 浮点逼近 floating point binary 浮点二进制 floating point computer 浮点计算机 floating point feature 浮点功能部件,浮点特性 floating point integer 浮点整数 相似单词 floating point 浮点 floating point sign 【计】 浮点符号 precision n.[U] 1.准确(性); 明确...
全部,浮点精细度,浮点精度,浮点数精准度 更多例句筛选 1. This may cause a breaking change in some existing applications that relied on the CRT to initialize floating-point precision. 这可能导致在一些依赖CRT初始化浮点精度的现有应用程序中产生重大更改。 msdn2.microsoft.com 2. Floating-point precision ...
floating-point precision 英 [ˈfləʊtɪŋ pɔɪnt prɪˈsɪʒn] 美 [ˈfloʊtɪŋ pɔɪnt prɪˈsɪʒn]网络 浮点精度 ...
floating point precision 【计】 浮点精度 extended precision floating point 扩充精度浮点装置允许浮点操作数尾数部分达112个二进制长,已获得比短浮点或长浮点算术运算更大精度的一种特制件。 floating point 浮点,浮点法,浮点小数点 floating point register 浮点寄存器 floating point computation 浮点计算 floatin...
matlab half-precision floating-point格式-概述说明以及解释 1.引言 1.1概述 本文将介绍MATLAB中的半精度浮点数格式,即half-precision floating-point format。浮点数是计算机中用来表示实数的一种方法,它可以包括整数部分和小数部分,并使用基数为2的科学计数法表示。在MATLAB中,浮点数的表示对于科学计算和数值分析非常...
“double precision”通常指的是双精度浮点数(double-precision floating-point number)。这是一种用于存储实数的数据类型,具有更高的精度和范围。相比于单精度浮点数(float),双精度浮点数提供了更高的精度和更大的数值范围。 在最后总结中,“double precision数据类型”是指双精度浮点数这种数据类型。它用于存储实数,...
Floating-Point numbers using the IEEE standard have a fixed number of bits associated with them. This limits the precision with which they can represent actual real numbers. In this chapter we examine arbitrary precision, also called multiple precision, floating-point numbers. We look at how they...
就，尾数乘“2的指数次方”，再加上正负号啊。具体来说就是 提取符号位sign、指数部分exponent、尾数...
5) double-precision floating point number 双精度浮点数字 6) double-precision floating macro-order 双倍精度浮点宏指令 补充资料:螺纹参数的精度与经济精度的分别 螺纹参数的精度与经济精度的分别 螺纹参数也有其精度与经济精度之分别吗? 零件的参数有精度与经济精度的概念,螺纹作为零件的一种,其参数自然也有精度与...
signed integersorsingle-precision floating point,soall data will be converted to one of these forms before processing. redlion.net redlion.net Crimson 进行全部内部计算时,均会使用 32 位有符号的整数或单精度浮点数,因此,进行处理之前,全部数据均会被转换为这 两种形式之一。