热门搜索: apple estimate atom 蚂蚁

浮点运算

[计]floating point arithmetic; floating-point arithmetic; floating-point calculation
网络floating point arithmetic;teraflops;FPU;floating point
双语例句 更多资料

1 . When doing floating - point calculations, are all constants doubles integers?

当处理运算时, 所有双精度的变量是不是比整型的好?

来自互联网

2 . ALU floating point 8 bit code integrity, and can be used directly.

运算单元8位源代码完整, 并可以直接使用.

来自互联网

3 . MIXED fixed effects sensitive to magnitude of dependent variable, floating point problems.

混合固定效应敏感依靠规模变量, 运算的问题.

来自互联网

4 . This computer can perform a million flops per second.

这种计算机每秒可以执行一百万次运算.

来自互联网

5 . One million basic floating - point operations per second.

每秒一百万次基本运算.

来自互联网

行业释义 网络释义
数学

1.floatingpoint arithmetic

百科

浮点运算就是实数运算,因为计算机只能存储整数,所以实数都是约数,这样浮点运算是很慢的而且会有误差。现在大多数机器都是32位的,也就是说32位都用来表示整数的话,那么对于