行业资讯

拉力机软件数字近似运算法则!

发布:未知 浏览:95次

①在加、减法运算中,准确度***差的项就是小数点后有效数字位数***少的那一项,计算结果

有效数字的取舍以该项为准。

②在乘、除法运算中,所得结果的有效数字位数与参加运算各项中有效数字位数***少者相

同,而与小数点无关。

在对参加运算的数据取舍时,可多留一位,否则会引起积累误差。

例1·5进行下列运算:(1)13.44+20.382+4.6;《2,四牛兴譬宁旦呈。

解:(1)13.44十20.382+4.6二13.44+20.38+4.6二38.42~38.4

(2)603.2lx0.32603x0.32:48.1~48

4.0114.01,

 

更多内容推荐

    辰力集团

  • 辰力集团清苑高新区(总部)
  • 辰力集团博野分公司
  • 辰力集团清苑发展东路分公司
  • 辰力集团东吕分公司
  • 辰力集团莫斯科分公司

全国服务热线

0312-8037111

  • 手机:15188973322   QQ: 3029381717
  • 手机:18432327776   QQ: 419843936  
  • 手机:18432327779   QQ: 2810734153
  • 手机:18732257711   QQ: 2442885942
  • 地址:河北省保定市清苑区丰收南街252号
  • 邮箱:chenli@chenlids.com
  • 传真:0312-8060333