皮鞋剝離試驗機軟件數字近似運算法則
東莞市海達儀器有限公司?。?!
皮鞋剝離試驗機也叫拉力機,拉力機在數據處理過(guò)程中,常常要對數據進(jìn)行近似運算。運算時(shí)要遵循一定的規則:
?、僭诩?、減法運算中,準確度zui差的項就是小數點(diǎn)后有效數字位數zui少的那一項,計算結果
有效數字的取舍以該項為準。
?、谠诔?、除法運算中,所得結果的有效數字位數與參加運算各項中有效數字位數zui少者相
同,而與小數點(diǎn)無(wú)關(guān)。
在對參加運算的數據取舍時(shí),可多留一位,否則會(huì )引起積累誤差。
例1·5進(jìn)行下列運算:(1)13.44+20.382+4.6;《2,四牛興譬寧旦呈。
解:(1)13.44十20.382+4.6二13.44+20.38+4.6二38.42~38.4
(2)603.2lx0.32603x0.32:48.1~48
4.0114.01,