計算f=(√2-1)6,取√2≈1.4,利用下列等式計算,哪一個得到的結(jié)果最好?
序列{yn}滿足遞推關(guān)系,若y0=√2≈1.41(三位有效數(shù)字),計算到y(tǒng)10時誤差有多大?這個計算過程穩(wěn)定嗎?
,計算過程不穩(wěn)定。
,故t增加時S的絕對誤差增加,相對誤差減小。