Pri grafe niekoľkých vedeckých údajových bodov môžete pomocou softvéru prispôsobiť vašim bodom krivku najvhodnejšiu. Krivka sa však nebude presne zhodovať s vašimi údajovými bodmi a keď to tak nie je, môžete vypočítať koreňovú strednú chybu štvorca (RMSE), aby ste zistili, do akej miery sa vaše dátové body líšia od vašej krivky. Vzorec RMSE pre každý dátový bod vypočíta rozdiel medzi skutočnou hodnotou údajového bodu a hodnotou údajového bodu na krivke najlepšieho prispôsobenia.
Nájdite zodpovedajúcu hodnotu y na svojej krivke najvhodnejšieho pre každú hodnotu x zodpovedajúcu vašim pôvodným údajovým bodom.
Odpočítajte skutočnú hodnotu y od hodnoty y na vašej krivke najlepšieho nasadenia pre každý dátový bod, ktorý máte. Rozdiel medzi skutočnou hodnotou y a hodnotou y na vašej najlepšej krivke sa nazýva zvyškový. Štvorec každého zvyšku a potom spočítajte zvyšky.
Vydeľte súčet svojich zvyškov celkovým počtom údajových bodov, ktoré máte, a zoberte druhú odmocninu kvocientu. Toto dáva strednú chybu druhej odmocniny.