När du graverar flera vetenskapliga datapunkter kanske du vill passa en bäst passande kurva till dina punkter, med hjälp av programvara. Kurvan kommer emellertid inte att matcha dina datapunkter exakt, och när det inte kan, kan du beräkna RMSE-roten med medelvärdet (root mean squared) för att mäta i vilken utsträckning datapunkterna varierar från din kurva. För varje datapunkt beräknar RMSE-formel skillnaden mellan datavärdets faktiska värde och värdet på datapunktet på bästa passformskurvan.

Hitta motsvarande y-värde på din bästa fit kurva för varje värde av x som motsvarar dina ursprungliga datapunkter.

Subtrahera det faktiska värdet på y från värdet på y på din bästa passformskurva, för varje datapunkt som du har. Skillnaden mellan det faktiska värdet på y och värdet på y på din bästa passformskurva kallas resten. Kvadrat varje residual, summera sedan dina rester.

Dela summan av dina residualer med det totala antalet datapunkter du har och ta kvotrots kvotroten. Detta ger root mean squared felet.