FÓRMULAS UTILIZADAS PARA LOS CÁLCULOS

FÓRMULAS UTILIZADAS PARA LOS CÁLCULOS ESTADÍSTICOS
Linealidad
Y = bX + a Sobre los puntos individuales sin promediar por el
Método de los cuadrados mínimos. Posteriormente se grafica para
su documentación
ΣXi ΣYi
b = Σ Xi Yi n
(ΣXi )2
2
n
ΣX i ΣYi – b ΣXi
n
a=
ΣXi Yi r=
ΣX2i -
ΣXi ΣYi
n
(ΣXi )2
n
ΣY2i -
tr = | r | (n –2)
(1 – r2)
sb =
s2 x,y
(Σ Xi )2
n
Σ X2i -
s2 x,y = Σ X2i - a Σ Yi -b Σ Xi Yi
n–2
Precisión
n
s = Σ (Xi - X)2
i=1
n-1
N
Σ Xi
X= i=1
n
(ΣYi)2
n
CV =RSD =
s * 100
X
g n
s=
1 Σ Σ (Xi - Xi)2
N –g j=1 i=1
_
[X – X] √n
S
∧
texp =
texp = [ 100 - R] √n
RSD
Sensibilidad
Limite de detección =
Y bl +3 sbl
b
Limite de cuantificación =
Y bl +10 sbl
b
1
√n’
1
√n’
Robustez
Si = | VB | > s √2 ⇒ Diferencia Significativa
Exactitud
Test de Cochran (G): Igualdad de varianzas
R = Recuperación media Porcentual
s=
Desviación estándar
s2 = Varianza
Gexp=
s2 máx.
s12+ s22+ s32
OTRAS ALTERNATIVAS
Para una sola concentración
∧
_
Si texp resulta menor que el tabulado, el método
texp = [ X – X ] √n
s
tiene la exactitud requerida para ese ámbito de
confianza.
Para al menos tres concentraciones del analito, preparadas por
triplicado dentro del rango de linealidad.
texp = [ 100 - R] √n
RSD .
Los valores de texp se comparan con los tabulados para el intervalo de
confianza requerido con n-1 grados de libertad
Límites de Confianza
X ±ts El valor de t se encuentra en las tablas de Student, para n-1
grados de libertad y una significación del 95%