Mathematics">
Chapitre 2 Estimation
Chapitre 2 Estimation
Chapitre 2 Estimation
Estimation ponctuelle
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 3/97
Motivation
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 3/97
Motivation
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 3/97
Motivation
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 4/97
Motivation
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 4/97
Motivation
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 5/97
Motivation
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 5/97
Motivation
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 6/97
Objectif
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 6/97
Objectif
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 6/97
Objectif
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 7/97
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 8/97
Exemple
On fait l’hypothèse que la taille (en cm) des 4000 étudiants
masculins d’une école de génie est une variable aléatoire X
distribuée normalement d’écart-type 3, c’est-à-dire que
X ∼ N (µ, 9). Dans ce cas θ = µ et Θ = R
(x − θ)2
1
f (x, θ) = √ exp −
3 2π 18
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 8/97
Exemple
On fait l’hypothèse que la taille (en cm) des 4000 étudiants
masculins d’une école de génie est une variable aléatoire X
distribuée normalement d’écart-type 3, c’est-à-dire que
X ∼ N (µ, 9). Dans ce cas θ = µ et Θ = R
(x − θ)2
1
f (x, θ) = √ exp −
3 2π 18
☞ Si l’écart-type est inconnu c’est-à-dire que X ∼ N (µ, σ 2 ). Dans
ce cas θ = (µ, σ 2 ) et Θ = R × R+∗
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 9/97
ESTIMATION PONCTULLE D’UN PARAMETRE
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 9/97
ESTIMATION PONCTULLE D’UN PARAMETRE
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 9/97
ESTIMATION PONCTULLE D’UN PARAMETRE
Exemple
pour estimer l’espérance µ = E[X ] de la loi deP
X , un estimateur
naturel est la moyenne échantillonnale X̄ = n ni=1 Xi . On peut
1
utiliser aussi :
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 9/97
ESTIMATION PONCTULLE D’UN PARAMETRE
Exemple
pour estimer l’espérance µ = E[X ] de la loi deP
X , un estimateur
naturel est la moyenne échantillonnale X̄ = n ni=1 Xi . On peut
1
utiliser aussi :
2. X1
3. inf 1≤i≤n Xi
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 10/97
Statistique Exhaustive
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 10/97
Statistique Exhaustive
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 10/97
Statistique Exhaustive
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 10/97
Statistique Exhaustive
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 11/97
Statistique Exhaustive
Définition
Une statistique T (X ) sera dite exhaustive pour θ si la probabilité
d’observer X sachant T (X ) n’est pas une fonction du paramètre θ
(i.e. independante de θ)
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 12/97
Statistique Exhaustive
Exemple
T (X ) = X1 + X2 + ... + Xn
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 12/97
Statistique Exhaustive
Exemple
T (X ) = X1 + X2 + ... + Xn
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 12/97
Statistique Exhaustive
Exemple
T (X ) = X1 + X2 + ... + Xn
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 14/97
Statistique Exhaustive
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 14/97
Statistique Exhaustive
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 15/97
Statistique Exhaustive
Critère de factorisation
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 16/97
Statistique Exhaustive
Exemple
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 16/97
Statistique Exhaustive
Exemple
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 17/97
Statistique Exhaustive
Exemple
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 17/97
Statistique Exhaustive
Exemple
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 17/97
Statistique Exhaustive
Exemple
Exemple
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 18/97
Statistique Exhaustive
Exemple
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 18/97
Statistique Exhaustive
Exemple
T (X ) = sup (Xi )
1≤i≤n
Exemple
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 19/97
Statistique Exhaustive
Exemple
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 20/97
familles exponentielles
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 20/97
familles exponentielles
La plupart des lois usuelles font partie de ce qu’on appelle la famille
exponentielle.
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 20/97
familles exponentielles
La plupart des lois usuelles font partie de ce qu’on appelle la famille
exponentielle.
Définition
Une loi de probabilité Pθ , θ ∈ Θ ⊂ Rd de densité f (x, θ) est dite
appartenir à une famille exponentielle s’il existe des fonctions
θ −→ αj (θ), θ −→ β(θ),
x −→ Tj (x) et x −→ h(x)
avec h > 0, telles que
d
X
f (x, θ) = β(θ)h(x) exp αj (θ)Tj (x)
j=1
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 21/97
familles exponentielles
Loi Normale
Ici d = 2
(t − µ)2
2 1
f (t, θ = (µ, σ )) = √ exp −
2πσ 2 2σ 2
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 21/97
familles exponentielles
Loi Normale
Ici d = 2
2
(t − µ) 1
f (t, θ = (µ, σ 2 )) = √ exp −
2πσ 2 2σ 2
µ2 t2
1 µ
= √ exp − 2 exp − 2 + 2 t
2πσ 2 2σ 2σ σ
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 21/97
familles exponentielles
Loi Normale
Ici d = 2
2
(t − µ) 1
f (t, θ = (µ, σ 2 )) = √ exp −
2πσ 2 2σ 2
µ2 t2
1 µ
= √ exp − 2 exp − 2 + 2 t
2πσ 2 2σ 2σ σ
On pose
µ2
1
β(θ) = √ exp − 2
2πσ 2 2σ
1 µ
h(t) = 1, α1 (θ) = − 2 , α2 (θ) = 2
2σ σ
2
T1 (t) = t , T2 (t) = t
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 22/97
familles exponentielles
Loi Exponentielle
Ici d = 1
f (t, λ) = λe −λt
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 22/97
familles exponentielles
Loi Exponentielle
Ici d = 1
f (t, λ) = λe −λt
On pose
β(λ) = λ
h(t) = 1, α1 (λ) = −λ
T1 (t) = t
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 23/97
familles exponentielles
Loi de Bernoulli de paramètre p
Ici d = 1
p(x, p) = p x (1 − p)1−x
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 23/97
familles exponentielles
Loi de Bernoulli de paramètre p
Ici d = 1
p(x, p) = p x (1 − p)1−x
= e x ln p+(1−x) ln(1−p)
= e x(ln p−ln(1−p))+ln(1−p))
p
= e x ln 1−p +ln(1−p)
p
= (1 − p)e x ln 1−p
On pose
β(λ) = 1 − p, T1 (t) = t
p
h(t) = 1, α1 (p) = ln
1−p
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 24/97
familles exponentielles
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 24/97
familles exponentielles
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 24/97
familles exponentielles
Loi Normale
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 25/97
familles exponentielles
Loi Normale
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 26/97
Statistique Exhaustive et familles exponentielles
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 26/97
Statistique Exhaustive et familles exponentielles
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 26/97
Statistique Exhaustive et familles exponentielles
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 27/97
Statistique Exhaustive et familles exponentielles
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 28/97
Statistique Exhaustive et familles exponentielles
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 29/97
Qualités d’un estimateur(Cas univarié)
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 29/97
Qualités d’un estimateur(Cas univarié)
Estimateur sans biais
Soit θ̂n un estimateur de θ.
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 29/97
Qualités d’un estimateur(Cas univarié)
Estimateur sans biais
Soit θ̂n un estimateur de θ.
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 29/97
Qualités d’un estimateur(Cas univarié)
Estimateur sans biais
Soit θ̂n un estimateur de θ.
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 29/97
Qualités d’un estimateur(Cas univarié)
Estimateur sans biais
Soit θ̂n un estimateur de θ.
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 30/97
Qualités d’un estimateur(Cas univarié)
Example
1
Pn
On pose θ̂n = X̄ = n i=1 Xi .
Example
S 2 = n1 ni=1 (Xi − X̄ )2 est un estimateur biaisé pour la variance
P
σ 2 = Var [X ]. En effet : On a
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 31/97
Qualités d’un estimateur(Cas univarié)
Example
S 2 = n1 ni=1 (Xi − X̄ )2 est un estimateur biaisé pour la variance
P
σ 2 = Var [X ]. En effet : On a
On sait que :
n−1 2
σ E[S 2 ] =
n
n
❂ par contre la statistique Sc2 = S 2 est un estimateur sans
n−1
biais pour la variance
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 32/97
Qualités d’un estimateur(Cas univarié)
i.e. h i
P θ̂n − θ ≤ ϵ −→ 1 n −→ ∞
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 32/97
Qualités d’un estimateur(Cas univarié)
i.e. h i
P θ̂n − θ ≤ ϵ −→ 1 n −→ ∞
théorème
Si E[θ̂n ] −→ θ et Var [θ̂n ] −→ 0, lorsque n −→ ∞, alors θ̂n est
convergent
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 33/97
Qualités d’un estimateur(Cas univarié)
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 34/97
Qualités d’un estimateur(Cas univarié)
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 35/97
Qualités d’un estimateur(Cas univarié)
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 35/97
Qualités d’un estimateur(Cas univarié)
théorème
Soit θ̂n un estimateur du paramètre θ à étudier. On a :
2 2
E θ̂n − θ = Var [θ̂n ] + E[θ̂n ] − θ
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 36/97
Qualités d’un estimateur(Cas univarié)
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 36/97
Qualités d’un estimateur(Cas univarié)
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 37/97
Application 1
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 38/97
Application 2
X1 + X2 aX1 + bX2
X̄1 = X̄2 =
2 a+b
avec a, b ∈ R et a + b ̸= 0
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 39/97
ESTIMATION PONCTULLE D’UN PARAMETRE
Vraisemblance
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 39/97
ESTIMATION PONCTULLE D’UN PARAMETRE
Vraisemblance
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 40/97
ESTIMATION PONCTULLE D’UN PARAMETRE
Ainsi
n
Y n
Y Pn
Ln (x1 , x2 , ..., xn , λ) = f (xi , θ) = λe −λx = λn e −λ i=1 xi
i= i=
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 41/97
ESTIMATION PONCTULLE D’UN PARAMETRE
Méthodes d’estimation
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 41/97
ESTIMATION PONCTULLE D’UN PARAMETRE
Méthodes d’estimation
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 42/97
la méthode du maximum de vraisemblance
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 42/97
la méthode du maximum de vraisemblance
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 43/97
la méthode du maximum de vraisemblance
méthode du maximum de vraisemblance
❂ La méthode consistant à estimer θ par la valeur qui maximise
Ln (vraisemblance) s’appelle méthode du maximum de
vraisemblance.
❂ On appelle estimateur du maximum de vraisemblance (emv) de
θ la statistique θ̂nemv qui maximise la fonction de vraisemblance
L(X1 , X2 , ..., Xn , θ) en θ.
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 43/97
la méthode du maximum de vraisemblance
méthode du maximum de vraisemblance
❂ La méthode consistant à estimer θ par la valeur qui maximise
Ln (vraisemblance) s’appelle méthode du maximum de
vraisemblance.
❂ On appelle estimateur du maximum de vraisemblance (emv) de
θ la statistique θ̂nemv qui maximise la fonction de vraisemblance
L(X1 , X2 , ..., Xn , θ) en θ.
☞ Une expression alternative est :
Notes
❂ L’EMV n’existe pas toujours.
❂ Un estimateur de maximum de vraisemblance n’est pas
forcément unique
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 45/97
la méthode du maximum de vraisemblance
Notes
❂ Si Ln est dérivable et si Ln admet un maximum global en une
valeur, alors la dérivée première s’annule en et que la dérivée
seconde est négative.
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 45/97
la méthode du maximum de vraisemblance
Notes
❂ Si Ln est dérivable et si Ln admet un maximum global en une
valeur, alors la dérivée première s’annule en et que la dérivée
seconde est négative.
❂ La vraisemblance étant positive et le logarithme népérien une
fonction croissante, il est équivalent et souvent plus simple de
maximiser le logarithme népérien de la vraisemblance
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 46/97
la méthode du maximum de vraisemblance
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 46/97
la méthode du maximum de vraisemblance
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 47/97
la méthode du maximum de vraisemblance
Exemple
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 48/97
la méthode du maximum de vraisemblance
ou
∂ ln Ln (x1 , x2 , ..., xn ; θ)
∂θj emv = 0; j = 1, ..., d
θ=θ̂n
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 48/97
la méthode du maximum de vraisemblance
ou
∂ ln Ln (x1 , x2 , ..., xn ; θ)
∂θj emv = 0; j = 1, ..., d
θ=θ̂n
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 49/97
la méthode du maximum de vraisemblance
ou
2
∂ ln Ln (x1 , x2 , ..., xn ; θ)
∂θj ∂θk
j,k=1,...,d
θ=θ̂nemv
doit être définie négative i.e. que toutes ses valeurs propres sont
négatives (si d = 2, cela équivaut à dire que son déterminant
est positif et sa trace est négatif)
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 50/97
la méthode du maximum de vraisemblance
Exemple
On souhaite
estimer les paramètres µ et σ 2 d’une loi normale,
N µ, σ 2 , à partir d’un n-échantillon aléatoire X .
2
1 (t − µ)
f (t, µ, σ 2 ) = √ exp −
2πσ 2 2σ 2
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 51/97
la méthode du maximum de vraisemblance
Exemple(La vraisemblance n’est pas a priori dérivable en tout
point θ)
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 53/97
la méthode des moments
Définitions
mk = E Y k
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 53/97
la méthode des moments
Définitions
mk = E Y k
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 53/97
la méthode des moments
Définitions
mk = E Y k
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 54/97
la méthode des moments
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 54/97
la méthode des moments
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 55/97
la méthode des moments
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 56/97
la méthode des moments
Exemple
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 57/97
la méthode des moments
Exemple
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 57/97
la méthode des moments
Exemple
Exemple
c’est a dire !
n
1X
θ̂nmm = X̄n ; (Xi − X̄n )2
n
i=1
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 59/97
la méthode des moments
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 59/97
la méthode des moments
X̄ = E[X1 ] = 0
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 60/97
Intervalle de confiance
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 61/97
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 62/97
Rappel
Loi du chi-deux
Soit U1 , ..., Up des variables aléatoires indépendantes de même loi N (0; 1). La
variable aléatoire, égale à la somme des carrés de p variables U1 , ..., Up , suit la loi
du chi-deux, χ2p , à p degrés de liberté :
p
X
χ2p = Ui2
i=1
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 62/97
Rappel
Loi du chi-deux
Soit U1 , ..., Up des variables aléatoires indépendantes de même loi N (0; 1). La
variable aléatoire, égale à la somme des carrés de p variables U1 , ..., Up , suit la loi
du chi-deux, χ2p , à p degrés de liberté :
p
X
χ2p = Ui2
i=1
Loi Fisher
On considère deux variables aléatoires indépendantes suivant des lois du chi-deux
à n1 et n2 degrés de liberté respectivement. La variable aléatoire F de Fisher est
définie par :
χ2 /n1
F (n1 , n2 ) = n21
χn2 /n2
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 63/97
Rappel
Loi de Student
La loi de Student à p degrés de liberté, notée Tp , est la loi de la variable
aléatoire T définie par :
U
T =q
χ2p /p
où U est une variable aléatoire centrée réduite normale indépendante de χ2p .
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 64/97
Rappel
Propriétés
Supposons que X suit une loi normale d’espérance µ et de variance σ 2
nS 2
❂ 2 est une variable χ2n−1
σ
X̄ − µ
❂ √ st une variable suivant la loi de Student Tn−1
S/ n − 1
❂ les statistiques X̄ et S 2 sont indépendantes quelle que soit la valeur de n
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 65/97
Intervalle de confiance
P (θ ∈ [An , Bn ]) = 1 − α
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 66/97
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 67/97
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 68/97
Cas 1 : X ∼ N (µ, σ 2 )
1
Pn
❂ Sc2 = n−1 2 2
i=1 (Xi − X̄ ) est un estimateur sans biais de σ .
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 69/97
Cas 1 : X ∼ N (µ, σ 2 )
Note
la valeur z1− α2 étant lue sur la table de la loi normale réduite.
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 70/97
Cas 1 : X ∼ N (µ, σ 2 )
En effet :
On a : pour tout n
X̄ − µ
Z= √ ∼ N (0, 1),
σ/ n
alors
h i h i h i
P |Z | ≤ z1− α2 = P Z ≤ z1− α2 − P Z ≤ −z1− α2
h i
= 2P Z ≤ z1− α2 − 1 = 1 − α
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 71/97
Cas 1 : X ∼ N (µ, σ 2 )
D’autre part on a :
h i h i
|Z | ≤ z1− α2 = −z1− α2 ≤ Z ≤ z1− α2
X̄ − µ
= −z1− α2 ≤ √ ≤ z1− α
σ/ n 2
σ σ
= X̄ − √ z1− α2 ≤ µ ≤ X̄ + √ z1− α2
n n
Ainsi
σ σ
P X̄ − √ z1− α2 ≤ µ ≤ X̄ + √ z1− α2 = 1 − α
n n
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 72/97
Cas 1 : X ∼ N (µ, σ 2 )
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 73/97
Cas 1 : X ∼ N (µ, σ 2 )
Considérons D la variable aléatoire égale au diamètre des
engrenages. L’énoncé dit que D ∼ N (m, 0, 0422 ). Soit
D1 , D2 , ..., D200 un 200-échantillon au hasard de D. Les n = 200
variables aléatoires Dj suivent la même loi N (m, 0, 0422 ) On
considèe P alors l’estimateur sans biais et convergent
D̄ = 200 200
1 ¯
i=1 Di de m. une réalisation de D̄ est d = 0, 824. On
sait que l’intervalle de confiance au risque α est
σ σ
D̄ − √ z1− α2 ; D̄ + √ z1− α2
n n
Pour α = 5% on a z1− α2 = 1.96. Ainsi l’intervalle de confiance est
0.042 0.042
D̄ − √ 1.96; D̄ + √ 1.96
200 200
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 74/97
Exemple 1 : X ∼ N (µ, σ 2 )
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 75/97
Cas 1 : X ∼ N (µ, σ 2 )
Intervalle de confiance de la moyenne µ
☛ L’écart-type σ est inconnu
La variable aléatoire :
X̄ − µ
Tn−1 = √ ,
Sc / n
suit une loi de Student à (n − 1) degrés de liberté.
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 75/97
Cas 1 : X ∼ N (µ, σ 2 )
Intervalle de confiance de la moyenne µ
☛ L’écart-type σ est inconnu
La variable aléatoire :
X̄ − µ
Tn−1 = √ ,
Sc / n
suit une loi de Student à (n − 1) degrés de liberté.
Un intervalle de confiance, noté In , pour la mayenne µ de niveau de
confiance 1 − α est égale à
Sc n−1 Sc n−1
In = X̄ − √ t1− α ; X̄ + √ t1− α
n 2 n 2
n−1 α
où t1− α est le quantile d’ordre 1 − pour la loi de Student
2 2
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 76/97
Cas 1 : X ∼ N (µ, σ 2 )
Note
n−1
la valeur t1− α étant lue sur la table de la loi de student à (n − 1)
2
degrés de liberté.
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 77/97
Cas 1 : X ∼ N (µ, σ 2 )
Exemple :
Afin d’étudier le salaire journalier, en $, des ouvriers d’un secteur
d’activité, on procède à un tirage non exhaustif, d’un échantillon de
taille n = 16 . On a obtenu les résultats suivants :
41 40 45 50 41 41 49 43 45 52 40 48 50 49 47 46
15
Pour α = 5% on a t1− α = 2.1315. Donc
2
Sc Sc
I = X̄ − 2.1315 √ ; X̄ + 2.1315 √
16 16
L’échantillon fournit une réalisation de cet intervalle de confiance à savoir
4, 0326 4, 0326
45, 4375 − 2, 131 × √ ; 45, 4375 + 2, 131 × √ = [43.2892; 47.5859]
16 16
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 79/97
Cas 1 : X ∼ N (µ, σ 2 )
nT 2 2
est un estimateur de σ avec 2 suit une loi du chi-deux à n
σ
degrés de liberté, χ2 (n).
Soit χ2α ,n la quantile d’ordre α2 pour une loi du Khi-deux χ2 (n) et
2
χ1− α ,n la quantile d’ordre 1 − α2 pour une loi du Khi-deux χ2 (n)
2
2
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 80/97
Cas 1 : X ∼ N (µ, σ 2 )
Ainsi
nT 2
P χ2α2 ,n < 2 < χ21− α2 ,n = 1 − α
σ
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 81/97
Cas 1 : X ∼ N (µ, σ 2 )
Note
la valeur χ2α ,n et χ21− α ,n étant lue sur la table de la loi du Khi-deux
2 2
χ2 (n).
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 82/97
Cas 1 : X ∼ N (µ, σ 2 )
Exemple: Soit X une variable aléatoire suivant la loi normale N (40; σ 2 ). Pour estimer
la variance, on prélève un échantillon de taille n = 25 et on calcule la valeur de la
statistique T 2 (définie précédemment) pour cet échantillon. On obtient t 2 = 12.
Un intervalle de confiance pour la variance σ 2 de niveau de confiance 1 − α = 0.95 est
égale à
nT 2 nT 2
;
χ20.975 (25) χ20.025 (25)
25T 2 25T 2
= ;
40, 644 13, 120
L’échantillon fournit une réalisation de cet intervalle de confiance à savoir
25 × 12 25 × 12
;
40, 644 13, 120
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 83/97
Cas 1 : X ∼ N (µ, σ 2 )
nS 2 2
est un estimateur de σ avec 2 suit une loi du chi-deux à n − 1
σ
2
degrés de liberté, χ (n − 1).
Soit χ2α ,n−1 la quantile d’ordre α2 pour une loi du Khi-deux
2
χ2 (n − 1) et χ21− α ,n−1 la quantile d’ordre 1 − α2 pour une loi du
2
Khi-deux χ2 (n − 1)
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 84/97
Cas 1 : X ∼ N (µ, σ 2 )
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 85/97
✍: Intervalle de confiance pour la moyenne d’une loi
quelconque
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 86/97
✍: Intervalle de confiance pour la moyenne d’une loi
quelconque
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 87/97
✍: Intervalle de confiance pour la moyenne d’une loi
quelconque
Exemple
Dans un test pharmaceutique, on a administré à 64 rats de
laboratoire un dosage fixe d’un nouveau produit chimique contre
une maladie du sang.
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 88/97
✍: Intervalle de confiance pour la moyenne d’une loi
quelconque
Le temps avant que le premier symptôdme n’apparaisse au niveau
des globules à été mesuré et les resultats obtenus ont été :
x̄ = 2, 13 minutes
sc = 0, 37 minute
Bien que l’analyse des résultats individuels ait montré que la
distribution du laps de temps écoulé avant l’apparition d’un
symptome ne suit pas une loi normale. Cependant, pour un grand
échantillon ( Ici n = 64 > 30), l’intervalle de confiance
asymptotique avec la seuil 0, 95, est de la forme :
Sc Sc
In = X̄ − √ z0.975 ; X̄ + √ z0.975
n n
60
avec α = 0.05 et z0.975
J MOUSTAAID [INSEA]
= 1.96
1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 89/97
✍: Intervalle de confiance pour la moyenne d’une loi
quelconque
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 90/97
✍: Intervalle de confiance de la différence des moyennes de
deux lois normales indépendantes
❂ Soient X ∼ N (ν, λ2 ) et Y ∼ N (µ, σ 2 ) deux variables
indépendantes. On pose m = ν − µ
❂ On considère deux échantillons indépendants de taille n1 pour la
variable X et de taille n2 pour la variable Y .
❂ La variable aléatoire d¯ = X̄ − Ȳ est un estimateur de d suit une
loi normale d’espérance
d =ν−µ
et d’écart-type s
λ2 σ 2
β= +
n1 n2
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 91/97
✍: Intervalle de confiance de la différence des moyennes de
deux lois normales indépendantes
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 92/97
✍: Intervalle de confiance de la différence des moyennes de
deux lois normales indépendantes
Note
la valeur z1− α2 étant lue sur la table de la loi normale réduite.
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 93/97
✍: Intervalle de confiance de la différence des moyennes de
deux lois normales indépendantes
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 94/97
✍: Intervalle de confiance de la différence des moyennes de
deux lois normales indépendantes
n1 +n2 −2
où t1− α est le quantile d’ordre 1 − α2 pour la loi de Student à n1 + n2 − 2 degrés de
2
liberté et s
1 n1 S12 + n2 S22
r
1
R= +
n1 n2 n1 + n2 − 2
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 95/97
✍: Intervalle de confiance de la différence des moyennes de
deux lois normales indépendantes
Exemple :
Des tubes sont construits par deux procédés de fabrications A et B.
On dispose de deux échantillons de tubes dont on mesure les
diamètres (en mm) :
– Procédé A : échantillon 1 de taille n1 = 5 . Résultats :
63, 12; 63, 57; 62, 81; 64, 32; 63, 76.
– Procédé B : échantillon 2 de taille n2 = 4. Résultats :
62, 51; 63, 24; 62, 31; 62, 21.
On suppose que les diamètres des tubes de chaque fabrication sont
distribués suivant des lois normales de variances inconnues mais
égales.
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 96/97
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023
Estimation ponctuelle Estimation par intervalle de confiance 97/97
r s
1 1 n1 s12 + n2 s22
r= + = 0, 3598
n1 n2 n1 + n2 − 2
Par conséquent, une réalisation de cet intervalle de confiance sur
l’échantillon est :
h i
n1 +n2 −2 n1 +n2 −2
x̄ − ȳ − rt1− α ; x̄ − ȳ + rt1− α
2 2
J MOUSTAAID [INSEA] 1ère année ESBD, AC, SROA & BSDB 2022/2023