[STAT-D-202][T]Transparents_officiels_de_Stat_II_pour_la_gestion_(2009_-_2010)
-
Upload
alexandre-vandenbroeck -
Category
Documents
-
view
386 -
download
1
Transcript of [STAT-D-202][T]Transparents_officiels_de_Stat_II_pour_la_gestion_(2009_-_2010)
1
Statistique pour la gestion II
(STAT-D-202)
ECTS: 7 (theorie: 3.5, exercices: 3.5)
Catherine Dehon
Batiment S - 11eme etage - bureau S11.226
e-mail: [email protected]
Universite libre de Bruxelles
Annee 2009-2010
Bachelier en Ingenieur de gestion - 2eme annee
Version 1
2
AVERTISSEMENT
Ce syllabus a ete redige dans le but de faciliter
la prise de notes pendant le cours theorique.
La mise a jour du present syllabus sera faite via
le cours theorique.
Il est bien entendu que l’examen portera sur
l’ensemble de la matiere vue au cours theorique
(des elements pourraient etre ajoutes oralement
au cours) ainsi que la matiere des travaux pra-
tiques.
3
A savoir ....
• Cycle et annee d’etude:
BA2 - cours obligatoire au premier quadrimestre.
• But du cours:
1. Introduction des concepts d’inference statis-
tique (estimation, test d’hypothese, regression,. . .).
2. Mise en pratique des connaissances dans des
situations de la vie de tous les jours.
•Methode d’enseignement et support:
Theorie : Cours ex cathedra. Syllabus de theorie
contenant la copie des transparents projetes (et
commentes) au cours disponible sur le site:
http://www.ulb.ac.be/soco/statrope/.
4
• Exercices:
Subdivision des etudiants en groupes de T.P.
Les enonces des exercices sont disponibles sur
le site : http://www.ulb.ac.be/soco/statrope/.
Les solutions ainsi que quelques examens resolus
des annees precedentes sont egalement telechar
geables sur ce site.
•Methode d’evaluation:
L’examen est organisee durant la session de jan-
vier. L’examen comporte une partie theorique
et une partie pratique, sans interruption entre
les deux. Le formulaire utilise lors des TP sera
fourni lors de l’examen. Aucune note person-
nelle n’est autorisee.
Chapitre 1
INTRODUCTION A LA
STATISTIQUE
But: Transformer des donnees en information
La Statistique: ensemble de methodes et ou-
tils mathematiques visant a collecter, decrire
et analyser des donnees afin d’obtenir de l’infor-
mation permettant de prendre des decisions
malgre la presence d’incertitude (erreur, bruit)
5
CHAPITRE 1. INTRODUCTION A LA STATISTIQUE 6
La statistique joue un role essentiel dans de nom-
breuses disciplines:
• en economie: taux de croissance, nombre de
brevets deposes, prix de l’immobilier,...
• en finance: rentabilite d’un investissement,...
• en marketing: etude de marche, ...
• en gestion des ressources humaines: absenteisme,...
• en medecine: mise sur le marche de nouveaux
medicaments, ...
• en sciences sociales, en sciences politiques,
etc
⇓
la statistique est l’outil de confrontation d’une
theorie scientifique a l’observation
CHAPITRE 1. INTRODUCTION A LA STATISTIQUE 7
1.1 EXEMPLES
1.1.1 RENTABILITE D’UN INVESTISSEMENT
Pour investir intelligemment vos economies, vous
allez voir le conseiller de la banque qui vous
suggere 2 types d’investissement:
- investir dans le secteur de l’informatique
- investir dans le secteur agro-alimentaire.
Votre but est double:
- maximiser les profits
- minimiser les risques.
Pour prendre la decision, vous realisez une etude
statistique.
CHAPITRE 1. INTRODUCTION A LA STATISTIQUE 8
1. Collecte des donnees
Selectionner au hasard un echantillon de 100 en-
treprises dans le secteur de l’informatique et 100
dans le secteur de l’agro-alimentaire.
Calculer le taux de rentabilite de l’investissement
pour chaque entreprise (rate of return on in-
vestissment):
ROI = Benefice/Valeur de l’investissement.
Exemples:
- investir 100 euros en 2003 et avoir 106 euros
en 2004 donc benefice de 6 euros:
ROI = 6/100 = 0.06 = 6%
- investir 100 euros en 2003 et avoir 80 euros en
2004 donc perte de 20 euros:
ROI = -20/100 = -20%.
CHAPITRE 1. INTRODUCTION A LA STATISTIQUE 9
2. Statistique Descriptive:
Tableaux-Graphiques
• Variable etudiee: taux de rentabilite.
• Variable quantitative continue.
• Variable etudiee sur 2 populations:
Info et Agro alimentaire.
• Effectif: n=100 dans chaque secteur.
Informatique ROI(%) Agro-Ali ROI(%)
Entreprise 1 10 Entreprise 1 7
Entreprise 2 -5 Entreprise 2 3
· · · · · · · · · · · ·Entreprise 99 30 Entreprise 99 -2
Entreprise 100 -25 Entreprise 100 10
CHAPITRE 1. INTRODUCTION A LA STATISTIQUE 10
Graphiques: Histogrammes
Secteur informatique
ROI
effe
ctif
−10 −5 0 5 10
04
8
Secteur de l'agroalimentaire
ROI
effe
ctif
−10 −5 0 5 10
010
Comparaison des 2 histogrammes:
• centre de la distribution plus a gauche pour
le secteur informatique donc moins rentable
• dispersion plus grande en informatique donc
plus risque
=⇒ Investir dans l’agro alimentaire.
CHAPITRE 1. INTRODUCTION A LA STATISTIQUE 11
Statistiques descriptives: Parametres
Calculs de quelques statistiques:
Parametres Informatique Agro-Ali
Minimum -5.05 -1.14
Maximum 8.16 7.63
Mediane 0.92 3.62
Moyenne 1.09 3.31
Variance 7.97 3.76
. . .
CHAPITRE 1. INTRODUCTION A LA STATISTIQUE 12
3. Inference statistique (2eme bach.)
• Tester l’egalite des moyennes des taux de renta-
bilite dans les 2 secteurs
• Tester si la moyenne des ROI dans le secteur
de l’informatique est significativement plus
petite que dans le secteur agro alimentaire
(donc moins rentable en moyenne)
• Tester si la dispersion dans les 2 secteurs est
identique. Dans le cas contraire tester si le
secteur de l’informatique est plus risque
• ...
CHAPITRE 1. INTRODUCTION A LA STATISTIQUE 13
1.1.2 PROBLEME D’ABSENTEISME EN ENTREPRISES
(Chadhury, Ng, “Canadian Journal of Economics”, 1992)
L’absenteisme reduit la production de ± 10%
⇓
Deux economistes ont selectionne 100 firmes et
mesure le nombre moyen de jours d’absence par
employe sur une annee. Cette variable (X1) est
quantitative.
Ils ont egalement mesure plusieurs variables sus-
ceptibles d’influencer le taux d’absenteisme:
X2 = salaire moyen (quantitative continue)
X3 = % d’employes part-time (idem)
X4 = capacite a travailler en equipe (0=non,
1=oui =⇒ variable qualitatitve dichotomique)
X5 = qualite des relations avec le manager
(0=mauvais, 1=bon =⇒ Idem)
CHAPITRE 1. INTRODUCTION A LA STATISTIQUE 14
1. Statistique Descriptive: Graphiques
0 5 10 15
05
10
15
20
Absenteisme
effect
if
Histogramme du taux d’absenteisme
0 10000 30000 50000
05
10
15
Salaire
effect
if
Hist. du salaire moyen
0 10 20 30 40
05
10
15
Part Time
effect
if
Hist. du pourcentage de Part Time
Manager
Abse
nt
0.0 0.2 0.4 0.6 0.8 1.0
24
68
10
12
14
Graphique 2 dimensions
Salaire
Abse
nt
15000 25000 35000
24
68
10
12
14
Graphique 2 dimensions
Part.Time
Abse
nt
0 5 10 15 20 25 30
24
68
10
12
14
Graphique 2 dimensions
CHAPITRE 1. INTRODUCTION A LA STATISTIQUE 15
2. Statistiques descriptives numeriques
Absent Salaire PT Equipe Manager
Minimum 2.10 12023 0 0 0
Maximum 14.8 42986 30.80 1 1
Mediane 5.65 22586 9.10 1 1
Moyenne 6.23 23587 11.52 0.67 0.64
Ecart-type 3.36 6656.19 8.08 0.47 0.48
Skewness 0.66 0.80 0.58 - -
Kurtosis 2.44 3.38 2.46 - -
Differents types de variables
⇓
Attention aux interpretations !!!!
CHAPITRE 1. INTRODUCTION A LA STATISTIQUE 16
3. Regression lineaire multiple
Le taux d’absenteisme peut etre explique en par-
tie par les autres variables (en supposant un lien
lineaire). Dependent Variable: ABSENT
Variable Coefficient t-Statistic
SALAIRE -0.000211 -5.319899
PART-TIME -0.093396 -2.862929
EQUIPE 1.491396 2.671433
MANAGER -2.706436 -4.951130
C 13.01733 11.43809
R-squared 0.416499 F-statistic: 16.95260
Le taux d’absenteisme diminue si
- le salaire moyen augmente
- le pourcentage de part time augmente
- non capacite a travailler en equipe
- les relations avec le manager sont bonnes
CHAPITRE 1. INTRODUCTION A LA STATISTIQUE 17
1.2 MOTS CLEFS
• Population: collection complete (dans le sens
ou elle inclut tous les individus a etudier) d’individus
sur laquelle porte l’etude
• Parametre: mesure numerique decrivant une
caracteristique de la population
•Echantillon: sous-ensemble d’individus obtenus
a partir de la population (methodes de sondage)
• Une statistique: mesure numerique decrivant
une caracteristique de l’echantillon
•Donnee: fait numerique ou non porteur d’infor-
mation
CHAPITRE 1. INTRODUCTION A LA STATISTIQUE 18
•Variable: Caracteristique dont la valeur change
d’un individu a l’autre dans la population
• Type de variable:
- variable directe: mesurable directement (salaire)
- indicateur: non mesurable directement (sante
des entreprises belges cotees en bourse: BEL20)
- variable qualitative: caracteristiques (modalites)
non numeriques (profession)
- variable dichotomique: variable qualitative
ne prenant que 2 modalites (sexe)
- variable quantitative dicrete: valeurs numeriques
isolees (nombre d’enfants)
- variable quantitative continue: valeurs numeriques
sur un intervalle continu (salaire)
CHAPITRE 1. INTRODUCTION A LA STATISTIQUE 19
1.3 DEMARCHE SCIENTIFIQUE
Objectif(s) a atteindre, Question(s) a poser
⇓Collecte des donnees:releve direct, experimentation,
enquete exhaustive (recensement),
enquete partielle (Sondage)
⇓Analyse descriptive:
univariee (Stat 1) et bivariee (Stat 1)
P-variee (Analyse des donnees)
⇓Analyse confirmatoire: Inference statistique
Estimation, Tests d’hypothese (Stat 2)
Regression Lineaire et Series Chrono. (Econo)
⇓Previsions, Conclusions, Decisions
CHAPITRE 1. INTRODUCTION A LA STATISTIQUE 20
=⇒ Deux grandes aires d’etude:
• Statistique descriptive: Etape preliminaire
donnant des graphiques et des valeurs numeriques
resumant l’information du jeu de donnees
• Inference statistique: facilite le processus de
decision en utilisant des procedure d’estimation,
de problemes de tests, ...
Lien entre Statistique et Probabilite:
Probabilite
Population −→ Echantillon
Inference Statistique
Echantillon −→ Population
CHAPITRE 1. INTRODUCTION A LA STATISTIQUE 21
1.4 MATIERE VUE EN STATISTIQUE 1
• Analyse descriptive des series univariees et bi-
variees
- Objectifs: explorer et decrire
- Organisation: tableaux et graphiques
- Synthese: position, dispersion, forme
• Calculs de probabilite
• Analyse d’une serie chronologique
- Decomposition en differentes composantes
- Prevision
• Variables aleatoires discretes et lois de proba-
bilite
CHAPITRE 1. INTRODUCTION A LA STATISTIQUE 22
1.5 PLAN DU COURS
• Introduction
• Variables aleatoires continues et lois de prob-
abilite
• Lois de probabilite multivariees
• Combinaisons de variables aleatoires et com-
portements asymptotiques
• Distributions echantillonnees
• Le probleme de l’estimation
• Les tests d’hypotheses
• Analyse de variance
• Modeles de regression
• Apercu d’autre methodes statistiques
CHAPITRE 1. INTRODUCTION A LA STATISTIQUE 23
1.6 REFERENCES
• Anderson D., Sweeney D., Williams T. (2001),
Statistiques pour l’economie et la gestion,
Bruxelles, De Boeck Universite.
• Dagnelie P. (1998), Statistique theorique et
appliquee. Tome 2: Inference statistique
a une et a deux dimensions, Bruxelles, De
Boeck Universite.
• Dehon, C. , Droesbeke, J-J. et Vermandele C.
(2008), Elements de statistique, Bruxelles,
Editions de L’Unviversite de Bruxelles.
• http://www.ulb.ac.be/soco/statrope/ (notes
de cours et TP)
! "
#$%&'()*!+!,!-.'/!0*!1).2%2'3'(4!56'7%)'4*/!!"#$%&'"!,!8((*6('.6!%9:!;$%6<*=*6(/!='69/;93*>=%?9/;93*!@%'(!%9!;.9)/!($4.)'A9*!*(!6.6!'6;39/!0%6/!;*/!6.(*/B!
!
! +
!!
! C
D!E%&&*3/!!
()*+%,"-."/$0+$12,%"!,!&).;*//9/!0.6(!.6!6*!&*9(!&%/!&)47.')!3*!)4/93(%(!!
F:*=&3*/!,!>!3%6;*)!96!04!! ! ! >!?.9*)!%9!3.((.!! ! ! >!@%')*!96*!.@@)*!0*!7*6(*!
>! A9%3'(4!0G96*!&'H;*!I04@*;(9*9/*!.9!6.6J!0%6/!96!&).;*//9/!'609/()'*3!
>! *(;!!!
(3*$."4+.5$-1,002-/ΩΩΩΩ!,!*6/*=23*!0*/!)4/93(%(/!&.//'23*/!!
F:*=&3*!,!.6!3%6;*!+!&'H;*/!0*!=.66%'*!!!
Ω!K"!,!1"!∩!1+K+!,!1"!∩!L+KC!,!L"!∩!1+KM!,!L"!∩!L+
!
! M
6$%,$70"/$0+$12,%"!,!/%!7%3*9)!*/(!04(*)='64*!&%)!3*!)4/93(%(!0G96*!*:&4)'*6;*!%34%(.')*!!!F:*=&3*!,!.6!3%6;*!+!&'H;*/!0*!=.66%'*!*(!.6!/G'6(4)*//*!%9!6.=2)*!N!0*!)4/93(%(/!!@%;*!.2(*69/!,!!
!
!
! O
!
!!
!
! P
8+9,-,1,2-/:;'-"/<$%,$70"/$0+$12,%"=/!56*!7%)'%23*!%34%(.')*!I7B%BJ!N!*/(!96*[email protected];('.6!04@'6'*!/9)!Ω!Q!7%3*9)/!0%6/!96!*6/*=23*!6.(4!RB!!
!!8!;$%A9*!K!0*!Ω!.6!%//.;'*!96*!7%3*9)!:SNIKJ!∈ !RB!!
! T
8,3.%>1"/"1/.2-1,-'"/!U'!R!*/(!96!*6/*=23*!0'/;)*(V!3%!7B%B!*/(!0'(*!0'/;)H(*!I&%)!*:*=&3*/!RSWXV!"V!YV!6Z!.[!6!∈ !\!]!RS^J!!F:*=&3*/!,!!!
()*+%,"-."/ 6$%,$70"/$0+$12,%"=/?/
6$0"'%3/*233,70"3/6
#.6(%;(*)!O!;3'*6(/! \2)*!0*!;3'*6(/!A9'!&%//*6(!;.==%60*6(
XV!"V!+V!CV!MV!O!
D6/&*;(*)!96*!;%)<%'/.6!0*!OX!)%0'./!
\2)*!0*!)%0'./!04@*;(9*9/*/!
XV!"V!YBV!OX!
_4)*)!96!)*/(%9)%6(!&*60%6(!96*!?.9)64*!
\.=2)*!0*!;3'*6(/! XV!"V!+V!CV!YB!
!U'!R!*/(!;.6('69V!3%!7B%B!/*)%!0')*!;.6('69*!I&%)!*:*=&3*!R!S!ℜ J!
()*+%,"-."/ 6$%,$70"/$0+$12,%"=/?
6$0"'%3/*233,70"3/6/
`.9*)!%9!3.((.! a.6(%6(!<%<6*) D6(*)7%33*!0*!Eb!_4)*)!96!)*/(%9)%6(!&*60%6(!96*!?.9)64*!
c464@';*/! D6(*)7%33*!0*!Eb!
!
! d
@2,/A:,31%,7'1,2-B/:;'-"/<=$=/:,3.%>1"/!e6!%//.;'*!Q!3%!7%3*9)!:!∈ !R!3G*6/*=23*!0G47H6*=*6(/!,!
F:SWK!f!K!∈ !Ω!*(!NIKJS:!Z!!e6!&*9(!0.6;!;%3;93*)!&.9)!(.9(!:!∈ !R!,!
&:!S!1NI:J!S!1INS:J!S!1IF:J!!!!@2,/:"/*%27$7,0,1+/:"/?/C/
DA)E*)BE/)/∈∈∈∈ 6F=!!E*=%)A9*!,!WI:V&:JV!:!∈ RZB*/(!96*!g1!//'!! ! ! &:!≥!X!!∀ !:!∈ !R!
! ! *(!"="
!!"
!!F:*=&3*/!,!0'/()'29('.6!96'@.)=*V!2'6.='%3*V!0*!c*)6.9'33'V!0*!1.'//.6V!<4.=4()'A9*V!2'6.='%3*!64<%('7*V!$h&*)<4.=4()'A9*V!*(;!
! i
L.6;('.6!0*!)4&%)('('.6,!!
LI:JS1INj:J!! ! :k!E!!
!! "X
F/&4)%6;*!=%($4=%('A9*!0*!N,!l m !
!# $ " ! µ= =" !!R%)'%6;*!0*!N!,!
+ + +lI J m I J!!
# $ " !µ µ σ− = − =" !!a.=*6(!0G.)0)*!)!&%)!)%&&.)(!Q!3G.)'<'6*,!
nl m% %! %
!# $ " ! µ= =" !
!a.=*6(!;*6()4!0G.)0)*!),!lI J m I J% %
! %!
# $ " !µ µ µ− = − ="!L.6;('.6!<464)%()';*!0*/!=.=*6(/,!!
I J l m&! &!$ !
!' & # ( ( "= =" !! %7*;! & )∈ !F(!.6!%!3%!)*3%('.6!/9'7%6(*/!,!
nX
I Jl m%
% &%* ' &*&
µ == !
! ""
DD!-.'!0G96*!7B%B!;.6('69*!!1)*6.6/!3*!;%/!<464)%3!.[!:!∈ !E!I%9()*!&.//'2'3'(4!,!:!∈ !Q!96!'6(*)7%33*!0*!EJ!!e6!=*/9)*!96*!7B%B!;.6('69*!&%)!3G'6(*)=40'%')*!0G'6(*)7%33*/B!E%&&*3!,!
!
!! "+
@2,/:;'-"/<=$=/.2-1,-'"/C/GA)/≤≤≤≤/?/≤≤≤≤/)H:)BI9A)B/:)/
/9A)B/"31/$**"0+/92-.1,2-/:"/:"-3,1+A:"/*%27$7,0,1+B/3'**23+"/.2-1,-'"/3'%/!=/!
!!F:*=&3*/!,!0'/()'29('.6!96'@.)=*V!6.)=%3*V!0*!-%&3%;*V!3.<>6.)=%3*V!*:&.6*6('*33*!64<%('7*V!<%==%V!3.<'/('A9*V!χ+V!*(;!!!
! "C
1).&)'4(4/!0*!@I:J!!
!
! "M
J2-.1,2-/:"/%+*$%1,1,2-//E%&&*3!,!U(%('/('A9*!0*/;)'&('7*!,!
!g4@'6'('.6!,!LI:J!S!1IN!≤!:J!! .[!:!∈ !E!!
!!
1).&)'4(4/B!!
!
! "O
!!!
!
!
! "P
(3*+%$-."/#$15+#$1,&'"E/92-.1,2-/K+-+%$1%,."/:"3/#2#"-13E/L=////
! "T
/
//
! "d
@2,3/.2-1,-'"3/*$%1,.'0,>%"3///
! "i
/
///
! +X
///
! +"
////
! ++
///
! +C
/
///
! +M
//
! +O
/////
! +P
/
//
! +T
/
! +d
//
! +i
//
///
! CX
/
///
! C"
/
//
! C+
/
/
! CC
/
///
! CM
/
//
! CO
/
///
! CP
/
//
! CT
/
///
! Cd
/
///
! Ci
/
//
! MX
/
///
! M"
/
////
! M+
/
////
! MC
/
////
! MM
///
! MO
/
! "
#$%&'()*!C!,!-.'/!0*!1).2%2'3'(4!c'7%)'4*/!
• ••
••• ••
•
••
• ••
••• ••
•
••
• ••
••• ••
•
••• •
•••• ••
•
••
Ω
ω
X
ZY
x
y z
x
z
y
v
vv
!!
oR%)'%23*!%34%(.')*!Q!&!0'=*6/'.6/!I7*;(*9)!
%34%(.')*J!,!! ! !
!
!/""/"#
####
$$$$
%%%% %%%% %%%% %%%%
&&&&
''''
(((( (((( (((( ((((
$%
/! M//"/! &
//"/! '
####
$$$$
%%%% %%%% %%%% %%%% %%%%
&&&&
''''
(((( (((( (((( (((( (((( !
F:*=&3*!,!e6!3%6;*!+!&'H;*/!0*!=.66%'*!,!! N!S!6.=2)*!0*!@%;*/!.2(*69!]!p!S!4;%)(V!&)'/!*6!7%3*9)!%2/.39*V!*6()*!3*!6.=2)*!0*!@%;*/!*(!3*!6.=2)*!0*!&'3*/!
P1 ∩ F2ω2 :
F1 ∩ P2ω3 :
F1 ∩ F2ω4 :
P1 ∩ P2ω1 :Ω v
0 1 2
1
2
x
y
! +
DB!-.'/!2'7%)'4*/!0'/;)H(*/!!"J! 8+9,-,1,2-//
!!"#### $$$$ %%%% &&&&
'''' (((( !&)*60!3*/!7%3*9)/!
()#### $$$$ %%%% &&&& '''' (((( !.[!
!
//
()#### $$$$ %%%% &&&& '''' (((( ∈∈∈∈ < ==== < ( ⊗⊗⊗⊗ < )!
!! o!!!'() ==== * A! ==== (B#A" ==== )B[[[[ ]]]] ≥≥≥≥ N!!! o!gB1B+!,!// A(E )B E '()[[[[ ]]]] EA(E )B ∈∈∈∈ < !!! o!\BcB!,! '() ==== M
)""""
("""" !
! o!q%23*%9!0*!&).2%2'3'(4/!,!!!!!!!!!h!:!
!!!$!
h!!!!$!
' (=!!
!"! ! "! ! !"!:!
!!!$!
' ( )!!!!$!
' (=!
!"! ! "! ! !"!' = )!
!!!$!
' = )!!!!$!
"!
! C
F:*=&3*!,!e6!3%6;*!+!&'H;*/!0*!=.66%'*!,!! N!S!6.=2)*!0*!@%;*/!.2(*69!]!p!S!4;%)(V!&)'/!*6!7%3*9)!%2/.39*V!*6()*!3*!6.=2)*!0*!@%;*/!*(!3*!6.=2)*!0*!&'3*/!!!
P1 ∩ F2ω2 :
F1 ∩ P2ω3 :
F1 ∩ F2ω4 :
P1 ∩ P2ω1 :Ω v
0 1 2
1
2
x
y
!!!
!!!!!!!!!!!!!!!h!
:!
h"SX! h+S+! ' (=!
!
:"!S!X! &""!S!X! &"+!S!"rM! "rM!
:+!S!"! !!!&+"!S!"r+ !!&++!S!X! "r+!
:C!S!+! &C"!S!X! &C+!S!"rM! "rM!'= )! "r+! "r+! "!
!!!
! M
!+J! @2,3/#$%K,-$0"3/!! "sJ!gB1B!INJ!,! /A( E '(= B E ( ∈∈∈∈ < ( !!! ! .[!' (= ==== * A! ==== (B ==== '()
)"""" !
!!!!!!µµµµ ( ==== ( '( =
("""" !]!σσσσ (
O==== A( −−−− µµµµ ( BO
("""" '(=!]!BBB!
!! +sJ!gB1B!IpJ!,! /A)E '= ) B E ) ∈∈∈∈ < ) !!!! ! .[!'= ) ==== * A" ==== )B ==== '()
("""" !
!!!!!!µµµµ ) ==== ) '= )
)"""" !]!σσσσ )
O ==== A) −−−− µµµµ ) BO
)"""" '=) !]!BBB!
!!CJ! J2-.1,2-/:"/%+*$%1,1,2-!!! !!+A(E )B ==== * A! ≤≤≤≤ (B # A" ≤≤≤≤ )B[[[[ ]]]]!!! ==== '%,
, ≤≤≤≤ )""""
% ≤≤≤≤ (""""
!
! O
!MJ! P2#"-1/."-1%+/:;2%:%"/%/"-/)/"1/:;2%:%"/3/"-/Q/
!o! µµµµ -. ==== / A! −−−− µµµµ ( B
- A" −−−− µµµµ ) B.[[[[ ]]]]!
!! !==== A( −−−− µµµµ( B
-
)""""
("""" A) −−−− µµµµ ) B
. '()!
!o! #%/!&%)(';93'*)!,!.2<$%,$-."!!! µµµµ MM ==== σσσσ () ==== / A! −−−− µµµµ ( B A" −−−− µµµµ ) B[[[[ ]]]]!!!\BcB!,µµµµ MM ==== / !"[[[[ ]]]] −−−− µµµµ ( µµµµ ) ==== µµµµMM′′′′ −−−− µµµµ ( µµµµ )!!OJ! R2"99,.,"-1/:"/.2%%+0$1,2-!!
ρρρρ ====µµµµMM
σσσσ ( σσσσ )====
σσσσ()σσσσ (σσσσ )
!
!!
! E%&&*3!,! −−−−M ≤≤≤≤ ρρρρ ≤≤≤≤ M!!
! P
!8,31%,7'1,2-3/.2-:,1,2--"00"3/! 012345653783"3893!3:3!!e6!/*!@':*!NS!:!!*(!.6!&./*!!' ) ( ====
'()' (=!
!! ! //!!!! ) E ' ) ((((( )))) E ) ∈∈∈∈ < ) !!!! ! !!!! µµµµ ) ( ==== / " ! ==== ([[[[ ]]]] ==== ) ' ) (
)"""" !
!!! σσσσ ) (
O ==== / A" −−−− µµµµ ) ( BO ! ==== ([[[[ ]]]]!!!
! ==== ) −−−− µµµµ ) ((((( ))))O ' ) ()"""" !
!! ;12345653783!3893"3:3!e6!/*!@':*!pS!h!!*(!.6!&./*!!' ( ) ====
'()'=)!
!! ! //!!!! A( E '( ) B E ( ∈∈∈∈ < ( !!!! !!!!!&%)%=H()*/!µµµµ ( ) E σσσσ ( )
O E = = =!!TJ! 8%2,1"3/:"/%+K%"33,2-E/R2'%7"3/:"/%+K%"33,2-E/!$**2%1/:"/.2%%+0$1,2-E/===!
R.')!gBeB+V!&%)!%6%3.<'*
! T
SS=/@2,3/#'01,<$%,+"3/:,3.%>1"3/
!"J! T+-+%$0,1+3/!o!N ==== A!M E ! O E = = = E ! ' B
U!,!7*;(*9)!%34%(.')*!!o!R%3*9)/!0*!N!,!: ==== A( M E ( O E = = = E ( ' B
U !.[!!!
:/∈∈∈∈ < ==== ⊗⊗⊗⊗
<< < !
!o' ( M === ( ' ==== * A!M ==== ( MB ∩∩∩∩ = = = ∩∩∩∩ A! ' ==== ( ' B[[[[ ]]]]!!+J! @2,3/#$%K,-$0"3E/02,3/.2-:,1,2--"00"3E/.2%%+0$1,2-/121$0"E/.2%%+0$1,2-/*$%1,"00"E/.2%%+0$1,2-/#'01,*0"E/*0$-3/:"/%+K%"33,2-E/L!!!
! d
CJ!()"#*0"C/:,31%,7'1,2-!! ! ! !! ! ! ! #'01,-2#,$0"!!
e M M
E1 → p1
E2 → p2
Em → pm
pi = 1i=1
m∑
!
o!6!)4&4('('.6/!'604&*60%6(*/!!! !!!! A!ME ! O E = = = E != B
U!.[!!< !S!6.=2)*!0*!/< !!o!R%3*9)/!,!A(ME ( OE = = = E (= B
U!!
! (< !,!*6('*)/!t!X!(*3/!A9*! (< ==== 9<====M
="""" !
!o!1).2%2'3'(4/!,!!! *A!M ==== (ME !O ==== (O E = = = E != ==== (= B!!! ==== 9V
(M V (O V = = = (= V'M(M 'O
(O = == '=(= !
!\BcB!,!-.'/!=%)<'6%3*/!S!2'6.='%3*/!u
! i
SSS=/@2,3/7,<$%,+"3/.2-1,-'"3/!!"J! 8+9,-,1,2-!!!! o!
//
!"#### $$$$ %%%% &&&&
'''' (((( →→→→
()
#### $$$$ %%%% &&&& '''' (((( ∈∈∈∈ ! O !
!!o!-%[email protected];('.6!0*!0*6/'(4!@I:VhJ!04@'6'*!&%)!!
!* A( ≤≤≤≤ ! ≤≤≤≤ ( ++++ 7(B∩∩∩∩ A) ≤≤≤≤ " ≤≤≤≤ ) ++++ 7)B[[[[ ]]]]!
==== > A(E )B 7( 7)!
x
y
x x + dx
y + dyy
!!
+J! J2-.1,2-/:"/%+*$%1,1,2-!!!+A(E )B ==== * A! ≤≤≤≤ (B∩∩∩∩ A" ≤≤≤≤ )B[[[[ ]]]]!!!
! ==== > A%E,B 7% 7,−−−−∞∞∞∞
)))))
−−−−∞∞∞∞
()))) !
!!!
x
y
x
y
!!
! "X
WB! @2,3/#$%K,-$0"3//! "sJ! 45*53?!2!,!! >MA(B E /( ∈∈∈∈ ! !
.[! >MA(B ==== > A(E )B 7)−−−−∞∞∞∞
∞∞∞∞)))) ! !!!! µµµµ( E σσσσ(
OE == =!
!!! +sJ! 45*5?"23,!! >OA)B E /) ∈∈∈∈ ! !
.[! >OA)B ==== > A(E )B7(−−−−∞∞∞∞
∞∞∞∞)))) ! !!!! µµµµ ) E σσσσ )
OE = = =!
!!XB! 8,31%,7'1,2-3/.2-:,1,2--"00"3=//+,-.&/,-01*(1*(-0/&21.,-*/&/,--(33(0!,!!! I'J! 3.'!0*!p!4(%6(!0.664!N!S!:!,!
> A) Y (B ==== > A( E )B>M A(B
!
! I''J!3.'!0*!N!4(%6(!0.664!p!S!h!,!> A( Y )B ==== > A( E )B
>O A)B!
!!
! ""
(3*+%$-."3/#$15+#$1,&'"3/!@$<3=A-B<9AC8/
! *6!N!,!!/M B A!B[[[[ ]]]] ==== B A(B−−−−∞∞∞∞
∞∞∞∞)))) >M A(B 7( !
! *6!p!,!*:*);';*!#%/!&%)(';93'*)/!,!>!a.h*66*!=%)<'6%3*!0*!N!,! !/M A!B ==== µµµµ M!>!R%)'%6;*!=%)<'6%3*!0*!p!,!*:*);';*B!
3@$<3D$97<E<$998CC83783"3893!3F3(3:3/OYM GA! E"B[[[[ ]]]] ==== GA( E )B
−−−− ∞∞∞∞
∞∞∞∞)))) > A)Y(B 7) ==== ϕϕϕϕ A(B!
#%/!&%)(';93'*)/!,!>a.h*66*!,!
F+f"lpmS/A" Y ! ==== (B ==== ) > A)Y(B−−−−∞∞∞∞
∞∞∞∞)))) 7)
!>!R%)'%6;*!σ++f"!,!
H A" Y ! ==== (B ==== ) −−−− /A" Y ! ==== (B[[[[ ]]]]O > A)Y(B−−−−∞∞∞∞
∞∞∞∞)))) 7)
! ! ==== ) O > A)Y(B 7) −−−− /A" Y ! ==== (B[[[[ ]]]] O−−−−∞∞∞∞
∞∞∞∞))))
!!I*:&)*//'.6/!%6%3.<9*/!&.9)!N!4(%6(!0.664!p!S!hJ!!
! "+
@$<3I<,A-<J83// G A ! E " B[[[[ ]]]] ==== G A ( E ) B
−−−− ∞∞∞∞
∞∞∞∞))))
−−−− ∞∞∞∞
∞∞∞∞)))) > A ( E ) BB 7( 7) Z
#%/!&%)(';93'*)141>!#.7%)'%6;*!,!I*:*);';*J!
σσσσ M O ==== / A ! −−−− µµµµ M B A" −−−− µµµµ O B[[[[ ]]]]==== / A ! " B −−−− µµµµ M µµµµ O !
!
@<89389E-83C8.37<>>J-89E8.38.'J-A9D8.3=AEGJ=AE<K%8.33!-%K!.@!'(*)%(*0!*:&*;(%('.6/,!/ G A ! E " B[[[[ ]]]] ==== / M / O Y M G A! E " B[[[[ ]]]] !!! g4=.6/()%('.6!,!! / M / O YM G A! E " B[[[[ ]]]] !! ! ==== / M G A ( E ) B > A ) Y ( B 7)
−−−− ∞∞∞∞
∞∞∞∞))))
****
++++ ,,,,
----
.... //// !
! ! ==== G A ( E ) B > A ) Y( B 7)−−−− ∞∞∞∞
∞∞∞∞))))
****
++++ ,,,,
----
.... ////
−−−− ∞∞∞∞
∞∞∞∞)))) > M A ( B 7( !
! !
!!
==== G A ( E ) B > M A ( B > A ) Y ( B
> A ( E ) B%! &!'!'! (!'!'!−−−− ∞∞∞∞
∞∞∞∞))))
−−−− ∞∞∞∞
∞∞∞∞)))) 7( 7) !
! ! ==== / GA ! E" B[[[[ ]]]]!!#%/!&%)(';93'*)!,!GA ! E" B ===="!!!! /A" B ==== /M /OYM A" B[[[[ ]]]]!
! "C
/[B! R$3/*$%1,.'0,"%/C/@$/02,/-2%#$0"/7,<$%,+"/
!
"sJ!526/-/&/,-14!!!
! o! !!"#### $$$$ %%%% &&&&
'''' (((( →→→→
()
#### $$$$ %%%% &&&& '''' (((( ∈∈∈∈ !E!O !
!! o! > (E )(((( )))) ==== M
Oππππ σσσσ (σσσσ ) M −−−− ρρρρO!
!
×××× 8−−−− MO M−−−−ρρρρO(((( ))))
(−−−−µµµµ ((((( ))))Oσσσσ (O −−−−Oρρρρ
(−−−−µµµµ ((((( )))) )−−−−µµµµ )(((( ))))σσσσ (σσσσ )
++++)−−−−µµµµ )(((( ))))O
σσσσ )O
****
++++ ,,,,
----
.... ////
!!.[!µµµµ( Eµµµµ ) ∈∈∈∈ !EV!σσσσ( Eσσσσ ) ∈∈∈∈ !EN
++++!*(!ρρρρ ∈∈∈∈ −−−−M\M[[[[ ]]]]!!
!!!"#### $$$$ %%%% &&&&
'''' (((( !v!\! µµµµ( E µµµµ ) E σσσσ(
OE σσσσ )O E ρρρρ(((( ))))!
! "M
+sJ!7,&8&/,-0198&%/./(33(0!,!!!
N!S!! ( ):$! ! ! !
:!S! ( );! !!
o!!µµµµ!S!
('&%
$#
;
!
µµ
!S! ('&%
$#
+
"
µµV!
!
! ΣΣΣΣ ====σσσσ MM σσσσ MOσσσσ OM σσσσ OO
#### $$$$ %%%% &&&&
'''' (((( ====
σσσσ MO σσσσ MO
σσσσ MO σσσσ OO
####
$$$$ %%%%
&&&&
'''' (((( !
! .[!σσσσ MO ==== ρρρρ σσσσ M σσσσ O!!\BcB!,ΣΣΣΣ!*/(!/*='w04@'6'*!&./'('7*!,!*6!*@@*(!!:"1 ΣΣΣΣ==== σσσσ M
O σσσσ OO −−−− σσσσ MO
O
==== σσσσ MO σσσσ OO −−−− ρρρρO σσσσ MO σσσσ OO ==== σσσσ MO σσσσ OO AM −−−− ρρρρOB ≥≥≥≥ N!!!!U'!ρρρρ <<<< M!V!ΣΣΣΣ!*/(!96*!=%()';*!)4<93'H)*!!!! I0.6;!'67*)/'23*J!,!!
ΣΣΣΣ−−−− M ==== M:"1 ΣΣΣΣ
σσσσ OO −−−− σσσσ MO
−−−− σσσσ MO σσσσ MO
####
$$$$ %%%%
&&&&
'''' (((( !
! ==== M:"1 ΣΣΣΣ
σσσσ OO −−−− ρρρρ σσσσ M σσσσ O
−−−− ρρρρ σσσσ M σσσσ O σσσσ MO
####
$$$$ %%%%
&&&&
'''' (((( !
! "O
CsJ! +,-.&/,-1*(1*(-0/&21<2.%/&=%(198&%/./(33(>4!!
> A ( E ) B ==== MA O ππππ B O A :"1 ΣΣΣΣ B M ] O
8−−−− MO) −−−− µµµµ(((( )))) ′′′′ ΣΣΣΣ −−−−M ) −−−− µµµµ(((( ))))
!!!\BcB!,!F6!047*3.&&%6(!;*((*!*:&)*//'.6V!.6!!! ! )*().97*!I*:*);';*J!,!!!> A( E ) B ==== M
Oππππ σσσσ M σσσσ O M −−−−ρρρρ O!
!!
8−−−− MO AM −−−− ρρρρ O B
A( −−−− µµµµ M BO
σσσσ MO −−−− O ρρρρ
A ( −−−− µµµµ M B A ) −−−− µµµµ O Bσσσσ M σσσσ O
++++A ) −−−− µµµµ O B O
σσσσ OO
****
++++ ,,,, ----
.... ////
!!
! "P
E*&)4/*6(%('.6!<)%&$'A9*!0*!@!I:!V!hJ!&.9)!σσσσ M ==== σσσσ O ==== M!I0G%&)H/!c$%((%;$%)hh%!*(!`.$6/.6!r!U%&.)(%J!!!
!!
! "T
MsJ!?,/0198%@/-83(0!,!!@2,/#$%K,-$0"/"-/?!,!!N!v!\!Aµµµµ M E σσσσ M
O B!
>MA(B ==== > A( E )B7 ) ==== MOππππσσσσM−−−−∞∞∞∞
∞∞∞∞)))) 8−−−− A(−−−−µµµµMB
O
OσσσσMO
!I*:*);';*JB!!!@2,/#$%K,-$0"/"-/^!,!p!v!\!Aµµµµ O E σσσσ O
O B!
>O A)B ==== > A( E )B7 ( ==== MOππππσσσσO−−−−∞∞∞∞
∞∞∞∞)))) 8−−−− A )−−−− µµµµO B
O
OσσσσOO
I*:*);';*J!!
! "d
OsJ!?,/01.,-*/&/,--(33(0!,!!-.'!0*!p!4(%6(!0.664!N!S!:!,!
> A) Y (B ==== > A( E )B> M A(B
!
==== Mσσσσ O M −−−− ρρρρ O Oππππ
8−−−− MOσσσσ O
O AM −−−− ρρρρ O B) −−−− µµµµ O−−−−ρρρρ
σσσσ O
σσσσ MA( −−−− µµµµM B
**** ++++ ,,,,
---- .... ////
O
!!!!!!-.'!\!Aµµµµ OYM E σσσσ OYM
O B!.[!,!!
µµµµ OYM ==== /A" Y! ==== (B ==== µµµµ O ++++ ρρρρσσσσ O
σσσσ MA( −−−− µµµµ M B!
σσσσ OYMO ==== H A" Y! ==== (B ==== σσσσ O
O AM −−−− ρρρρ O B!! ! !!
y
x
f (y |x )
x1 x3x2
µy |x1
µy |x3µy |x2
!!F:*);';*!,!-.'!0*!N!4(%6(!0.664!p!S!!h!I&%)!%6%3.<'*J!!
! "i
A>1B%,"%/2&21*(13819,;(--(1.,-*/&/,--(33(1C5%,/&(1*(1%2@%(00/,-1(-19,;(--(1D=8*%8&/D=(B!!1).&)'4(4!,! -%! @.6;('.6! B A! B! A9'!='6'='/*!!!/ " −−−− B A!B[[[[ ]]]] O !! */(!0.664*!&%)!B A! B ==== / OYM A" B!!
! g4=.6/()%('.6!,!!
! / " −−−− B A ! B[[[[ ]]]] O !! ==== /M / OYM " −−−− B A! B[[[[ ]]]] O !==== / M / O YM " −−−− / O YM A" B ++++ / O YM A" B −−−− B A! B[[[[ ]]]]O ! ==== / M / O YM " −−−− / O YM A" B[[[[ ]]]]O !! ++++ /M /OYM /OYM A"B −−−− B A!B[[[[ ]]]]O !
!!
++++ O / M / O YM A" B −−−− B A! B[[[[ ]]]]/ O YM " −−−− / O YM A" B[[[[ ]]]]N
%! &!'!'!'! (!'!'!'!
0000 1111 2222
3333 2222
4444 5555 2222
6666 2222
\.(.6/!3%!7%)'%6;*!;.60'('.66*33*!0*!p!*6!N!&%)!!
HOYM A"B ==== /OYM " −−−− /OYM A"B[[[[ ]]]]O !!gH/!3.)/!,!!/ " −−−− B A! B[[[[ ]]]] O !
! +X
==== /M HO YM A" B[[[[ ]]]]++++ / M /OYM A"B −−−− B A! B[[[[ ]]]]O !-*!='6'=9=!/*)%!%((*'6(!/'!!
B A!B ==== / OYM A"B!I;A@0J!
!#%/!&%)(';93'*)!,!!U'!!B A!B ==== / A"B!,!!! H A"B ==== / " −−−− /A"B[[[[ ]]]]O !!
==== /M HO YM A"B[[[[ ]]]]++++ /M /OYM A"B −−−− /M /OYM A"B(((( ))))[[[[ ]]]]O ==== /M HO YM A"B[[[[ ]]]]++++ HM /OYM A"B[[[[ ]]]]!!.[!HM!*/(!96*!7%)'%6;*!0%6/!3%!3.'!=%)<'6%3*!!*6!N!
! +"
R$3/*$%1,.'0,"%/:"/0$/02,/7,<$%,+"/-2%#$0"/C/
µµµµ OYM ==== /A" Y! ==== (B ==== µµµµ O ++++ ρρρρσσσσ O
σσσσ MA( −−−− µµµµ M B!
0.6;!,!B A(B ==== µµµµ O ++++ ρρρρσσσσ O
σσσσ MA( −−−− µµµµ MB ==== αααα ++++ ββββ ( !
.[!ββββ ==== σσσσ MO ] σσσσ MO !*(!αααα ==== µµµµ O −−−− ββββ µµµµ M!
!!!!!! ;.9)2*!3'64%')*!!.[!3%!7%)'%6;*!)4/'09*33*!*/(!0.664*!&%),!!o! σσσσ O=M
O ====!7%3*9)!='6'=%3*!0*!/ A" −−−− αααα −−−− ββββ ! B O[[[[ ]]]]!!! ==== σσσσ O
O AM −−−− ρρρρ OB!!! I04=.6/()%('.6!*6!*:*);';*J!!#.6/4A9*6;*/!!,!!o! -*/!7%)'%6;*/!;.60'('.66*33*/!0n96*!3.'!!! 6.)=%3*!2'7%)'4*!/.6(!4<%3*/!Q!3%!7%)'%6;*!!! )4/'09*33*!!o! -*/!=.h*66*/!;.60'('.66*33*/!/.6(!/9)!3%!!! 0).'(*!0*!)4<)*//'.6!aBxB!!
! ++
E>1F,G8%/8-.(1!σ"+!S!FINpJ!>!µ"!µ+!!g2&(%9/-8&/,-1*(1#1<1$1:1>!,!!! /A!" B ==== /M /OYM A!" B[[[[ ]]]]!!
e)!,!!
! /OYM A!" B ==== / A!" ! ==== ( B!
! ==== ( /A " ! ==== ( B ==== ( µµµµ O ++++ ρρρρσσσσ O
σσσσ MA( −−−− µµµµ M B
****
++++ ,,,, ----
.... //// !
!!!! /M /OYM A!" B[[[[ ]]]]==== /M !µµµµ O ++++ ρρρρσσσσ Oσσσσ M
! A! −−−− µµµµ M B****
++++ ,,,, ----
.... ////
!
!!
==== µµµµ M µµµµ O ++++ ρρρρσσσσ O
σσσσ M/M A!
O B −−−− µµµµ MO
σσσσ MO
%! &!'!'! (!'!'!
****
++++
,,,, ,,,,
----
....
//// //// !
! ==== µµµµ M µµµµ O ++++ ρρρρ σσσσ M σσσσ O !!!
!σσσσ MO ==== ρρρρ σσσσ M σσσσ O!!!! ρρρρ ====!;.*@@B!#.))43%('.6!
! +C
!
DRB!-.'/!=93('7%)'4*/!;.6('69*/!!
!A23 LJ9J-AC<EJ.33N ==== !M E ! O E = = = E ! '(((( ))))U !,!7*;(*9)!%34%(.')*!!R%3*9)/!0*!N!,!: ==== ( M E = = = E ( '(((( ))))U !.[!://∈∈∈∈ ! ' !!L.6;('.6!0*!0*6/'(4!,! > )(((( )))) E : /∈∈∈∈ !
' !!!I23 M3 @$<.3=A-B<9AC8.333 M3 @$<.3D$97<E<$998CC8.333 M3 6$--JCAE<$93 N3E$EAC833 3 3 3 3 3 N3'A-E<8CC83
w!=%CE<'C83w!3
M3 *CA9.3783-JB-8..<$93! YY!
! +M
!;J! /(8='C83:3@$<39$-=AC83=%CE<,A-<J83! o! R%3*9)/!0*! /) C ) ∈∈∈∈ ! ' !! o! L.6;('.6!0*!0*6/'(4!,!!
> A)B ==== MOππππ(((( )))) ' O :"1ΣΣΣΣ(((( ))))M]O
8−−−− MO) −−−− µµµµ(((( ))))U ΣΣΣΣ −−−−M ) −−−− µµµµ(((( ))))
!.[!µµµµ//∈∈∈∈ !
' !*(!ΣΣΣΣ ' ×××× ' !*/(!96*!=%()';*!)4*33*!/h=4()'A9*V!/*='w04@'6'*!&./'('7*!!!! o! 1).&)'4(4!C!,!U.'(!9!96!7*;(*9)!A9*3;.6A9*!0*!//! ' !,!
!' ==== %ME== = E%'(((( ))))U!
!! ! N!*/(!6.)=%3!/'V! /∀∀∀∀ ' ∈∈∈∈ ! ' !V!!!! ! 9n!N ==== % & ! &
&"""" !*/(!96*!7B%B!! !
! ! 6.)=%3*!
! +O
!
RB!R%)'%23*/!%34%(.')*/!'604&*60%6(*/!
$B/ 8+9,-,1,2-/A.$3/:"/O/<=$=B/!N!*(!p!/.6(!'604&*60%6(*/!//'!,!!* AM ≤≤≤≤ ! ≤≤≤≤ IM(((( ))))∩∩∩∩ A O ≤≤≤≤ " ≤≤≤≤ IO(((( ))))[[[[ ]]]]!!==== * AM ≤≤≤≤ ! ≤≤≤≤ IM(((( ))))= * A O ≤≤≤≤ " ≤≤≤≤ IO(((( ))))!!//∀∀∀∀ AM <<<< IM E ∀∀∀∀ A O <<<< IO ∈∈∈∈ ! !!!!
x
yb2
b1
a2
a1 !!!!
! +P
!7B/ R=_=`=/:U,-:+*"-:$-."//! HI>1F801*/0.%(&141! ! o!' () ==== '(= '= )! /∀∀∀∀ A( E )B ∈∈∈∈ < !!! JI>1F801.,-&/-=141! > A(E )B ==== >MA(B = >O A)B!! //∀∀∀∀ A(E )B ∈∈∈∈ !O!11 KsJ!#%/!<464)%3!,!! +A(E )B ==== +MA(B = +OA)B!! //∀∀∀∀ A(E )B ∈∈∈∈ < !!#.6/4A9*6;*!,!! U'! N! *(! p! /.6(! '604&*60%6(*/V! 3%!0'/()'29('.6! ?.'6(*! 0*! INVpJ! */(!;.=&3H(*=*6(!/&4;'@'4*!&%)!3%!;.66%'//%6;*!0*/!0'/()'29('.6/!=%)<'6%3*/!!.B/ ()1"-3,2-/$'/.$3/#'01,<$%,+/!M E = = = E ! ' !/.6(!'604&*60%6(*/!//'!!
+ (M E = = = E ( '(((( ))))==== +!<< ====M
'∏∏∏∏ ( <(((( ))))!V!!!
//∀∀∀∀ A( M E = = = E ( ' BU ∈∈∈∈ < !
!
1
Chapitre 4 : Théorèmes fondamentaux
I Sommes et Produits de v.a.
Soient X et Y deux v.a. et a, b ∈ R
Théorème 1 : E X + Y( ) = E X( ) + E Y( )
Démonstration : Cas discret
• Loi de X : (x, px) , x ∈ v x
• Loi de Y : (y, py) , y ∈ v y
• Loi de (X ,Y) : (x, y) , p xy[ ], x ∈ v x , y ∈ v y
où pxy est tel que p x = p xyy∑ et p y = p xy
x∑
• Loi de X +Y : (x + y, pxy ) x ∈ v x , y ∈ v y
•
E(X +Y) = (x + y)pxyy∑
x∑
= xpxy + ypxyy∑
x∑
y∑
x∑
= xpx + ypy = E(X) + E(Y)y∑
x∑
cqfd
Exercices : - cas continu - extension E aX + bY( ) = aE X( ) + bE Y( )
2
Théorème 2
Si X et Y sont indépendantes alors E X Y( ) = E X( ) . E Y( )
Démonstration : Cas discret
Reprenons les notations utilisées dans le théorème 1
• Loi de XY : x y , pxy( ) x ∈ v x , y ∈ v y
•Indépendance ⇔ pxy = px py , ∀ x , y( ) ∈ v • E(X Y) = xy pxy
y∑
x∑ = xy px py
y∑
x∑
= x pxx∑
y py
y∑
= E(X) . E(Y)
cqfd Exercices : - cas continu
3
Corollaire 1
Deux variables indépendantes sont non corrélées Démonstration : Soit X et Y deux v.a. indépendantes : µ 11 = E X − E X( )[ ] Y − E Y( )[ ][ ] = E XY( ) − E X( ) ⋅ E Y( ) = 0 ⇒ ρ = 0
cqfd Remarque : Indépendance ⇒ ρ = 0 MAIS ρ = 0 ⇒ pas indépendance Exception : Loi normale (à démontrer)
4
Théorème 3 V X + Y( ) = V X( ) + V Y( ) + 2 Cov X , Y( )
Démonstration :
1°) Rappel : Variances et covariances sont indépendantes d’un changement d’origine 2°) • Supposons que E(X) = E(Y) = 0 ⇒ V(X) = E(X2 ) , V(Y) = E(Y2 ) et Cov (X , Y) = E(X Y ) • Comme E(X +Y ) = 0 : V (X + Y) = E (X + Y) 2[ ] = E X2 + 2 XY + Y2[ ] = E(X2 ) + 2E(XY) + E(Y2)
= V (X) + 2Cov(X,Y) + V (Y)
cqfd 5
Corollaire 2
Si X et Y sont indépendantes :
1°) V X + Y( ) = V X( ) + V Y( )
2°) V aX + bY( ) = a2V X( ) + b2V Y( ) Démonstration : exercice Théorème 4 Si X et Y sont indépendantes : MX +Y (t) = MX (t)⋅ MY (t) Démonstration : exercice Remarque : On peut étendre tous ces résultats pour n v.a.
6
II Théorèmes d’addition. Nous présenterons ces théorèmes en considérant la somme de deux v.a. X et Y Mais il est clair qu’on peut étendre ces résultats pour n v.a.
Théorème 5 (variables binomiales)
Si X ~ b (n 1, p) et Y ~ b (n 2 , p) sont indépendantes :
X + Y ~ b (n1 + n2, p) Démonstration : • X ~ b (n1 , p) ⇒ MX (t) = (q + pet ) n1 Y ~ b (n2 , p) ⇒ MY (t) = (q + pet ) n2 • MX +Y (t) = MX (t) MY (t) (théorème 4) = (q + pet ) n1 +n2
7
⇒ X + Y ~ b (n1 + n2 , p) cqfd
Théorème 6 (variables de Poisson) Si X ~ p (λ 1) et Y ~ p (λ 2) sont indépendantes :
X + Y ~ p (λ 1 + λ 2 )
Démonstration : exercice
Théorème 7 (variables normales)
Si X ~ n (µ 1 , σ 12) et Y ~ n (µ 2 , σ 2
2) sont indépendantes :
1°) X + Y ~ n (µ 1 +µ 2 , σ 12+ σ 2
2)
2°) a X + bY ~ n ( aµ1 +b µ2 , a 2 σ 12 + b 2 σ 2
2 ) Démonstration : exercice
8
III Convergences
A. Convergence en probabilité Soient : • Suite de v.a. X1,", Xn ," = Xn • Valeur a ∈ R Définition 1 : La suite Xn converge en probabilité vers a :
Xn p → a si ∀ ε et δ positifs, arbitrairement petits,
∃ n0 ∈ N tel que n > n0 entraîne :
P Xn − a > ε( )< δ
N.B. : P Xn − a ≤ ε( )> 1 − δ
9
Remarques : 1) Si Xn p → a ⇒ Xn − a p → 0 2) Convergence vers une v.a. : Soit X une v.a. : Xn p → X si
Xn − X p → 0 Théorème 8 Supposons que
E(Xn )
n→∞ → µ ∈ R
⇒ Xn p → µ si V(Xn )
n → ∞ → 0
Nous démontrerons ce résultat à partir d'un lemme : l'inégalité de Bienaymé– Chebichev
10
Inégalité de Bienaymé–Chebichev : Si X ~ l oi µ , σ 2( ) et k ∈ R 0
+ :
P X − µ ≥ k σ( )≤ 1k 2
Démonstration :
a) Cas d'une loi discrète x , p x( ), x ∈ v
I : x − µ ≥ kσ II III : x − µ ≥ kσ
––––––––––––|––––––•––––––|–––––––––––– µ − kσ µ µ + kσ σ 2 = x − µ( )2
x∑ p x
= x − µ( )2
x ∈ I∑ p x + x − µ( )2
x ∈ II∑ p x
+ x − µ( )2
x ∈ III∑ p x
≥ k 2 σ 2
x ∈ I∑ p x + 0 + k 2 σ 2
x ∈ III∑ p x
⇒ P X − µ ≥ kσ( )≤ 1k 2
b) Cas d'une loi continue : par analogie 11
Démonstration du théorème 8 :
Posons k = εσ
dans l'inégalité de B. C., où ε
est un nombre positif, arbitrairement petit :
P X − E(X) ≥ ε( )≤ V (X)ε 2
• Pour toute v.a. Xn de la suite Xn :
P X n − E(X n ) ≥ ε( )≤V (X n )
ε 2
• Si V (X n)
n → ∞ → 0 alors
Xn − E(Xn) p → 0
Comme E(X n )
n → ∞ → µ : X n p → µ
cqfd
12
La loi des grands nombres de Bernoulli • Schéma de Bernoulli :
e S → P(S) = p
S → P(S ) = q = 1 − p
On répète e n fois (indépendance, uniformité) • X = nombre d'apparitions de S ~ b n , p( ) • Fréquence d'apparitions de S :
Xn
⇒ EXn
= p ; V
Xn
=
pqn
q = 1 − p( )
• Inégalité de B.C. avec k = ε pqn
:
PXn
− p ≥ ε
≤
pq
nε 2
⇒ limn → ∞
PXn
− p ≥ ε
≤ lim
n → ∞pq
nε 2 = 0 • Loi des grands nombres :
limn → ∞
PXn
− p ≥ ε
= 0
13
B. Convergence en loi Définition 2 • Suite de v.a. Xn ; v.a. X
• Xn loi → X si FXn(x)
n → ∞ → FX (x)
en tout point de continuité de F(.) N.B. : F(.) = Fonction de répartition Remarque : On peut aussi définir la convergence en loi à partir des :
1°) fonctions de densité (cas continu) :
f n (x)n → ∞
→ f (x)
2°) fonctions génératrices des moments :
M n (t)
n → ∞ → M(t)
14
C. Convergence en moyenne d’ordre p
Définition 3 Supposons que E (Xn − X)p[ ] existe, où Xn et
X concernent des v.a., et p ∈ R0+ :
Xn moyenne ( p) → X si
E X n − X( )p[ ] n → ∞ → 0
Cas particulier : Convergence en moyenne quadratique : cas correspondant à p=2
D. Hiérarchie des convergences Moyenne (p) ⇒ Probabilité ⇒ Loi
15
IV Théorèmes asymptotiques A. Exemple introductif 1) X ~ b (n ; 0,50)
(Eléments de Statistique, p. 259)
16
2) Variable binomiale centrée réduite
Z = X − npnpq
= X − 0.5 n0.25 n
Exemple : n=8
(Eléments de Statistique, p. 260)
17
B. Théorème de Moivre-Laplace
Si X ~ b (n, p), alors :
X − np
npqen loi → n→∞
n (0,1)
Schéma de la démonstration
1°) X ~ b (n, p) ⇒ MX (t) = 1 + p et −1( )[ ]n= E etx( )
2°) Z = X − µσ
où µ = np ; σ = npq
⇒ M Z (t) = E e tZ( )= E etXσ e
−µtσ
= e− µ t
σ1 + p (e
tσ
− 1)
n
3°) log M Z(t) = − µ tσ + n log 1 + p(e
tσ −1)
• Développement en série de etσ
• Développement en série de
log 1 + p(e
t
σ−1)
18
4°) limn→∞
log M Z(t) ≈ t 2
2⇒ M Z (t) ≈ e t 2 /2
soit la fonction génératrice des moments de la v.a. n (0 , 1) Conditions d'application du théorème Théorème valable sous l'une des deux conditions suivantes : 1°) npq = 9 2°) n = 20, np = 10, nq = 10
19
C. Distribution de Poisson Énoncé du théorème de convergence Si X ~ p (λ ), alors :
X − λλ
en loi → λ →∞
n (0,1)
Exemples C. En résumé
20
D. Théorème central limite (T.C.L.)
Soit X 1, X 2, . . . , X n une suite de v.a. indépendantes , de moyennes µ i et de variance σ i
2 finies (i=1, ..., n). Sous quelques “conditions générales”, la v.a.
XT = X 1+ X 2+. . .+X n ,
de moyenne E(X T ) = µ ii=1
n∑ et de variance
V(XT ) = σ i2
i=1
n∑ , est telle que :
XT − E(XT )V(XT )
en loi → n→∞
n (0,1)
“Conditions générales” pouvant exister a) Lévy-Lindeberg : les Xi sont équidistribuées
b) Lindeberg:σ i
2
σ j2
j=1
n∑
n→∞ → 0 , ∀ i = 1,.. . ,n
N.B. :∃ autres conditions + théorème relatif à des v.a. dépendantes
21
Principes de la démonstration sous les conditions de Lévy-Lindeberg : • Xi ~ Loi (µ ,σ 2 ,. . .) E(XT ) = nµ ; V(XT ) = nσ 2
⇒ XTCR = XT − E(XT )V(XT )
=Xi − nµ
i=1
n∑
σ n
=
X i − µσ ni = 1
n∑ = X i c
i = 1
n∑
1σ n
⇒ M X TCR(t) = M X ic
tσ n
n
En développant MXic
tσ n
en fonction des
moments, on peut montrer que :
MX TCR(t) = 1 + 1
n
t2
2+ 1
n
t3
3!µ 3
σ 3 +.. .
n
→ vers 0 quand n→∞1 2 4 4 3 4 4
⇒ limn→∞
MXTCR(t) = lim
n→∞1 + 1
nt2
2
n
= et 2 /2 c’est-à-dire la F.G.M. de la loi N (0,1)
22
Corollaire du théorème central limite (conditions de Lévy-Lindeberg) Soit :
X = 1n
X i=XT
ni∑
⇒ E(X ) = E(XT )n
= nµn
= µ
V(X ) = V(XT )n2 = nσ 2
n2 = σ 2
n
T.C.L. : quand n → ∞ :
XT − nµσ n
loi → n (0,1)
⇒
X − µσ / n
loi → n (0,1)
N.B. : n → ∞ correspond, en pratique, à n = 30
23
Annexe 1 relative au théorème de Moivre-Laplace
• e
t
σ = 1+tσ
+t 2
2 σ 2 +t3
6 σ 3 +. . .
1 + p e
t
σ −1
= 1 + p
tσ
+t2
2 σ 2 +t3
6 σ 3 +.. .
x1 2 4 4 4 4 3 4 4 4 4
• log 1 + x( ) = x −x 2
2+
x 3
3−. . . x < 1( )
⇒ log 1 + p etσ − 1
= ptσ
+ t 2
2 σ 2 +. . .
− p2
2tσ
+ t 2
2 σ 2 +. . .
2
+ p3
3tσ
+. ..
3+. . .
⇒ log MZ t( ) = −µ tσ
+ n ptσ
+ t2
2 σ 2 +. . .
− n p2
2tσ
+. . .
2
+ n p 3
3tσ
+. . .
3+. . .
= −µσ
+n pσ
t +
n p
2 σ 2 −n p2
2 σ 2
t 2 +
n p
6 σ 3 −n p2
2 σ 3 +n p 3
3 σ 3
t 3 +. . .
=t2
2+
n
σ 3p − 3 p 2 + 2 p 3
6
t3 +. ..
24
Annexe 2 relative au théorème de convergence (Poisson)
• X ~ p λ( ) : MX t( ) = eλ et −1( )
• Z = X − µσ
où µ = λ et σ = λ
• MZ t( ) = E etZ( )= E eXσ
te
−µσ
t
= e−
µ tσ MX
tσ
= e
−µ tσ e
λ et
σ −1
• log MZ t( ) = −t λ + λ etλ − 1
= −t λ + λt
λ+
t2
2λ+
t3
3λ3 2 + ... −1
= t2
2+ t3
6 λ+. . .
• limλ →∞
log MZ t( ) = t2
2⇒ MZ t( ) ≈ e
t 2
2
25
Annexe 3 relative au théorème central limite
• MX t( ) = E etX( )= E 1 + tX + t2X2
2!+ t3X3
3!+. . .
= 1 + t E X( ) + t2
2!E X2( )+ t3
3!E X 3( )+. . .
= 1 + t µ1' + t2
2!µ2
' + t3
3!µ3
' +. . .
• MXct( ) = 1 + t µ1 + t2
2!µ2 + t3
3!µ3 +. . .
= 1 + t2
2!σ 2 + t 3
3!µ3 +. . .
• MXc
tσ n
= 1 + t2
σ 2n
σ 2
2!+ t3
σ 3n3 2µ 3
3!+. . .
= 1 + 1n
t2
2+ t3
3! n
µ3
σ 3 +. . .
• MXTCRt( ) = 1 + 1
nt2
2+ 1
nt3
3!µ 3
σ 3 +. . .
n
Chapitre 5 : Distributions échantillonnées
I Introduction.
Rappel: - mesure d’une caractéristique de la population (lettre greque) - mesure d’une caractéristique de l’échantillon (lettre latine). Bien souvent il est impossible d’étudier l’ensemble de la population (N grand ou infini), c’est pourquoi on se restreint à l’étude d’un échantillon de taille n
Exemple Etudier le salaire des belges (variable X) ⇒ N=10 millions :
Moyenne population: µ
Mais on n’a pas les moyens pour interroger 10 millions de personnes
⇒ échantillon de taille n=1000.
Moyenne échantillon:
1000
1
1i
i
x xn =
= ∑
⇒ x est une estimation de la moyenne population µ Remarque :
en général : x ≠ µ (erreur d’échantillonnage)
II Sondage – Echantillon aléatoire 1. Comment sélectionner un échantillon ? (cours de méthodes de sondage). a) Sondage aléatoire Un sondage est dit aléatoire si chaque individu de la population a une probabilité connue et non nulle d’appartenir à l’échantillon b) Sondage aléatoire simple Un sondage aléatoire est dit simple si tous les échantillons de taille n fixée a priori, prélevés au sein d’une population d’effectif N, sont réalisables avec la même probabilité ⇒ Tous les individus k de la population ont la même probabilité d'être sélectionnés Cas particuliers • Tirage PEAR (probabilités égales, avec remise) • Tirage PESR (probabilités égales, sans remise)
2. Echantillon aléatoire – Tirage PEAR. Expérience aléatoire E → variable aléatoire X
E X( ) = µ , V X( ) = σ 2 , . ..
A chaque tirage, on a la même population ⇒ le résultat des n tirages est une suite de valeurs
de n variables aléatoires X i indépendantes etéquidistribuées (i.i.d.) avec :
X i : même loi que X et x i : valeur de X i E(Xi ) = µ , V(Xi ) = σ 2 i = 1 , . . . , n Convention : Pour simplifier l’écriture, on évitera la double notation X et x pour ne conserver que les minuscules. Le contexte nous dira s’il s’agit d’une v.a. ou de sa valeur En résumé : Échantillon aléatoire : x1 , . . . , x n
• E x i( )= µ ; V x i( )= σ 2; ... • les x i sont indépendantes
III Paramètres des distributions échantillonnées des moments
Statistique : toute v.a. g x1, . . . , xn( ). Sa loi est appelée distribution échantillonnée (ou d’échantillonnage)
Exemple : x = 1n
xii=1
n∑
a) Moyenne E(x )
E(x ) = E1n
xii∑
= 1
nE
i∑ (xi )
= 1n
µi∑ = 1
nnµ = µ
b) Variance V(x )
V(x ) = V1n
xii∑
= 1
n2 V(xi )i∑
= 1n2 σ 2
i∑ = 1
n2 nσ 2 = σ 2
n
c) Loi de x Voir plus loin
Syllabus 6-7 à 6-42
Chapitre 6 : Inférence statistique
1 AU DEPART, DES QUESTIONS... • Quel est le taux d'écoute de ce programme de
radio ?
• Quel pourcentage de votes émis obtiendra ce parti lors du prochain scrutin ?
• Quel est le revenu moyen des employés du secteur bancaire ayant moins de 5 ans d'ancienneté ?
• Quelle est la hauteur de ce bâtiment?
• Le dé est–il pipé ?
• Cette promotion est–elle meilleure que la précédente?
• Comment mesurer la relation entre prix de vente d’un produit et quantité consommée ?
• Comment prévoir l’évolution des taux d’intérêt pour la prochaine semaine ?
2. EXEMPLES PRATIQUES. a) Estimation.
b) Tests d’hypothèses
3 ON RECUEILLE DES DONNEES • Choix de concepts (variables) liés aux questions • Processus de mesure des variables • Collecte des données (sondages, expériences,...) 4 COMMENT UTILISER LES DONNEES POUR REPONDRE AUX QUESTIONS ? • Intérêt d’une démarche scientifique
(raisonnements par induction ou déduction) • Choix d'une procédure de réponse • Interprétation des résultats de l'ap-plication de
cette procédure • Formulation des réponses
5 EXEMPLE DE PROCEDURES a) Prélèvement d'un échantillon dans une
population
• Exemple Comment estimer la proportion des individus
d'une population qui achè-tent un produit déterminé à partir d'un échantillon prélevé ("convena-blement") dans cette dernière ?
• Estimation = méthode d'inférence statistique
b) Utilisation d'un modèle
• Modèle = représentation du problème réel • Comparaison = méthode d'inférence statistique
1
Chapitre 7 : Estimation des paramètres
A EXEMPLE INTRODUCTIF
1) Population U
X ~ n (µ , 1), où µ est un paramètre inconnu appartenant à un espace de paramètres Θ (par exemple, Θ =R )
2) Objectif
On veut estimer µ
3) Échantillon aléatoire x 1 , . .. , x n
• Rappel : x i désigne à la fois la v.a. et la valeur prise par celle–ci
• Les observations sont supposées i.i.d. (indépendantes et identiquement distribuées)
2
4) Loi de x i
f (x i ) = 12Π
e−
(x i −µ ) 2
2 x i ∈ R
⇒ f (x i ) = f (x i ; µ )
5) Loi de x 1 , . .. , x n
f x 1 , .. . ,x n = f (x i )i = 1
n∏
car les x i sont des v.a. indépendantes
⇒ f x 1 , .. . ,x n( )= 12Πi=1
n∏ e
−(xi −µ )2
2
= 1
(2Π ) n/2 e− 1
2(x i−µ )2
i=1
n∑
⇒ f (x1, .. . , x n ) = f (x 1, . . . ,x n ; µ)
3
6) Comment estimer µ ?
Estimateur : ˆ µ = ˆ µ (x 1 , .. . , x n) Exemples :
• ˆ µ 1 = 1n
xii=1
n∑ = x
• ˆ µ 2 = 1k
xii=1
k∑ k ∈ 1, . . . , n
• ˆ µ 3 = x i i ∈ 1, . . . , n
• ˆ µ 4 = x 1 + x n2
• ˆ µ 5 = x 1/2
Comment choisir un estimateur ?
Quelles sont ses propriétés ?
7) Remarque
v.a. ˆ µ : estimateur de µ valeur observée de ˆ µ : estimation de µ
4
B METHODES D’ESTIMATION
1. Définitions et notations
• Population U (v.a. X) où la loi de X est donnée:
a) Cas discret : (x, px ) , x ∈ v
b) Cas continu : f (x) , x ∈ v • Paramètres à estimer : θ1 , . . . , θK (θ i ∈ Θ i)
N.B. :l’ensemble des paramètres est noté θ (θ ∈ Θ) • Échantillon aléatoire x 1, . . . ,x n où la loi de
x i dépend de θ :
a) Cas discret : pxi= pxi
(θ)
b) Cas continu : f (x i) = f (x i ; θ)
(N.B. : les x i sont supposés i.i.d.)
Convention : =i=1
n∑
i∑ ; =
i=1
n∏
i∏
5
2. Méthode des moments
A. Rappel
Moment par rapport à l’origine de la loi de X
µ k′= E (Xk ) = ϕ k (θ1 , .. . , θ K)
où k = 1 , . . . , K
Moment par rapport à l’origine de l’échantillon
mk' = 1
nxi
k
i∑ k = 1 , . . . , K
B. Définition des estimateurs
ˆ θ 1 , .. . , ˆ θ K sont déterminés en résolvant le système de K équations à K inconnues :
1 1
'ˆ ˆ1 1 K 1| ,...,
( ,... )K K
mθ θ θ θϕ θ θ= =
=
1 1
'ˆ ˆ2 1 K 2| ,...,
( ,... )K K
mθ θ θ θϕ θ θ= =
= ........
1 1
'ˆ ˆ1 K | ,...,
( ,... )K K
K Kmθ θ θ θϕ θ θ= =
=
6
C. Exemples
1°) X ~ p (λ ) , λ ∈ R0+
On désire estimer λ (1 seul paramètre inconnu) Moment population : µ1
' = E (X) = λ = ϕ 1 (λ)[ ] Moment échantillon : m 1
′ = x ⇒ Équation :
'ˆ1 1|
( ) mλ λϕ λ=
= ⇔
ˆ xλ = Conclusion : L’estimateur du paramètre inconnu λ obtenu par la
méthode des moments est donné par x
7
2°) X ~ n (µ , σ 2) , µ ∈ R , σ 2 ∈ R0+
• On désire estimer µ et σ2 (2 paramètres inconnus)
Moments population : µ 1
′ = E(X) = µ = ϕ 1 (µ,σ 2)[ ] µ 2
′ = E(X2 ) = σ 2 + µ 2 = ϕ 2 (µ,σ 2)[ ] Moments échantillon : m 1
′= x m 2
′ = s 2 + x 2 ⇒ Équations : (correction des notations)
ϕ 1 (µ,σ 2) = m1'
ϕ 2 (µ,σ 2) = m2'
⇔
µ = x
σ 2 + µ 2 = s 2 + x 2
Conclusion : Les estimateurs des paramètre inconnus µ et
2σ obtenus par la méthode des moments sont donnés par ˆ µ = x et ˆ σ 2 = s 2
8
3°) X ~ u 0,θ[ ] , θ ∈ R0+
⇒ f (x) =
1θ
0 ≤ x ≤ θ
0 ailleurs
• On veut estimer θ (1 paramètre inconnu)
Moment population : µ1' = E (X) = θ
2
Moment échantillon : m1' = x
⇒ Équation : ˆ|2
xθ θ
θ=
=
Conclusion : L’estimateur du paramètre inconnu θ obtenu par la
méthode des moments est donné par ˆ θ = 2 x
Attention à ce résultat !
9
3. Méthode du maximum de vraisemblance
Supposons devoir estimer un paramètre θ ∈ Θ
A. Rappel et Intuition
Pour estimer θ, on choisit dans Θ la valeur qui assure à l’échantillon la plus grande “ vraisemblance ” de se réaliser
Loi de l’échantillon x 1, . . . ,x n
1°) Cas discret :
p (x 1, .. . , x n ;θ) = pxi
i∏
Fonction de vraisemblance : L(θ) = p(x 1, . . . , x n ; θ)
2°) Cas continu : f (x 1, . .. , x n ;θ) = f xi( )
i∏
Fonction de vraisemblance : L(θ) = f (x1, .. . , x n ; θ)
10
B. Définition des estimateurs MV Valeur ˆ θ ∈ Θ telle que
L ˆ θ ( )= max
θ∈ ΘL θ( )
Équation du maximum de vraisemblance :
Si L(θ) est différentiable et possède un maximum sur Θ, ˆ θ est solution de l’équation du M.V. :
ˆ
( )| 0
dL
d θ θ
θθ =
=
Remarque :
Si ˆ θ correspond au maximum de L(θ), il correspond aussi au maximum de L* θ( )= log L θ( ), obtenu en résolvant l’équation :
ˆ
log ( )| 0
d L
d θ θ
θθ =
=
11
C. Exemples
1°) X ~ n µ , 1( )
• f (x i) = 1
2Πe
−(x i −µ) 2
2 x i ∈ R( )
• L µ( )= 12Π
e−
(xi −µ)2
2
i∏
= 1
(2Π)n/2 e−1
2xi −µ( )2
i∑
• L*(µ) = − n2
log 2 Π − 12
(x i − µ) 2
i∑
• Equation du M.V. : ˆ
log ( )| 0
d L
d µ µµ
µ = =
ˆ ˆ( ) 0 0i i
i i
x x nµ µ− = ⇔ − =∑ ∑
⇒ Estimateur du M.V. : ˆ µ = 1n
xii∑ = x
N.B. : Maximum car d 2 L* (µ)
d µ2 = − n < 0
12
2°) X ~ u 0,θ[ ] , 0 < θ < ∞
• f xi( )=
1θ
0 ≤ x i ≤ θ
0 ailleurs
• L(θ) = f xi( )i∏ = 1
θ n
• d L(θ)
d θ= −n
θ n+1 ≠ 0
• L(θ) est une fonction décroissante de θ ⇒ La plus grande valeur de L(θ) est donnée
par la plus petite valeur possible de θ Comme θ ≥ x i (i = 1, .. . , n), l’estimateur du
M.V. est :
ˆ θ = x (n)
13
D. Propriétés générales
1°) Invariance
Si ˆ θ est un estimateur M.V. de θ et si φ= u(θ),
alors :
ˆ φ = u( ˆ θ )
est un estimateur M.V. de φ
2°) Existence et unicité Un estimateur M.V. n’existe pas toujours, n'a pas nécessairement une forme explicite et n’est pas nécessairement unique
3°) Cas de plusieurs paramètres :
Si θ1,. . . ,θK sont K paramètres, on peut, sous certaines conditions de régularité, les estimer en résolvant le système d'équations M.V. :
1 1
1ˆ ˆ,...,
( ,..., )| 0
K K
K
k
Lθ θ θ θ
θ θθ = =
∂ =∂
1,...,k K=
N.B. : D'autres propriétés seront présentées plus tard dans le cours
14
4. Autres méthodes d’estimation
A. Méthode des moindres carrés
Cette méthode repose sur l'existence d'un modèle économétrique reliant une variable réponse (à expliquer) et des variables explicatives par des paramètre(s) θ → cf. chapitre régression linéaire multiple
B. Méthode du chi-carré minimum
• X ~ loi θ( )
• Échantillon i.i.d. x1,. . . ,xn
• Distribution observée x j ,nj( ); j = 1,.. . , J
• p j θ( )= P X = x j( ) • Estimateur ˆ θ de θ obtenu en minimisant
D2 =nj − n p j θ(( ))[ ]2
n p j θ(( ))j=1
J∑∑
C. Méthodes robustes, méthodes non-paramétriques, etc
15
C. PROPRIETES D’UN ESTIMATEUR
Avertissement : Nous nous intéressons aux propriétés principales de l'estimateur ˆ θ d'un paramètre θ ∈ Θ 1. Estimateur sans biais
a) Définition
ˆ θ est un estimateur sans biais de θ si
E ˆ θ ( )= θ ∀ θ ∈ Θ
b) Exemple
• Variable X ; moyenne µ ; ˆ µ = x
• EAS x 1 , ... , x n : E( ˆ µ ) = µ c) Biais d'un estimateur
B ˆ θ ( )= E ˆ θ ( )−θ
d) Estimateur asymptotiquement sans biais
Estimateur ˆ θ n de θ tel que
limn→∞
E ˆ θ n( )= θ
16
2. Précision d'un estimateur : Efficacité, MSE a) Efficacité relative: Cas d'estimateurs sans biais
• Définition : Si ˆ θ 1 et ˆ θ 2 sont deux estimateurs sans biais de
θ, l'efficacité relative de ˆ θ 1 par rapport à ˆ θ 2 est définie par
ER ˆ θ 1, ˆ θ 2( )= V ˆ θ 2( ) V ˆ θ 1( )
• ˆ θ 1 est relativement plus efficace que ˆ θ 2 si
ER ˆ θ 1, ˆ θ 2( )≥ 1
• Exemple (estimateurs d'une moyenne µ) :
ˆ µ 1 = x : V(x ) = σ2
n
ˆ µ 2 = x1 : V(x1 ) = σ2
⇒ ER ˆ µ 1 , ˆ µ 2( )= n
x est relativement plus efficace que x1 si n > 1
17
b) Trade off entre biais et variance : MSE
i) En guise d'illustration
ii) Écart quadratique moyen
EQM ˆ θ ( )= E ˆ θ − θ( )2[ ]= E ˆ θ − E ˆ θ ( )+ E ˆ θ ( )− θ[ ]2
= E ˆ θ − E ˆ θ ( )[ ]2 + E ˆ θ ( )−θ[ ]2
+2 E ˆ θ ( )−θ[ ]E ˆ θ − E ˆ θ ( )[ ]0
1 2 4 3 4
= V ˆ θ ( )+ B ˆ θ ( )[ ]2 = MSE ˆ θ ( )[ ] c) Cas d'un estimateur sans biais
EQM ˆ θ ( )= V ˆ θ ( ) d) Mesure de précision de ˆ θ
η = 1EQM ˆ θ ( )
• Si ˆ θ est sans biais, η = 1V ˆ θ ( )
18
c) Efficacité relative : Cas général Si ˆ θ 1 et ˆ θ 2 sont des estimateurs quelconques de θ, l'efficacité relative de ˆ θ 1 par rapport à ˆ θ 2 est définie par
ER ˆ θ 1, ˆ θ 2( )= EQM ˆ θ 2( ) EQM ˆ θ 1( )
d) Efficacité absolue
Nous allons d’abord travailler dans une classe d’estimateur (classe des estimateurs linéaires) pour ensuite définir l’efficacité absolue de manière générale
19
3. Estimateur BLUE
a) Définition
Estimateur BLUE = estimateur linéaire sans biais de variance minimum (Best Linear Unbiased Estimation)
b) Exemple
X ~ n (µ ,1) ; µ ∈ R
1°) Estimateur linéaire :
˜ µ = c + ai xii∑ ; c, a1, .. . ,an ∈ R
2°) Estimateur sans biais : ˜ µ est sans biais si, ∀ µ,c et ai ∈ R :
E ˜ µ ( )= µ ⇔ c + ai µi∑∑ = µ
⇔ c +µ ai −1i∑
= 0
⇒ c = 0 ; aii∑ = 1
20
3°) Estimateur sans biais de variance minimum : on doitminimiser la variance par rapport aux ai i=1,…,n
• Min V( ˜ µ ) = ai2 V xi( )
i∑ = ai
2
i∑ a i = 1
i∑
• Fonction de Lagrange :
l (a1 , . . . , an ; λ ) = ai
2
i∑ −λ ( ai
i∑ −1)
• C.N. pour avoir un minimum :
∂ l∂ ai
= 0 ⇔ 2 ai − λ = 0 ⇔ ai = λ2
∂ l∂λ
= 0 ⇔ ai = 1 i∑∑
⇒ aii∑ = nλ
2= 1 ⇒ λ = 2
n
⇒ ai = 1n
i = 1,.. . ,n
4°) Donc l’estimateur BLUE : ˜ µ = 1n
xii∑∑ = x
21
4. Efficacité absolue a) Objectif poursuivi
Rechercher un estimateur sans biais θ* d'un paramètre θ tel que
V θ*( )≤ V ˆ θ ( )
où ˆ θ est un autre estimateur sans biais de θ ⇒ recherche d'un estimateur sans biais de variance minimum (SBVM) b) Borne de Cramer–Rao On suppose remplies certaines conditions de régularité permettant de réaliser certaines opérations (fonction L θ( ) différentiable, permutation des opérations d'intégration et de dérivation,...) Si L θ( ) est la fonction de vraisemblance et ˆ θ un estimateur sans biais de θ :
V(ˆ θ ) ≥ 1 Ed log L(θ)
dθ
2
22
c) Information de Fisher
In (θ) = Ed log L(θ)
dθ
2
d) Estimateur SBVM (efficace) Si θ* est un estimateur sans biais de θ tel que
V θ*( )= 1In θ( )
, il est de variance minimum (efficace)
23
d) Exemple • X ~ n (µ ,1) µ ∈ R ; µ = x
• log L (µ) = − n2
log 2 Π − 12
(x i − µ) 2
i∑∑
• d log L(µ)
dµ= (x i −
i∑∑ µ)
• In (µ) = Ed log L(µ)
dµ
2
= E (xi − µ)
i∑
2
= E (xi −µ)2
i∑
car xi indépendants
= E (xi −µ)2[ ]σ2 = 1
1 2 4 3 4 i∑ = n
• Inégalité de Cramer–Rao : V( ˆ µ ) ≥ 1n
Or V( ˆ µ ) = σ2
n= 1
n ⇒ estimateur SBVM
24
5. Estimateur convergent
a) Définition
Soit ˆ θ n= ˆ θ (x 1 , .. . , x n) un estimateur de θ ; il estconvergent si
limn→∞
P ˆ θ n −θ < ε( )= 1 , ∀ ε > 0
Notation : ˆ θ np → θ
25
b) Propriété (C.S. pour avoir convergence)
Si ˆ θ n est un estimateur de θ tel que :
limn→∞
E ( ˆ θ n ) = θ et limn→∞
V ( ˆ θ n ) = 0
alors : ˆ θ np → θ
•Démonstration : cf. le théorème 8 du chapitre 4 Supposons que
E(Xn )
n→∞ → µ ∈ R
⇒ Xn p → µ si V(Xn )
n → ∞ → 0
c) Exemple
• X ~ n (µ,1) • Échantillon : x1 , . . . , xn
• ˆ µ = x : E( ˆ µ ) = µ ; V( ˆ µ ) = 1n n→∞
→ 0
⇒ x
p → µ
26
6. Estimateur exhaustif
a) Définition intuitive
Estimateur qui conserve toute "l'information fournie par l'échantillon
b) Définition formalisée
1°) Cas discret :
• Loi de x1,. . . ,xn : p x1,. . . , xn ; θ( )
• Loi de ˆ θ : pθ ˆ θ ( )
• ˆ θ est exhaustif si la loi conditionnelle p x1,. . . , xn
ˆ θ ( ) ne dépend pas de θ
• Principe de factorisation :
p x1,. . . , xn ; θ( )= pθ ˆ θ ( )⋅ h x1 ,. .. , xn( )
où h x1,. . . , xn( ) est indépendante de θ
27
2°) Cas continu :
• Loi de x1,. . . ,xn : f x1, .. . , xn ;θ( )
• Loi de ˆ θ : gθ ˆ θ ( )
• ˆ θ est exhaustif si la loi conditionnelle f x1, .. . , xn
ˆ θ ( ) est indépendante de θ
• Principe de factorisation :
f x1, .. . , xn ;θ( )= gθ ˆ θ ( )⋅h x1,. . . ,xn( )
où h est indépendante de θ
3°) Cas de plusieurs paramètres :
Définition analogue basée sur les lois conditionnelles p x1,. . . , xn
ˆ θ k( ) ou
f x1, .. . , xnˆ θ k( ), où k = 1,.. . ,K
⇒ principe de factorisation
28
c) Exemple :
• X ~ n µ,1( )
• f x1, .. . , xn ; µ( )= 12Π( )n 2 e
−12
xi −µ( )2i∑
• ˆ µ = x = 1
nxi
i∑ ~ n µ,
1n
en vertu du théorème d'addition des lois normales indépendantes
⇒ gµ ˆ µ ( )= n2Π
e−
n ˆ µ −µ( )22
• Principe de factorisation :
f x1, .. . , xn ; µ( )= gµ ˆ µ ( )⋅h x1,. . . ,xn( )
⇔f x1,. . . , xn ; µ( )
gµ ˆ µ ( ) ne dépend pas de µ
29
• Déterminons f (x1,. .. ,xn;θ)
gµ ( ˆ µ )
= 1
(2Π)n / 2e
−1/2 (xi −µ)2
i∑
/ n2Π
e−n( ˆ µ −µ)2
2
= 1
n(2Π )n−1
2
e−1
2(xi −µ)2 −( ˆ µ −µ)2[ ]
i∑
= 1
n(2Π )n−1
2
e−1
2(xi −2µ+ ˆ µ )(xi − ˆ µ )[ ]
i∑
= 1
n(2Π )n−1
2
e
−12
(xi2 − ˆ µ 2 )−2µ xi − ˆ µ ( )
i∑
=01 2 4 3 4 i
∑
= 1
n(2Π )n−1
2
e−1
2(xi
2 − ˆ µ 2 )i∑
: ne dépend pas de µ
⇒ ˆ µ est un estimateur exhaustif de µ
30
d) Théorème : Exhaustivité et efficacité
1°) Énoncé :
Un estimateur exhaustif ˆ θ est efficace si et seulement si
d log L θ( )d θ
= k θ( ) ⋅ ˆ θ −θ( )
où k θ( ) ne dépend pas des observations 2°) Exemple :
• X ~ n (0,1) • ˆ µ = x est un estimateur exhaustif de µ
• log L µ( )= − n2
log2Π − 12
xi − µ( )2
i∑∑
• d log L µ( )
d µ= xi − µ( )
i∑ = n x − µ( )
⇒ k µ( )= n ⇒ ˆ µ est efficace
31
7. Propriétés des estimateurs M.V.
Sous certaines conditions de régularité, la solution ˆ θ n de l'équation M.V. possède les propriétés suivantes : a) S’il existe un estimateur efficace, il est solution
de l’équation M.V. b) S’il existe un estimateur exhaustif, toute solution
de l’équation M.V. est fonction de cet estimateur c) Si l’équation M.V. admet une solution unique ˆ θ n,
cet estimateur est convergent, asymptotiquement efficace et asymptoti-quement normal :
ˆ θ n ≈ n θ,1 Ed log L
d θ
2
32
8. À propos de terminologie
Le tableau suivant indique la correspondance entre quelques termes français et anglais spécifiques à l'estimation
Français Anglais
Vraisemblance Likelihood
Sans biais Unbiaised
Biais Bias
Écart quadratique moyen
Mean squared error
Convergent Consistent
Exhaustif Sufficient
Efficacité Efficiency
33
D INTERVALLE ET REGION DE
CONFIANCE
1 Introduction a) Estimation ponctuelle
• Echantillon EAS :
x = x1,. . . ,xn( )' ∈ x ⊂ R n
• Estimation d'un paramètre θ : Si θ ∈ Θ, où Θ est l'espace des paramètres :
ˆ θ = ˆ θ x( )
• Utiliser la loi de ˆ θ pour mieux apprécier l'écart entre ˆ θ et θ
34
b) Exemple
• X ~ n (µ ,σ2 )
• EAS x1,. . . ,xn ? x ~ n (µ ,
σ2
n)
35
2 Région et intervalle de confiance A) Objectif
Rechercher ˆ Θ = ˆ Θ x( ) ⊂ Θ tel que P ˆ Θ ∋ θ( ) soit fixée a priori
B) Niveau de confiance
• Si P ˆ Θ / ∋ θ( )= α , où 0 < α < 1, on a :
P ˆ Θ ∋ θ( )= 1 − α
⇒ 1 −α = niveau de confiance
• Niveaux usuels : 0. 95 ; 0.99 ; 0.90 ; .. .
36
C) Intervalle de confiance
S'il n'y a qu'un paramètre, la région de confiance s'appelle intervalle de confiance :
• Soit un paramètre θ ∈ Θ ⊂ R
• On désire construire un intervalle (l1,l2 ) où li = li (x1,. . . ,xn ) — i = 1, 2 — tel que
P (l1 ≤ θ ≤ l2 ) = 1 − α
où 1 −α est un niveau de confiance choisi a priori
Remarques
1°) l1 et l2 sont des variables aléatoires
2°) L'intervalle peut être bilatéral ou unilatéral • Cas bilatéral : on impose généralement que
P (l1 > θ) = α 2 , P (l2 < θ) = α 2
( )
1 2 4 4 3 4 4
α 2 l1 1 −α l2 α 2
• Cas unilatéral :
l2 = ∞ et P (l1 > θ) = α
ou l1 = −∞ et P (l2 < θ) = α
37
3. Exemples de construction d’intervalle de confiance.
A) Intervalle de confiance pour la moyenne
d’une variable normale X ~ n (µ ,σ2 ) µ ∈ R , σ2 ∈ R0
+ a) Cas où σ2 est connu
1°) Loi de ˆ µ :
• Échantillon aléatoire : x1,. . . ,xn • Estimateur de µ : ˆ µ = x Rappel : ˆ µ est un estimateur M.V. de µ
• Loi de ˆ µ : x ~ n (µ ,
σ2
n)
Rappel : Théorème d’addition des v.a. normales indépendantes
• Loi centrée réduite :
x −µσ / n
~ n (0,1)
38
2°) Construction de l’I.C. (1 −α ) :
• Rappels :
Si Z ~ n (0,1) et α ∈ 0,1( ), z1−α /2
(quantile d’ordre 1 − α2
), est défini par :
P (Z ≤ z1−α / 2) = 1 − α2
Il en résulte que
P (−z1−α /2 ≤ Z ≤ z1−α /2 ) = 1 −α
N.B. : −z1−α /2 = zα /2
39
Table 10 : Quantiles zp de la variable Z ~ n (0,1)
définis par : F zp( )= P Z ≤ zp( )= p 0 < p < 1( )
40
• Comme x −µσ / n
~ n (0,1) :
⇒ P(−z1−α /2 ≤ x − µσ / n
≤ z1−α /2 ) = 1 − α
⇔ P(−z1−α /2σn
≤ x −µ ≤ z1−α /2σn
) = 1 − α
⇔ P(−x − z1−α /2σn
≤ −µ ≤ −x + z1−α / 2σn
)
= 1 − α
⇔ P(x − z1−α /2σn
l1
1 2 4 4 3 4 4 ≤ µ ≤ x + z1−α /2
σn
l2
1 2 4 4 3 4 4 ) = 1 −α
Si l1 = x − z1−α /2
σn
et l2 = x + z1−α /2
σn
:
P(l1 ≤ µ ≤ l2 ) = 1 − α
⇒ (l1,l2 ) est un I.C. (1 −α ) pour µ
1 2 4 4 34 4 1 2 4 4 34 4
41
b) Cas où σ 2 est inconnu
1°) Loi de ˆ µ : loi de Student (cf. chapitre 5)
x −µs / n −1
~ t n−1 (oux − µS / n
~ t n−1)
• Nombre de degrés de liberté : υ = n −1
42
2°) Propriété de tn−1 : Si Y ~ tn−1, le quantile tn−1;1−α 2 d’ordre 1 −α 2
[où α ∈ (0,1)] est tel que
P Y ≤ tn−1;1−α /2( )= 1 −α 2
⇒ P −tn−1;1−α /2 ≤ Y ≤ tn−1;1−α /2( )= 1 −α
43
Table 12 : Quantiles tv;p de la variable de Student tv
définis par : F tv;p( )= P tv ≤ tv;p( )= p
44
4°) I.C. (1 −α ) pour µ :
P −tn−1;1−α / 2 ≤ x − µs / n −1
≤ tn−1;1−α / 2
= 1 −α
⇔ P x − tn−1;1−α /2s
n −1≤ µ
≤ x + tn−1;1−α /2s
n −1 = 1 −α
Posons :
l1 = x − tn−1;1−α / 2
sn −1
= x − tn−1;1−α /2Sn
l2 = x + tn−1;1−α /2
sn −1
= x + tn−1;1−α /2Sn
⇒ l’I.C. (1 −α ) pour µ est donnée par (l1 ,l2 )
45
B) Intervalle de confiance pour la variance d’une loi normale : X ~ n (µ ,σ2 )
µ ∈ R , σ2 ∈ R0+
a) Cas où µ est connu
1°) σ 2∧
= 1n
(x i − µ) 2
i∑
2°) nσ 2∧
σ 2 =x i − µ
σ
2
i∑
= v. a. n (0,1) indép.[ ]
i=1
n∑
2
~ χn2
3°) Propriétés de Y ~ χ n
2 : Quantiles χn;α /2
2 et χn;1−α /22 définis par :
P η ≤ χn;α / 2
2( )= α / 2
P η ≤ χn;1−α /22( )= 1 − α
2
46
⇒ P χn;α /22 ≤ Y ≤ χn;1−α /2
2( )=1 − α
4°) I.C. (1 – α) :
P χn;α / 22 ≤ nσ2∧
σ2 ≤ χn;1−α /22
= 1 −α
⇔ Pnσ2∧
χn;1−α /22
l1
1 2 4 3 4
≤ σ2 ≤ nσ2∧
χn;α /22
l21 2 3
= 1 −α
47
Table 11 : Quantiles χv , p2 de la variable χv
2 définis
par : P χv2 ≤ χv , p
2( )= p
48
b) Cas où µ est inconnu
1°) σ 2∧
= s 2 ou S2 2°) Nous avons vu que (cf. chap. 6) :
ns 2
σ 2 ~ χ n −12
3°) I.C. (1 – α) :
l 1 = n s 2
χ n−1;1 −α / 22
l 2 = n s 2
χ n −1;α /22
49
4. Propriété relative aux grands échantillons
• Si ˆ θ est un estimateur sans biais du paramètre θ , de variance V ˆ θ ( ) et
admettant une D.P. (approximative- ment) normale, un intervalle de confiance pour θ, au niveau de confiance 1 −α( ), est défini par
ˆ θ − z1−α 2 V ˆ θ ( ), ˆ θ + z1−α 2 V ˆ θ ( )[ ] où z1−α 2 est le quantile d'ordre
1 −α 2 de Z ~ n 0 ,1( ) • Si V ˆ θ ( ) est inconnu et qu'on peut
l'estimer par un estimateur convergent ˆ V ˆ θ ( ), l'intervalle est alors défini par
ˆ θ − z1−α 2 ˆ V ˆ θ ( ), ˆ θ + z1−α 2 ˆ V ˆ θ ( )[ ] 50
Exemple 1. Intervalle de confiance pour la moyenne d’une loi quelconque
a) Rappel T.C.L. implique que, pour n grand (n = 30) :
x −µσ / n
≈ n (0,1)
⇒ la construction d’un I.C. pour µ est basée sur cette loi asymptotique b) Cas où σ 2 est connu
I.C. (1 – α) : x ± z 1 − α / 2σn
c) Cas où σ 2 est inconnu
I.C. (1 – α) :
x ± z 1 −α / 2s
n −1= x ± z 1−α /2
Sn
51
Exemple 2. Intervalle de confiance pour une proportion
a) Loi de X
Soit X ~ b (1,πA), où πA représente la proportion d’individus possédant une modalité A b) Échantillon aléatoire x1,. . . ,xn
• xi =1 si i possède la modalité A
0 sinon
• n A = nombre d’éléments de l’échantillon
possédant la modalité A :
nA = x ii=1
n∑
• nA ~ b (n,πA)
⇒ E (nA ) = n πA ; V (nA ) = n πA (1 − πA )
• Estimation de πA :
ˆ π A =n A
n= x
⇒ E ( ˆ π A) = πA ; V ( ˆ π A) = πA (1 − πA )n
52
c) Remarque ˆ π A est la solution unique de l’équation M.V. ⇒ exhaustif, efficace d) Loi de ˆ π A
1°) Loi exacte : n ˆ π A ~ b (n ,πA ) → exercices
2°) Loi asymptotique (n grand) :
ˆ π A ≈ n πA ,
πA (1 − πA)n
⇔ˆ π A − πA
πA (1 − πA)n
≈ n (0,1)
N.B. : Loi valable si
n πA (1 − πA) > 9
ou
n > 20,n πA > 10,n(1 − πA) >10
53
e) Construction de I.C. (1 −α ) pour πA
ˆ π A − πAπA 1 − πA( )
n
≈ n 0 ,1( )
⇒ P (−z1−α /2 ≤ˆ π A − πA
πA (1 − πA)n
≤ z1−α / 2) = 1 − α
⇔ P ˆ π A − z1−α /2πA (1 − πA )
nl1
1 2 4 4 4 4 3 4 4 4 4 ≤ πA
≤ ˆ π A + z1−α /2πA (1 − πA)
nl2
1 2 4 4 4 4 3 4 4 4 4
= 1 − α
54
f) Valeurs approchées de l1 et l2 :
• ˆ π A ≈ n πA ,
πA 1 − πA( )n
⇒ πA = ˆ π A + k
n ,
où k est une constante (inconnue)
• πA (1 − πA)
n=
ˆ π A + kn
1 − ˆ π A − k
n
n
=ˆ π A (1 − ˆ π A)
n+ k
1 − 2 ˆ π An3/2 − k2
n2
≈ˆ π A (1 − ˆ π A)
n quand n est grand
• Valeurs approchées de l1 et l2 :
l1 ≈ l1
* = ˆ π A − z1−α / 2ˆ π A (1 − ˆ π A )
n
l2 ≈ l2
* = ˆ π A + z1−α /2ˆ π A (1 − ˆ π A )
n
• Remarque : on peut aussi estimer V ˆ π A( ) par son estimateur sans biais :
55
5. Incertitudes absolue et relative
a) Incertitude absolue (Ia)
• On désigne parfois sous ce terme la demi–longueur de l’intervalle de confiance, quand ce dernier est symétrique
• Exemple : pour l’estimation de la moyenne µ de
X ~ n (µ,σ2 ) :
Ia = z1−α / 2σn
b) Incertitude relative (Ir)
• Elle est obtenue en divisant l'incertitude absolue par l’estimation du paramètre
• Exemple (voir ci–dessus) :
Ir =z1−α /2
σn
x
56
c) Taille d'un échantillon aléatoire Problème : Comment déterminer n en fonction d’une incertitude maximale souhaitée ? Exemples : - Estimation d’une moyenne Si on veut que Ia ≤ ∆ µ :
z1−α /2σn
≤ ∆ µ ⇔ n ≥z1−α /2 σ
∆ µ
2
- Estimation d’une proportion
• Si on veut que Ia ≤ ∆ π :
z1−α /2πA (1 − πA)
n≤ ∆ π
⇔ n ≥z1−α /2
2 πA (1 − πA )
∆ π( )2
• Comme πA (1 − πA ) ≤ 14
, on peut choisir
n ≥ z1−α /22 / 4 (∆ π)2
57
6. Région de confiance Illustrons le cas de plusieurs paramètres par un
exemple : X ~ n (µ,σ2 ) où θ = µ ,σ2( )' est un
paramètre inconnu à estimer Utilisation des intervalles de confiance
• I.C. µ( ) : x ± tn−1;1−α 2s
n −1
I.C. σ2( ) : ns2
χn−1;1−α 22 ,
ns2
χn−1;α 22
• P IC µ( )∋ µ[ ]= P A( ) = 1 − α' • P IC σ2( )∋ σ2[ ]= P B( ) = 1 − α''
• P IC µ( )∋ µ ∩ IC σ2( )∋ σ2[ ]= P A∩ B( )
58
P A∩ B( ) = 1 − P A ∪ B ( ) = 1 − P A ( )+ P B ( )− P A ∩ B ( )[ ]
1 − P A ( )α'
1 2 3 − P B ( )
α''1 2 3
+ P A ∩ B ( )≥0
1 2 4 3 4
≥ 1 − α' −α'' = 1 − α
où α = α' +α ''
⇒ Région de confiance de niveau ≥ 1 − α
1
Chapitre 8 : Tests d’hypothèses
A INTRODUCTION
1) Problème de test- Introduction
• Remplissage automatique d’une machine à café (σ = 1.5 cl) ⇒ contenu X
• X ~ n (µ,σ2 ) où µ ∈ R et σ = 1.5 cl ? paramètre d’intérêt : ? = µ où ? ? Θ
Hypothèse nulle : H0 Hypothèse alternative : H1 où H0+H1=Θ Problème des test : caractérisé par H0 et H1 Problème de décision :
- RH0 : rejet de l’hypothèse nulle
- 0RH : non rejet de l’hypothèse nulle
Remarques - non rejet de H0 ne veut pas dire acceptation de H0
- H0 contient le modèle que l’on met en doute. 2
• Problème du délégué étudiant : Hypothèse nulle : H0 : µ = 25 cl Hypothèse alternative : H1 : µ < 25 cl • Problème du fabriquant : Hypothèse nulle : H0 : µ = 25 cl Hypothèse alternative : H1 : µ > 25 cl
• Problème de l’inspecteur indépendant : Hypothèse nulle : H0 : µ = 25 cl Hypothèse alternative : H1 : µ ? 25 cl
• Comment tester la validité de
H0 : µ = 25 cl (µ = 25 cl) ? H1 : µ < 25 cl H0 : µ = 25 cl (µ = 25 cl) ? H1 : µ > 25 cl H0 : µ = 25 cl (µ = 25 cl) ? H1 : µ ? 25 cl
sur base d’un échantillon ??
3
2) Problème de tests d’hypothèses
1°) Hypothèses nulle et alternative : Si θ ∈ Θ :
H0 : θ ∈ Θ0 où Θ0 ⊂ Θ
H1 : θ ∈ Θ1 = Θ− Θ0
2°) Utilisation d'un échantillon :
3°) Règle de décision :
• Rejeter H0 R H0( ) ou non R H0( ) • Région critique C0 (zone de rejet) :
R H0 si x ∈ C0 = C Θ0( ) ; R H0 si x ∉ C0 4
3) Analogie avec les intervalles de confiance pour un paramètre à partir d'un échantillon
• Echantillon EAS : x = x1,. . . ,xn( )' ∈ x ⊂ Rn • Estimation d'un paramètre θ :
Si θ ∈ Θ, où Θ est l'espace des paramètres :
ˆ θ = ˆ θ x( )
• Région de confiance :
ˆ Θ = ˆ Θ x( ) ⊂ Θ tel que P ˆ Θ ∋ θ( )= 1 − α
où 1 −α est le niveau de confiance
5
4) Vocabulaires
a) Hypothèses simples et composites :
• Hypothèses simples : Θ0 = θ0 , Θ1 = θ1 • Hypothèses composites : cas contraire Exemple : H0 : θ ≤ θ0
b) Valeur hypothétique de θ : Si Θ0 = θ0 , θ0 est appelé valeur
hypothétique de θ
c) Tests bilatéraux et unilatéraux : • Test bilatéral :
H0 : θ = θ0 ↔ H1 : θ ≠ θ0
• Tests unilatéraux :
H0 : θ ≤ θ0 ou θ = θ0( ) ↔ H1 : θ > θ0 H0 : θ ≥ θ0 ou θ = θ0( ) ↔ H1 : θ < θ0
6
5) Erreurs de 1ère et 2ème espèces
Hypothèse vraie → Décision ↓
H0 H1
R H0 erreur (I) α
bravo 1 - β
R H0 bravo 1 - α
erreur (II) β
a) Risque de 1ère espèce :
α = P R H0 H0( )= P x ∈ C0 θ ∈ Θ0( )
⇒ P R H0 H0( )= P x ∉ C0 θ ∈ Θ0( )= 1 −α
b) Risque de 2ème espèce :
β = P R H0 H1( )= P x ∉ C0 θ ∈ Θ1( )
⇒ P RH0 H1( )= P x ∈ C0 θ ∈ Θ1( )= 1 −β
c) Remarques : • α et β varient en sens opposés (exemple) • On se fixe α (petit) et on tente de choisir une
procédure qui présente un risque β "le plus petit possible"
7
6) Variable de décision (statistique de test)
• Il peut être difficile d'exprimer de façon simple la région critique
⇒ On exprime souvent la règle de décision en fonction de ˆ θ ou d'une variable T (statistique de test) dépendant de ˆ θ
• Exemple (ELST, p. 335)
On compare ˆ µ = x à µ0 : RH0 si x est "trop loin"
de µ0 (=25cl)
⇒ la statistique de test T est basée sur x ou plus précisément est la variable centrée réduite sous H0 (sous H0 = en supposant que H0 est vraie)
:
0
/
xT
n
µσ
−=
• La règle de décision est construite à partir de la loi de probabilité de T
En effet si H0 est vérifié T ~ N(0,1), il « suffit » donc de vérifier si la valeur obtenue est cohérente avec cette loi.
8
7) Test optimaux et test sans biais
a) Fonction de puissance :
r θ( ) = P RH0( )= P x ∈ C0( ) , θ ∈ Θ
b) Puissance du test
Si θ ∈ Θ1 : r θ( ) = P RH0 θ ∈ Θ1( )= 1 −β
c) Niveau (de signification) du test :
α = supθ ∈ Θ0
r θ( )
N.B. : Si Θ0 = θ0 : α = r θ0( )
d) Test uniformément le plus puissant (UPP ou UMP) de niveau α :
Test tel que
r θ( ) ≥ r * θ( ) , ∀ θ ∈ Θ1
où r * θ( ) est la fonction de puissance de tout autre test de niveau α
9
e) Test sans biais :
Le test
H0 : θ ∈ Θ0 ↔ H1 : θ ∈ Θ1
est sans biais si
max
θ ∈ Θ0
r θ( ) ≤ maxθ ∈ Θ1
r θ( )
⇒ Il rejette H0 plus souvent quand elle est
fausse que quand elle est vraie
f) Remarque :
La recherche d'un test UPP est naturelle ; malheureusement, un tel test n'existe pas toujours
g) Question :
Comment construire des tests optimaux (s' ils existent) ?
10
B METHODE DE NEYMAN-PEARSON • Objectif : Maximiser la puissance r θ( ) , θ ∈ Θ1
pour une valeur α fixée a priori • N.B. : Nous présentons le cas où le modèle
statistique est défini par f (x ;θ), où θ ∈ R
1) Cas de deux hypothèses simples
a) Introduction :
H0 : θ = θ0 ↔ H1 : θ = θ1
f (x ; θ) = f (x1,. . . ,xn ; θ) = L(θ)
• Région critique C0 : région de x telle que :
P x ∈ C0 H0( )= f x ; θ0( )C0
∫ d x = α
On veut maximiser : r θ( ) = f (x ; θ1)
C0
∫ d x = P(x ∈ C0 H1)
= f (x ; θ1)f (x ; θ0 )C0
∫ f (x ;θ0 ) d x
11
b) Théorème de Neyman–Pearson : S'il existe un test ayant pour région de rejet
C0 = xf (x ;θ1)f (x ; θ0 )
> kα
où kα est une constante positive fonction de
α = P x ∈ C0 θ = θ0( ) , alors C0 définit le test le plus puissant pour H0
contre H1, au niveau α
→ test uniformément le plus puissant (UPP) c) Remarque : Si ˆ θ est un estimateur exhaustif de θ :
f (x ,θ) = gθ(ˆ θ ) . h(x)
où h(x) est indépendante de θ
⇒ C0 est défini par la condition :
f (x ;θ1)f (x ; θ0 )
=g θ1
(ˆ θ )g θ0
( ˆ θ )> kα
12
d) Exemple : • X ~ n (µ ,σ2 ) où µ ∈ R et σ2 connu
⇒ x ~ n µ ,
σ2
n
• gµ (x ) = 1
2 Π σ2
n
e− (x −µ)2
2σ2 /n
• H0 : µ = µ0 ↔ H1 :µ = µ1 (niveau α) • Comme ˆ µ = x est exhaustif (cf. chapitre 7), on peut
construire C0 à partir de
gµ1
(x )
gµ0(x )
= e−
(x −µ1)2
2σ2 /n e−
(x −µ0 )2
2σ2 /n
= e
n
2σ2 (x −µ0 )2 −(x −µ1 )2[ ]
= e
n
2σ2 2x −µ0 −µ1( ) µ1 −µ0( )
13
⇒ C0 est définie par l'ensemble des x tel que
(2 x − µ0 − µ1 ) (µ1 −µ0 ) > ′ k α
où ′ k α = 2σ2
nloge kα
⇒ La région C0 optimale est telle que :
(i) Si µ1 > µ0 : x > c = µ0 + 12
µ1 −µ0 + ′ k αµ1 − µ0
(ii) Si µ1 < µ0 : x < d = µ0 − 12
µ0 − µ1 + ′ k αµ0 −µ1
où les valeurs de c et d dépendent de α • Exemple :
14
2) Test d'une hypothèse simple ou composite contre une hypothèse composite
• H0 : θ ∈ Θ0 ↔ H1 : θ ∈ Θ1 • Le théorème de Neyman-Pearson peut être généralisé • En général, il n'existe pas de test UPP
c) Remarque
Quand l'échantillonnage est fait à partir d'une
population dont la loi appartient à la famille
exponentielle (normale, binomiale, Poisson,...) et
que l'on se restreint aux tests sans biais, on peut
construire un test UPP
15
C DEMARCHE D’UN TEST
Problème de test : choix de H0 et H1
↓
Statistique de test : choix et détermination d'une variable de décision basée sur l'échantillon
↓
Loi de la statistique de test sous H0
↓
Règle de décision : Détermination de la région de rejet en fonction de α et
de H1
RH0 ou R H0
↓
Calcul éventuel de la puissance du test r θ( ) = P RH0( )
16
D TEST DU RAPPORT DE VRAISEMBLANCE
1) Rapport de vraisemblance
• H0 : θ ∈ Θ0 ↔ H1 : θ ∈ Θ1
• Rapport de vraisemblance :
λ x( ) =maxθ∈ Θ0
L θ, x( )
maxθ∈ Θ
L θ, x( )
• Propriété :
0 ≤ λ x( ) ≤ 1
2) Région de rejet Plus λ est grand, plus H0 est vraisemblable
⇒ C0 = x λ x( ) ≤ k où 0 ≤ k ≤ 1, et
α = max
θ∈ Θ0r θ( )
17
3) Théorème Sous H0, si n est grand :
− 2 loge λ x( ) ≈ χ p2
où p est la dimension de θ ? Règle de décision :
RH0 si − 2 loge λ x( ) > χ p;1−α2
18
E PROPRIETE RELATIVE AUX GRANDS ECHANTILLONS
• X ~ loi (paramètre θ)
Supposons que, sous certaines conditions, ˆ θ ≈ n θ,V ˆ θ ( )[ ] Problème de test : H0 : θ = θ0 H1 : θ ≠ θ0
Statistique de test : 0
0
ˆ
ˆ( )T
V
θ θ
θ
−=
où V0 (ˆ θ ) est la valeur de V(ˆ θ ) si θ = θ0
Loi sous H0 : 0
0
ˆ(0,1)
ˆ( )T N
V
θ θ
θ
−= ≈
Règle de décision
RH0 si T =ˆ θ − θ0
V0 (ˆ θ )> z1−α 2
R H0 sinon
Remarques • Estimation de V(ˆ θ ) par ˆ V (ˆ θ )
• Tests unilatéraux
19
F TEST RELATIF A LA MOYENNE
A) Test sur 1 moyenne 1)Population Normale : X ~ n (µ ,σ2 ) où σ2connu
a) Résolution du problème de test
• EAS : x1,. . . ,xn d'effectif n :
Problème de test: H0 : µ = µ0
H1 : µ ≠ µ0 où µ0 est une valeur hypothétique donnée a priori
Loi de l’estimateur : x ~ n (µ ,
σ2
n)
20
Statistique de test :
0
/
xT
n
µσ
−=
Loi de T sous H0 : T =
x − µ0σ n
~ n 0,1( )
Règle de décision
1°) Première forme :
RH0 si T =x − µ0σ n
∉ −z1−α 2 , z1−α 2( )
R H0 dans le cas contraire
21
2°) Deuxième forme :
RH0 si T =x −µ0σ n
> z1−α 2
R H0 dans le cas contraire
Exemple (ELST, p. 335-336) :
• µ0 =15 ; n = 100 ; x = 14.2 ; σ = 1.5
• α = 0.05 ⇒ z0.975 = 1.96
• T = -5.33
• Conclusion : RH0
22
b) Autres variables de décision
1°) Écart entre x et µ0 :
Si T* = x −µ0
RH 0 si T * = x − µ 0 > z1−α 2σn
L01 2 4 3 4
R H0 sinon
• Exercice : L0 = 0. 294 ; x − µ0 = 0. 8 ⇒ RH0
2°) Moyenne de l'échantillon : (lien avec intervalle de confiance de l’estimateur).
RH0 si x ∉ µ 0 − L0 ,µ0 + L0[ ]R H0 sinon
• Intervalle de non rejet :
INR = µ0 − L0 ,µ0 + L0[ ] • Exercice :INR = 14.706 ; 15.294[ ] / ∋ 14. 2 : RH0
23
c) Relation avec le test du rapport de vraisemblance 1°) Exemple traité :
• X ~ n (µ ,1) • H0 : µ = µ0 ↔ H1 : µ ≠ µ0 ⇒ Θ =R , Θ0 = µ0 et Θ1 =R \ Θ0
2°) Rapport de vraisemblance :
• λ x( ) =maxθ∈ Θ0
L θ( )
maxθ∈ Θ
L θ( )=
L µ0( )L ˆ µ ( )
où ˆ µ est l'estimateur M.V. de µ
• Rappels :
• L µ( )= 12π( )n 2 e
−12
xi −µ( )2
i∑
• Estimateur M.V. : ˆ µ = x
24
3°) Règle de décision :
• λ x( ) =
12π( )n 2 e
−12
xi −µ0( )2i∑
12π( )n 2 e
−12
xi −x ( )2i∑
= e−1
2xi −µ0( )2 − xi −x ( )2[ ]
i∑
= e−
n x −µ0( )22
• −2 loge λ x( ) = n x −µ0( )2
•
x − µ01 n
~ n 0,1( ) ⇒ n x −µ0( )2 = χ12
⇒ RH0 si x −µ01 n
> z1−α 2
est équivalent à
RH0 si n x −µ0( )2 > χ1;1−α2
• Exemple α = 0.05( ) :
z0.975 = 1.96 ; χ1;0.952 = 3.84 = 1. 96( )2[ ]
25
d) Erreurs de première et deuxième espèces
• Si H0 est vraie : x ~ n µ0 ,
σ2
n
⇒ α = P RH0 H0( )= P x ∉ INR H0( )
• Si H0 est fausse : x ~ n µ1 ,σ2
n
, où µ1 ≠ µ0
⇒ β = P R H0 H 0( )= P x ∉ INR x ~ n µ1 ,
σ2
n
• Exemple (ELST, p. 339) :
H0 : µ = 15 ↔ H1 :µ ≠ 15
26
e) Fonctions de puissance et d'efficacité 1°) Fonction de puissance :
r µ( )= P RH0( )
2°) Fonction d'efficacité :
r µ( )= P R H0( )
27
f) Test unilatéral
• H0 : µ = µ0 ↔ H1 : µ > µ0
RH0 si T = x − µ0σ n
> z1−α
R H0 sinon
• H0 : µ = µ0 ↔ H1 : µ < µ0
RH0 si T = x − µ0σ n
< zα
R H0 sinon
• Autre formulation de la règle de décision
RH0 si T = x −µ0σ n
> z1−α
R H0 sinon
28
2)Population Normale : X ~ n (µ ,σ2 ) où σ2inconnu a) Variable de décision
Si H0 est vraie : T* =x − µ0
s n −1~ tn−1
b) Test bilatéral
H0 : µ = µ0 ↔ H1 : µ ≠ µ0
RH0 si T* = x −µ0s n −1
> tn−1;1−α 2
R H0 sinon
c) Test unilatéral
H0 : µ = µ0 ↔ H1 : µ > µ0 ou µ < µ0( )
RH0 si T* = x −µ0s n −1
> tn−1;1−α
R H0 sinon
29
3)Test relatif à la moyenne d’une loi quelconque
• EAS x1,. . . ,xn • X ~ loi (moyenne µ)
Loi de l’estimateur :
2
( , )x Nn
σµ≈
si n est grand
Problème de test: H0 : µ = µ0 : H1 : µ ≠ µ0
Statistique de test : 0
/
xT
n
µσ
−=
Loi de T sous H0 : 0 (0,1)
/
xT N
n
µσ
−= ≈
Règle de décision
RH0 si T = x −µ0σ n
> z1−α 2
R H0 sinon
où z1−α 2 est le quantile d'ordre 1 − α 2 de Z ~ n 0 ,1( )
(exercice : faire les tests bilatéraux) 30
B) Test d’égalité de deux moyennes
• X1 ~ loi µ1( ) et X2 ~ loi µ2( )
• EAS x11( ) , . . . ,xn1
1( ) et x12( ) , . . . ,xn2
2( )
indépendants :
x 1 , s12 ; x 2 , s2
2
D = x 1 − x 2
Problème de test : H0 : µ1 = µ2
H1 : µ1 ≠ µ2
ou si ∆ = µ1 − µ2 : H0 : ∆ = 0
H1 : ∆ ≠ 0
31
1. Lois de X1 et X2 quelconques nk ≥ 30( ) Statistique de test, loi sous H0 : α) Si σ1
2 et σ22 sont connus :
T = D
σ12
n1+ σ2
2
n2≈ n 0,1( )
β) Si σ1
2 et σ22 sont inconnus :
T = Ds1
2
n1 −1+ s2
2
n2 −1≈ n 0,1( )
Règle de décision :
RH0 si T > z1−α 2
R H0 sinon
32
2) Lois normales: X1 ~ n µ1 ,σ1
2( ) et
X2 ~ n µ2 ,σ2
2( ) avec µ1 = µ2 (sous H0)
Statistique de test, loi sous H0 : α) Si σ1
2 et σ22 sont connus :
T = D
σ12
n1+ σ2
2
n2~ n 0 ,1( )
β) Si σ1
2 et σ22 sont inconnus mais égaux :
T* = Dn1 s1
2 + n2 s22
n1 + n2 − 21n1
+ 1n2
~ tn1 +n2 −2
Règle de décision :
α) ⇒
RH0 si T > z1−α 2
R H0 sinon
β) ⇒
RH0 si T* > tn1 +n2 −2;1−α 2
R H0 sinon
33
3) Cas d'échantillons appariés
• xi1( ) ,xi
2( )( ) concerne le même individu i
⇒ n1 = n2 = n et di = xi1( ) − xi
2( )
• d = 1n
dii∑ ; sd
2 = 1n
di − d ( )2
i∑
• Si n est grand et sous H0 :
d ≈ n 0 ,
sd2
n −1
• Test de moyenne relatif à la différence entre deux v.a.
34
G TEST RELATIF A LA VARIANCE
A) Test sur 1 variance 1)Population Normale :X ~ n (µ ,σ2 ) où µ inconnu
• EAS :x1,…xn
a) Résolution du problème de test bilatéral
Problème de test: H0 : σ2 = σ02
H1 : σ2 ≠ σ02
où σ02 est une valeur hypothétique donnée a priori
Statistique de test :
2
0
nsT
σ=
Loi de T sous H0 : T = ns2
σ02 ~ χn−1
2
Règle de décision
RH0 si T = ns2
σ02 ∉ χn−1;α 2
2 ; χn−1;1−α 22[ ]
R H0 sinon
35
b) Résolution du problème de test unilatéral
Problème de test: H0 : σ2 = σ02
H1 : σ2 > σ0
2
Statistique de test :
2
0
nsT
σ=
Loi de T sous H0 : T = ns2
σ02 ~ χn−1
2
Règle de décision
RH0 si T = ns2
σ02 > χn−1;1−α
2
R H0 sinon
ii) Problème de test: H0 : σ2 = σ0
2
H1 : σ2 < σ02
Statistique de test + Loi sous H0 : idem
RH0 si T = ns2
σ02 < χn−1;α
2
R H0 sinon
36
2) Test relatif à la variance d’une loi quelconque
• X ~ loi (variance σ2)
• EAS x1,. . . ,xn :
s2 = 1n
xi − x ( )2i∑ ; S2 = ns2
n −1
Population quelconque n ≥ 50( )
Problème de test : H0 : σ2 = σ0
2
H1 : σ2 ≠ σ02
Loi de T sous H0 :
T =S2 − σ0
2
µ4 −σ42
n
≈ n 0 ,1( )
Règle de décision
RH0 si T > z1−α 2
R H0 sinon
37
Remarques
a) Si µ4 est inconnu
ˆ µ 4 = m4 = 1n
xi − x ( )4i∑
b) Exercice : Règle de rejet pour un test unilatéral
38
B) Test d’égalité de deux variances
• X1 ~ loi σ12 ,µ4
1( )( ) et X2 ~ loi σ22 ,µ4
2( )( ) • EAS x1
1( ) , . . . ,xn11( ) et x1
2( ) , . . . ,xn22( )
indépendants :
s12 , m4
1( ) ; s22 , m4
2( )
S12 = n1 s1
2
n1 −1; S2
2 = n2 s22
n2 −1
Problème de test : H0 : σ12 = σ2
2
H1 : σ12 ≠ σ2
2
1) Lois de X1 et X2 quelconques nk ≥ 50( ) : Statistique de test, loi sous H0 :
• T = S12 − S2
2
µ41( ) − S1
4
n1+
µ42( ) − S2
4
n2
≈ n 0 ,1( )
Règle de décision : RH0 si T > z1−α 2
R H0 sinon
39
2) Lois normales : Statistique de test, loi sous H0 :
T* = S12
S22 ~ Fn1−1;n2 −1
Règle de décision : RH0 si T* > Fn1 −1;n2 −1;1−α 2
R H0 sinon
Remarques
• Dans le cas de lois normales, on choisit la numérotation k = 1,2 de manière à avoir S1
2 > S22 ;
en outre, si n1 et n2 ≥ 30 :
T =
12
loge S12 S2
2( )12
1n1 −1
+ 1n2 −1
≈ n 0 ,1( )
40
G TEST D'HYPOTHÈSES POUR UNE PROPORTION
A) Test sur 1 proportion
• Population composée de A ou A
• πA : proportion d'individus A
• EAS d'effectif n contenant nA individus A
• ˆ π A = nA n est tel que
E ˆ π A( )= πA ; V ˆ π A( )=πA 1 − πA( )
n
1) Test sur 1 proportion avec loi exacte si n est petit : Problème de test : H0 : πA = π0 H1 : πA ≠ π0
Statistique de test : nA
Loi sous H0 : nA ~ b n;π0( )
41
2) Test sur 1 proportion avec loi asymptotique si n est grand :
Problème de test : H0 : πA = π0 H1 : πA ≠ π0
Statistique de test :
0
0 0(1 )
AnnT
n
− Π=
Π − Π
Loi sous H0 : T =
nAn
− π0
π0 1 − π0( )n
≈ n 0,1( )
(théorème de Moivre-Laplace)
Règle de décision
RH0 si T > z1−α 2
R H0 sinon
Remarques • Test unilatéral
42
B) Test d’égalité de deux proportions Énoncé du problème :
• Populations U1 et U2 composées de A ou A en proportions π1 et π2
• EAS x11( ) , . . . ,xn1
1( ) et x12( ) , . . . ,xn2
2( )
indépendants :
nA1 éléments A prélevés de U1
nA2 éléments A prélevés de U2
• ˆ ∆ = D = nA1n1
− nA2n2
= ˆ π 1 − ˆ π 2
Problème de test : H0 : π1 = π2 H1 : π1 ≠ π2 ou encore, en posant ∆ = π1 − π2 : H0 : ∆ = 0 H1 : ∆ ≠ 0
43
Statistique de test et loi sous H0 : • Si n1 et n2 grands :
D ≈ n ∆,π1 1 − π1( )
n1+
π2 1 − π2( )n2
• Sous H0, on peut estimer la valeur commune π de π1 et π2 par :
ˆ π = nA1 + nA2n1 + n2
• T = D
ˆ π 1 − ˆ π ( ) 1n1
+ 1n2
≈ n 0,1( )
Règle de décision : RH0 si T > z1−α 2
R H0 sinon
Remarque :
• On peut aussi estimer π1 et π2 indépendamment
ˆ π 1 = nA1n1
, ˆ π 2 = nA2n2
44
G. TEST MULTINOMIAL
A) Test multinomial dans 1 population Situation : U
A1 Aj AJ ... ...
π1 πj πJ
• πj = proportion de Aj dans U : πjj
∑ = 1
• EAS x1,. . . ,xn : nj = nombre de Aj j = 1,... , J( )
Problème de test : H0 : πj = πj0 j = 1,.. . , J( )
H1 : au moins un πj ≠ πj0 où πj0
j∑ = 1, 0 < πj0 <1 j = 1,... , J( )
45
• n1,. . . ,nJ( )' : loi multinomiale Statistique de test et loi sous H0 :
T =nj −n πj0( )2
n πj0j=1
J∑ ≈ χJ−1
2
si n ≥ 30, n πj0 ≥ 1 ∀ j( ) et au moins 80 % des nπj0 ≥ 5 :
Règle de décision : RH0 si T > χJ−1;1−α
2
R H0 sinon
Remarque : Test d'ajustement
• Ajuster une D.O.1 Aj ,nj( ); j = 1,.. . , J
par une loi θ1,. . .θM( )
• S'il faut estimer θ1,. . .θM pour estimer les
πj0 : T ≈ χ J−M−12
46
B) Test multinomial pour comparer 2 populations
Énoncé du problème : U1 U2
A1 Aj AJ A1 Aj AJ ... ... ... ...
π11 πj1 πJ1 π12 πj2 πJ2
• EAS x11( ) , . . . ,xn1
1( ) et x12( ) , . . . ,xn2
2( )
indépendants : nj1 éléments Aj prélevés de U1
nj2 éléments Aj prélevés de U2
Problème de test : H0 : πj1 = πj2 j = 1,.. . , J( )
H1 : πj1 ≠ πj2 pour au moins un j
Soit πj la valeur commune de πj1 et πj2, sous H0 :
ˆ π j =nj
n=
nj1 + nj2
nj = 1,.. . , J( )
47
Statistique de test et loi sous H0 :
• Si n ≥ 30, nk ˆ π j ≥ 1 et au moins 80 % des nk ˆ π j ≥ 5 :
D2 =njk − nk ˆ π j( )2
nk ˆ π jk∑
j∑ ≈ χJ −1
2
Règle de décision : RH0 si D2 > χJ−1;1−α
2
R H0 sinon
Remarque : Si πj0 est une valeur de πj1 et πj2 fixée a
priori :D2 =njk − nk πj0( )2
nk πj0k∑
j∑ ≈ χ2 J−1( )
2
48
H. TEST D’INDEPENDANCE 1) Test basé sur le coefficient de corrélation Énoncé du problème
• X ,Y( ) ~ n µ ,∑( ) • Indépendance : X et Y sont indépendantes ssi ρ = 0 où ρ est le coefficient de corrélation entre X et Y • EAS xi , yi( ); i = 1,.. . ,n :
r =sxy
sx sy
Problème de test : H0 : X et Y sont indépendantes
H1 : X et Y ne sont pas indépendantes ou encore : H0 : ρ = 0
H1 : ρ ≠ 0
49
Statistique de test et loi sous H0 :
T = r n − 2
1 − r2~ tn−2
Règle de décision : RH0 si T > tn−2;1−α 2
R H0 sinon
Remarque
• Tables de rejets basées sur les valeurs de r
50
2 Test χ2 Énoncé du problème
• X et Y : variables nominales • EAS xi , yi( ); i = 1,.. . ,n • Tableau de contingence :
x j , yk , njk( ); j = 1,.. . , J ; k = 1,. .. , K
• Effectifs marginaux :
nj. = njkk∑ et n.k = njk
j∑
Problème de test : H0 : X et Y sont indépendantes
H1 : le contraire Statistique de test : Mesure d'association :
D2 =njk − njk
*( )2njk
*k∑
j∑
où njk* =
nj . n.k
n est appelé effectif théorique
51
Loi sous H0 : Si n ≥ 30, njk* ≥ 1 pour tout j , k( ) et au
moins 80 % des njk* ≥ 5 :
D2 ≈ χ J−1( ) K−1( )
2
Règle de décision :
RH0 si D2 > χ J−1( ) K−1( );1−α
2
R H0 sinon
Nombre de degrés de liberté : υ = J −1( ) K −1( )
1
Chapitre 9 : Analyse de la variance
A INTRODUCTION
1) Présentation du problème et approche exploratoire
U1 Uk UK
µ1
σ12
...
µk
σk2
...
µK
σK2
avec Xk ~ Loi (µk, s
2k) où k = 1,.. . ,K
Problème de test : H0 : µ1 = µ2 = . . . = µK
H1:au moins deux moyennes différentes
2
2) Exemple 9.7 (ELST, p. 364)
• Prix d'une denrée dans 3 régions
Prix Régions 1 2 3 1 13.5 13.2 13.4 2 14.2 13.3 13.3 3 14.1 13.1 14.0 4 13.4 13.5 14.2 5 13.3 13.4 14.1
TOTk 65.5 66.5 69.0 204.0 nk 5 5 5 15 x k 13.7 13.3 13.8 13.6 sk
2 0.14 0.02 0.14 0.147
• Boîtes à moustaches :
• sdans2 = 1
Ksk
2
k∑ = 0.100
• sentre2 = 1
Kx k − x ( )2
k∑ = 0.047
• Un critère (facteur contrôlé)
3
B L’ANALYSE DE LA VARIANCE A UN CRITERE
1) Présentation du problème
• Objectif : Comparer des moyennes en identifiant les sources de variation qui peuvent expliquer les différences existant entre elles
• Hypothèses : Xk ~ n µk ,σ2( ) ; k = 1,.. . ,K
EAS indépendants E1, .. . , EK de tailles n1,. . . ,nk
• Problème de test : H0 : µ1 = µ2 = . . . = µK
H1: au moins un µK différent des autres
4
2) Décomposition de la variance a) Présentation des données
• xi k : ième valeur de l'échantillon Ek
i = 1,.. . ,nk ; k = 1,.. . ,K( )
E1 L Ek L EK
x11 L x1k L x1 K
M M M xi1 L xi k L xi K
M M M
L xnk k L xnK K
xn1 1 L L
T1 L Tk L TK T
x 1 L x k L x K x
• Tk = xi ki∑ ; T = Tk
k∑ ; n = nk
k∑ ;
• x k = Tk nk ; x = T n 5
b) Somme totale des carrés des écarts
SCEt = xi k − x ( )2k∑
i∑
• SCEt = xi k2 −n x 2
k∑
i∑ = xi k
2 − T2
nk∑
i∑
? variance biaisée : st2 = SCEt
n
? variance non biaisée :
St2 = CMt = SCEt
n −1
Décomposons cette expression en 2 éléments :
• SCEt = xi k − x k + x k − x ( )2k∑
i∑
= xi k − x k( )2k∑
i∑ + nk x k − x ( )2
k∑
+ 2 x k − x ( )k∑ xi k − x k( )
i∑
01 2 4 3 4
= SCEr + SCEa
6
c) Somme factorielle des carrés des écarts (entre les échantillons)
• A : Ak définit l'appartenance à Uk
• SCEa = nk x k − x ( )2
k∑
• SCEa = nk x k2 − nx 2
k∑ = Tk
2
nk− T2
nk∑
• sa2 = SCEa
K ; Sa
2 = CMa = SCEaK −1
d) Somme résiduelle des carrés des écarts
(dans les échantillons)
• SCEr = xi k − x k( )2k∑
i∑ = xi k
2
k∑
i∑ − Tk
2
nkk∑
• sr2 = SCEr
n ; Sr
2 = CMr = SCErn − K
e) Remarque
SCEt , SCEa ⇒ SCEr = SCEt − SCEa
SCEt , SCEr ⇒ SCEa = SCEt − SCEr
7
3) Variable et règle de décision a) Variable de décision
1°) Estimateur de σ2 :
Sous H0, σ2 peut être estimé sans biais par CMt , CMa ou CMr 2°) Lois de probabilité (sous H0) :
• SCEa
σ2 ~ χK−12 ;
SCEr
σ2 ~ χn−K2 ;
SCEt
σ2 ~ χn−12
• T = Sa2
Sr2 = CMa
CMr~ FK−1,n−K
b) Règle de décision
RH0 si T > FK−1,n−K;1−α
8
4) Tableau ANOVA a) Notations
SV : Source de variation SC : Somme des carrés DL : Degré de liberté CM : Carré moyen b) Tableau
SV SC DL CM T
A SCEa K −1 CMa
Rés. SCEr =
SCEt − SCEa
n − K
CMr T =
CMaCMr
Total SCEt n −1 CMt
A : Différences entre échantillons Rés. : Différence entre observations (dans les échantillons)
9
5) Modèle fixe a) Définitions et notations
• xi k ~ n µk ,σ2( ) i = 1,.. . ,nk
k = 1,.. . , K
•
xi k − µ ~ n µk −µ ,σ2( ) , où
µ = 1n
nk µkk∑
• xi k − µ = xi k − µk
ei k
1 2 4 3 4 +µk − µ
αk1 2 3
• αk = µk − µ : effet principal de la population Uk (facteur contrôlé) → quantité non aléatoire
• ei k = xi k − µk : écarts résiduels
aléatoires, indépendants les uns des autres :
ei k ~ n 0,σ2( )
10
b) Modèle
1°) Énoncé :
xi k = µ +α k + ei k i = 1,.. . ,nk
k = 1,.. . , K
2°) Relation entre les effets :
µ = 1n
nk µkk∑ = 1
nnk µ +α k( )
k∑
= µ + 1n
nk α kk∑ ⇒ nk α k
k∑ = 0
3°) Modèle équilibré :
• nk = nc = constante k = 1,. .. ,K( ) • Dans ce cas : α k
k∑ = 0
11
c) Estimations
• ˆ µ = x ; ˆ µ k = x k ; ˆ α k = x k − x k = 1,. .. ,K( ) • E x ( ) = µ , E x k( )= µk , E ˆ α k( )= α k
• E CMt( )= σ2 + 1n −1
nk α k2
k∑
E CMa( )= σ2 + 1K −1
nk α k2
k∑
E CMr( )= σ2
d) Problème de test Deux énoncés équivalents :
• H0 : µ1 = . .. = µK ↔ H1 : au moins deux µk différents
• H0 : α1 = . . . = α K = 0 ↔ H1 : αk ≠ 0 , pour au moins un k
12
6) Modèle aléatoire a) Objectif
Comparaison d'une (quasi-)infinité de populations b) Tirage à deux degrés
• Choix aléatoire de K populations
• Choix d'un échantillon dans chaque population sélectionnée
c) Modèle
xi k = µ + ak + ei k i = 1,.. . ,nk
k = 1,.. . , K
où nous avons posé :
• ak ~ N(0,s 2a)
• ei k ~ n 0,σ2( )
• ak et ei k sont indépendantes d) Hypothèse nulle : H0 : σa
2 = 0
13
7) Cas de 2 populations (K = 2) a) Somme des carrés factorielle
• SCEa = n1 x 1 − x ( )2 + n2 x 2 − x ( )2 • Nous avons :
x 1 − x = x 1 − n1 x 1 + n2 x 2n1 + n2
=n2 x 1 − x 2( )
n1 + n2
x 2 − x = x 2 − n1 x 1 + n2 x 2n1 +n2
=n1 x 2 − x 1( )
n1 + n2
• SCEa =n1 n2
2 x 1 − x 2( )2 + n2 n12 x 2 − x 1( )2
n1 + n2( )2
=n1 n2 x 1 − x 2( )2 n2 + n1( )
n1 + n2( )2
=x 1 − x 2( )2
1n1
+ 1n2
14
b) Somme des carrés résiduelle
SCEr = n1 s12 + n2 s2
2 c) Variable de décision
T = SCEa K −1( )SCEr n − K( )
=x 1 − x 2( )2
n1 s12 + n2s2
2
n1 + n2 − 21
n1+ 1
n2
= x 1 − x 2n1 s1
2 + n2 s22
n1 + n2 − 21
n1+ 1
n2
2
d) Loi de T
T ~ F1,n1 +n2 −2 = tn1+n2 −22
ou encore, si n = n1 + n2 :
T ~ F1,n−2
15
8) Rapport de corrélation (coefficient de corrélation non linéaire)
• ˆ θ = SCEa
SCEt⇒
ˆ θ 2
1 − ˆ θ 2= SCEa
SCEt
SCEt
SCEt − SCEa
Mesure le degré de dépendance de la variable quantitative, en fonction de la caractéristique nominale (facteur). Pourcentage de la variation totale expliquée par le facteur.
9) Comparaison des moyennes deux à deux a) I.C. simples 1°) Rappel: I.C. 1 −α( ) pour µk −µk' :
x k − x k'( )± tnk +nk' −2;1−α 2 sc1nk
+ 1nk'
où sc2 = nk sk
2 + nk' sk'2
nk + nk' − 2
16
2°) Estimateur commun de σ2 :
x k − x k'( )± tn−K;1−α 2 sc1
nk+ 1
nk'
où sc2 = SCEr
n − K= CMr
3°) Remarque : Difficulté de mesurer le degré de confiance global b) I.C. simultanés (méthode de Scheffé) I.C. pour chaque différence µk −µk', avec un degré de confiance global de 1 −α( ) :
x k − x k'( )± K −1( )FK−1,n−K;1−α sc1nk
+ 1nk'
où sc2 = SCEr
n − K= CMr
17
10) Test de comparaison des variances (test de Bartlett)
a) Préliminaires
• Xk ~ n µk ,σk2( ) , k = 1,.. . ,K
• EAS x1k( ) , . . . ,xnk
k( ) indépendants, de variance
sk2 • Sk
2 = nk sk2 nk −1( ) k = 1,.. . , K[ ]
S2 = 1n − K
nk sk2
k∑∑ (où n = nk
k∑ )
• H0 : σ12 = .. . = σK
2 ↔ H1 : au moins deux s k différents ...
b) Variable de décision Si n1,. . . ,nK ≥ 5, on a, sous H0 :
T =n − K( )loge S2 − nk −1( )
k∑ loge Sk
2
1 + 13 K −1( )
1nk −1
− 1n − Kk
∑
≈ χK−12
c) Règle de décision
RH0 si T > χK−1;1−α2 ; R H0 sinon
18
11) Exemple (ESLT, p. 364-367)
a) Problème de test :
H0 : µ1 =µ2 =µ3
H1 : au moins µK différent des autres
b) Données
Prix Régions 1 2 3
Voir données page 10-2
TOTk 65.5 66.5 69.0 204.0 nk 5 5 5 15 x k 13.7 13.3 13.8 13.6 sk
2 0.14 0.02 0.14 0.147
c) Test de Bartlett
S12 = 0.175, S2
2 = 0. 025, S32 = 0.175, S2 = 0.125
T = 12( ) −2.079( )+ 28.6991 +1 6 0.750 −0.083( )
= 3.37 < χ2;0.152 = 5.99
⇒ R H0 où H0 : σ12 = σ2
2 = σ32
d) Tableau ANOVA
Sources de variation
(SV)
Somme des carrés (SCE)
Degré de liberté (DL)
Carrés moyens (CM)
Entre (A) Dans (rés.)
0.70 1.50
2 12
0.350 0.125
Total 2.20 14
e) Décision : R H0 car 2.80 < F2,12;0.95 = 3.89
19
C L’ANALYSE DE LA VARIANCE A DEUX CRITERES
1) Présentation du problème a) Critères
Deux critères de classification :
A : A1,. . . , Aj , . . . , AJ
B : B1,. . . ,Bk , . . . , BK
b) Traitement
Couple de modalités Aj , Bk( )= j ,k( )
c) Observations : xi j k ; i = 1,.. . ,nj k
d) Modèles
• Modèle complet : nj k > 0, ∀ j , k( )
• Modèle à répétition :nj k >1, ∀ j , k( )
• Modèle équilibré ou orthogonal : nj k = nc , ∀ j , k( ), où nc = constante
• Modèles fixe, aléatoire ou mixte
20
2) Modèle équilibré (orthogonal)
a) Énoncé du modèle
xi j k = µ + α j +βk + γ j k + ei j k
i = 1,.. . ,nc ; j = 1,.. . , J ; k = 1,.. . ,K
b) Effets
• α j : effet principal du niveau j de A • βk : effet principal du niveau k de B • γ j k : effet d'interaction
c) Relations
α jj
∑ = βkk∑ = γ j k
j∑ = γ j k
k∑ = 0
d) Suppositions de base :
ei j k ~ n 0,σ2( ) , ∀ i , j , k( )
21
e) Décomposition des valeurs centrées 1°) Moyennes particulières :
x = 1n
xi j kk∑∑
j∑∑
i∑∑ = T
n n = nc J K( )
x . j . = 1nc K
xi j kk∑∑
i∑∑ =
T. j .
nc K
x . . k = 1nc J
xi j kj∑∑
i∑∑ =
T. .k
nc J
x . j k = 1nc
xi j ki∑∑ =
T. j k
nc
2°) Décomposition de base : xi j k − x = xi j k − x . j k (4) +x . j k − x . j . − x . .k + x (3) +x . j . − x (1) +x . .k − x (2)
22
f) Estimation des paramètres ˆ µ = x ; ˆ α j = x . j . − x ; ˆ β k = x . .k − x ; ˆ γ j k = x . j k − x . j . − x . .k + x g) Décomposition de la variance 1°) Somme de carrés d'écarts :
SCEt = xi j k − x ( )2k∑
j∑
i∑
= nc K x . j . − x ( )2j∑
+nc J x . . k − x ( )2k∑
+nc x . j k − x . j . − x . . k + x ( )2k∑
j∑
+ xi j k − x . j k( )k∑
2
j∑
i∑
= SCEa + SCEb + SCEa b + SCEr
23
2°) Calculs pratiques :
• SCEt = xi j k2 − T2
nk∑
j∑
i∑
• SCEa = 1nc K
T. j .2 − T2
nj∑
• SCEb = 1nc J
T. .k2 − T2
nk∑
• SCEr = xi j k2 −
T. j k2
nck∑∑
j∑∑
k∑∑
j∑∑
i∑∑
et SCEa b = SCEt − SCEa − SCEb − SCEr
• SCEa b =T. j k
2
nck∑∑
j∑∑ −
T. j .2
nc Kj∑∑ −
T. .k2
nc Jj∑∑ + T2
n
et SCEr = SCEt − SCEa − SCEb − SCEa b
24
3°) Carrés moyens :
CMa = SCEaJ −1
; CMb = SCEbK −1
;
CMab =SCEab
J −1( ) K −1( ) ; CMr = SCEr
nc −1( )J K ;
CMt = SCEtnc J K −1
_h) Tableau ANOVA
SV SC DL CM F
A SCEa J −1 CMa CMaCMr
B SCEb K −1 CMb CMbCMr
AB SCEa b J −1( ) K −1( ) CMabCMab
CMr
Rés. SCEr nc −1( )J K CMr
T SCEt nc J K −1
25
i) Variables et règles de décision 1°) Premier facteur :
• H0 : α1 = . . . = α J = 0 ↔ H1 : α j ≠ 0, pour au moins un j
• T = CMaCMr
~ FJ−1, nc −1( )J K
• RH0 si T > FJ−1, nc −1( )J K ;1−α
2°) Deuxième facteur :
• H0 : β1 = . . . = βK = 0 ↔ H1 : βk ≠ 0 , pour au moins un k
• T = CMbCMr
~ FK−1, nc −1( )J K
• RH0 si T > FK−1, nc −1( )J K ;1−α
26
3°) Interaction
• H0 : γ11 = .. . = γJ K = 0 ↔ H1 : γ j k ≠ 0, pour au moins un j , k( )
• T =CMa b
CMr~ F J−1( ) K−1( ), nc −1( )J K
• Règle de décision :
RH0 si T > F J −1( ) K −1( ) , nc −1( )J K ;1−α
j) Remarques
• Si nc = 1, l'équation d'analyse de la variance devient :
SCEt = SCEa + SCEb + SCEa b • On peut envisager des modèles aléatoires et mixtes
27
3) Exemple
• A : 4 marques de voitures
• B : 5 conducteurs
• 2 essais pour chaque traitement
x : consommation d'essence (dcl) pour parcourir 100 km
Conducteurs (B)
Marques (A) 1 2 3 4 5 Ti j . T. j .
1 70 68
75 73
68 66
79 81
74 78
366 366
732
2 82 78
87 85
92 88
90 86
87 83
438 420
858
3 66 62
64 58
69 71
65 61
62 58
326 310
636
4 80 82
82 86
78 84
80 86
82 84
402 422
824
Ti . k 298 290
308 302
307 309
314 314
305 303
T. . k 588 610 616 628 608 T = 3050
• nc = 2 , J = 4 , K = 5 , n = 40 • ˆ µ = x = 76.25 ; ˆ α 1 = −3.05 , ˆ α 2 = 9.55 ,
ˆ α 3 = −12.65 , ˆ α 4 = 6.15 • ˆ β 1 = −2.75 , ˆ β 2 = 0 , ˆ β 3 = 0.75 ,
ˆ β 4 = 2.25 , ˆ β 5 = −0.25
28
• xi j k2
k∑
j∑
i∑ = 236 160
• SCEt = 3 597.5 ; SCEa = 2 983.5 ;
SCEb =106 • T. j k 1 2 3 4 5 1 138 148 134 160 152 2 160 172 180 176 170 3 128 122 140 126 120 4 162 168 162 166 166
• SCEa b = 366 ; SCEr = 142 • Tableau ANOVA :
SV SCE DL CM Fcalc F0.95 A 2 983.5 3 994.5 140 3.10 B 106 4 26.5 3.73 2.87
AB 366 12 30.5 4.30 2.28 Rés. 142 20 7.1
T 3 597.5 39
• Test de H0 : α j = 0 : RH0 • Test de H0 : β j = 0 : RH0 • Test de H0 : γ j k = 0 : RH0
! "
#$%&'()*!"X!,!a.0H3*!0*!)4<)*//'.6!3'64%')*!/'=&3*!
!
aB/S_b!c8dRbSc_/!o! g*9:!7%)'%23*/!:!*(!h!,!!
>!h!,!7%)'%23*!Q!*:&3'A9*)V!7%)'%23*!04&*60%6(*V!7%)'%23*!)4&.6/*V!7%)'%23*!*60.<H6*!>!:!,!7%)'%23*!*:&3';%('7*V!7%)'%23*!'604&*60%6(*V!7%)'%23*!*:.<H6*!
!o! e6!/9&&./*!A9*!3*!;.=&.)(*=*6(!0*!h!&*9(!y()*!*:&3'A94!&%)('*33*=*6(!&%)!;*39'!0*!:!
!!o! e6!/9&&./*!A9*!;*((*!)*3%('.6!*:&3';%('7*!*/(!z3'64%')*z!
!o! D3!*:'/(*!96*!&%)('*!0*!h!A9'!6*!&*9(!y()*!*:&3'A94*!&%)!:!!!!!!)4/'09!
!o! L.)=%3'/%('.6!,!=.0H3*!0*!)4<)*//'.6!/'=&3*!I96*!/*93*!7%)'%23*!*:&3';%('7*!:J!
! +
(?(PG@(/!#.6/'04).6/!3n*:*=&3*!"XB"!IF-UqV!&B!CTiJ!!h!,!%)<*6(!0*!&.;$*!0.664!Q!0*/!%0.3*/;*6(/!:!,!<*!0*/!%0.3*/;*6(/!!!!!!!a.0H3*!*:&3'A9%6(!h!Q!&%)(')!0*!:!!e'1/,!*/('=*)!3*/!&%)%=H()*/!09!=.0H3*!Q!&%)(')!0G96!4;$%6('33.6!0*!(%'33*!6!,!WIh'V!:'J!f!"!S!'!S!6Z!!
(< ! "+! "+! "O! "M! "P! "M! "+! "C! ""! ""!
)< ! MB"! CBM! ""BC! "XB+ ""BO TB+! PBX! TBd! CBO! CBX!
!!
1
3
5
9
11
11 16x=13
y=6.8
xi
yi
!!!
! C
!
eB/Pc8(@(/(b/f^Gcbf(`(`/!
M=/@"/#2:>0"/!!
h!S!α!b!β!:!b!ε!!!
.[!!! h!*/(!3%!7%)'%23*!04&*60%6(*!:!*/(!3%!7%)'%23*!*:&3';%('7*!!ε!*/(!3*!(*)=*!0G*))*9)V!3%!&*)(9)2%('.6!
! ! %!*(!|!/.6(!3*/!&%)%=H()*/!'6;.669/!!!1.9)!3G*/('=%('.6!0*/!&%)%=H()*/!'6;.669/!%!*(!|V!.6!/*!2%/*!/9)!96!4;$%6('33.6!,!,!WIh'V!:'J!f!"!S!'!S!6Z!&.9)!3*A9*3!3*!=.0H3*!/G4;)'(!,!!!
h'!S!α!b!β!:'!b!ε'!!!.[!ε'!*/(!3G*))*9)!;.))*/&.60%6(!Q!3%!'H=*!.2/*)7%('.6B!
! M
!O=/@"3/5Q*215>3"3/.0$33,&'"3/
!fN/,!-'*6!3'64%')*!*6()*!h!*(!:!! ! I2.66*!/&4;'@';%('.6!0*!3%!)*3%('.6J!!fM/,!FIε'J!S!X!! ! ! "!S!'!S!6!! ! I*6!=.h*66*V!.6!6*!@%'(!&%/!0G*))*9)J!!fO/,!3%!7%)'%23*!*:&3';%('7*!:!*/(!;.6/'04)4*!;.==*!&)404(*)='64*V!*33*!*/(!/9&&./4*!'604&*60%6(*!0*!3G*))*9)!*!I0.6;!=*/9)4*!/%6/!*))*9)J!!
fW/,!#.7Iε'!V!ε?J!S!X!! ! ! "!≤!'!≠!?!≤!6!! ! I6.6!%9(.;.))43%('.6!0*/!*))*9)/J!!fX/,!!R%)Iε'J!S!σ+!! ! ! "!≤!'!≤!6!! ! I$h&.($H/*!0G$.=./;40%/(';'(4J!!!fg/,!h&.($H/*!%00'('.66*33*!=.'6/!'=&.)(%6(*!,!
$h&.($H/*!0*!6.)=%3'(4!0*/!*))*9)/!,!!
ε'!v\IXV!σ+J!
! O
W=/(.%,1'%"/32'3/92%#"/#$1%,.,"00"/
o!
!!
Q ====)M"
)9
####
$$$$
%%%% %%%%
&&&&
''''
(((( (((( E M ====
M"
M
####
$$$$ %%%% %%%%
&&&&
'''' (((( (((( E ) ====
(M"
(9
####
$$$$
%%%% %%%%
&&&&
''''
(((( (((( E " ====
8M"
89
####
$$$$
%%%% %%%%
&&&&
''''
(((( (((( !
o! 1./.6/!αααα ==== ββββN E ββββ ==== ββββM!*(!
!!
? ====M (M" "
M (9
####
$$$$
%%%% %%%%
&&&&
''''
(((( (((( !!!V!!!ββββ ====
ββββNββββM#### $$$$ %%%% &&&&
'''' (((( !
h! a.0H3*!,!! h'!S!|X!b!|"!:'!b!*'!!! < ==== ME== = E9(((( ))))!
X ""; ! $β β ε β ε! = + + = + !
%7*;!"!,!FIεJ!S! X V!.[!N ==== N== = N(((( ))))UV!!*(!C!*(!M!'=&3'A9*!,!
!!
""""8 ==== / ""U(((( ))))====σσσσO $ N
$
N $ σσσσO
####
$$$$
%%%% %%%%
&&&&
''''
(((( ((((
==== σσσσOS!
! .[!S!*/(!3%!=%()';*!96'(4!0n.)0)*!6!
F6!.9()*!3G$h&.($H/*!O!'=&3'A9*,!!+v IXV J7 Lε σ !
! P
RB/(`bSPabSc_/!M=/(31,#$1,2-/:"3/*$%$#>1%"3/*$%/0$/#+152:"/PRc/A#2,-:%"3/.$%%+3/
2%:,-$,%"3B/!p1eqFUFU!5qD-DUFFU!,!X!Q!M!$B/!$**"03/A.5$*,1%"/OB/o! U4)'*!2'7%)'4*!,! (< E )<(((( ))))\ < ====ME== = E9 !
h/ 1%)%=H()*//C/ / (3E )3E .(OE .)OE .( ) E- ====
.( ).( .)
/
o! g).'(*!aB#B!,! ~/ /; 8 M!= + !
o! #)'(H)*!0*/!=.'60)*/!;%))4/!,!
O<9 )< −−−− A ++++ I(<(((( ))))[[[[ ]]]]O<"""" !
h/ `20'1,2-/C// / I ====.( ).(O
====.( ).( .)
.)
.(==== -.).(/ /
! !! ! ! A ==== )3−−−− I(3!
! T
7B/G$%$#>1%"3/:"/%+K%"33,2-/AααααE/ββββB/!!'B!a.0H3*!,!Q,/I/αααα/H/ββββ/),/H/εεεε,! !
! < ==== ME= = = E9(((( ))))!!!
''B!#)'(H)*!0*/!a#!,!!
+ +
" ", W I JZ- -
/ / // /
'/-/9/0(% ; !ε α β= =
= − +" "!
!!e6!%!79!%9!;$%&'()*!+!A9*!3*/!7%3*9)/!A9'!='6'='/*6(!;*((*!A9%6('(4!/.6(!%!*(!2!0.6;!,!
!i/α α α α ==== A E i/β β β β ==== I!
!
! d
'''B!1).23H=*!/.9/!@.)=*!=%()';'*33*!!
X ""; ! $β β ε β ε= + + = + !
! i/β β β β N !*(! i/β β β β M!/.6(!/.39('.6/!09!&).23H=*!A9'!;.6/'/(*!Q!='6'='/*)!!! P ββββN EββββM(((( ))))==== )< −−−− ββββN −−−− ββββM (<(((( ))))O
<""""
!
! ! ! !!!!!!!!
" ==/
/ εεε n+!
! ==== Q −−−−?ββββ(((( ))))U Q −−−−?ββββ(((( ))))!! ==== QUQ −−−− ββββU?UQ −−−− QU?ββββ ++++ ββββU?U?ββββ!
! ==== QUQ −−−− OββββU?UQ ++++ ββββU?U?ββββ!!! !!!!! 1.9)!.2(*6')! i/β β β β
U==== i/β β β β N i/β β β β M(((( ))))UV!'3!@%9(!A9*!
!
∂∂∂∂P ββββ(((( ))))∂∂∂∂ββββ
====
∂∂∂∂P ββββ(((( ))))∂∂∂∂ββββN
∂∂∂∂P ββββ(((( ))))∂∂∂∂ββββM
####
$$$$
%%%% %%%% %%%%
&&&&
''''
(((( (((( ((((
====NN#### $$$$ %%%% &&&& '''' (((( !
! i
E*=%)A9*/!
o! QUQ ==== )<O
<"""" !
o!
!!
?UQ ====M $ M(M $ (9#### $$$$ %%%% &&&&
'''' (((( )M"
)9
####
$$$$
%%%% %%%%
&&&&
''''
(((( ((((
====)<
<""""
(< )<<""""
####
$$$$ %%%% %%%%
&&&&
'''' (((( (((( !
o! ββββU?UQ ==== ββββN ββββM(((( )))))<
<""""
(< )<<""""
####
$$$$ %%%% %%%%
&&&&
'''' (((( (((( !
! ! ==== ββββN )<<"""" ++++ ββββM (< )<
<"""" !
o!
!!
?ββββ ====M (M" "
M (9
####
$$$$
%%%% %%%%
&&&&
''''
(((( ((((
ββββNββββM#### $$$$ %%%% &&&&
'''' (((( ====
ββββN ++++ ββββM (M"
ββββN ++++ ββββM (9
####
$$$$
%%%% %%%%
&&&&
''''
(((( (((( !
o!
!!
?U?ββββ ====M $ M(M $ (9#### $$$$ %%%% &&&&
'''' ((((
ββββN ++++ ββββM (M"
ββββN ++++ ββββM (9
####
$$$$
%%%% %%%%
&&&&
''''
(((( (((( !
! ! ==== ββββN ++++ ββββM (<(((( ))))<"""" ββββN ++++ ββββM (<(((( ))))(<
<""""
#### $$$$ %%%% &&&&
'''' (((( U!
o! ββββU?U?ββββ ==== ββββN ++++ ββββM (<(((( ))))O<"""" !
! "X
FA9%('.6/!6.)=%3*/!!!o!
!!
P ββββ(((( ))))==== QUQ −−−− OββββU?UQGM ββββ(((( ))))%!&!(!
++++ ββββU?U?ββββGO ββββ(((( ))))
%!&!'! (!'!!
!!o! GM ββββ(((( ))))==== ββββN )<
<"""" ++++ ββββM (< )<
<"""" !
!!
! !!!!!
∂∂∂∂GM ββββ(((( ))))∂∂∂∂ββββN
==== )<<""""
∂∂∂∂GM ββββ(((( ))))∂∂∂∂ββββM
==== (< )<<""""
0000
1111 2222
3333 2222
!
!!
! !!!!!∂∂∂∂GM ββββ(((( ))))
∂∂∂∂ββββ====
)<<""""
(< )<<""""
####
$$$$ %%%% %%%%
&&&&
'''' (((( (((( !
!!
! !!!!!∂∂∂∂ ββββU?UQ(((( ))))
∂∂∂∂ββββ====?UQ!
! ""
o! GO ββββ(((( ))))==== ββββN ++++ ββββM (<(((( ))))O<"""" !
!
! !!!!!
∂∂∂∂GO ββββ(((( ))))∂∂∂∂ββββN
==== O ββββN ++++ ββββM (<(((( ))))<""""
∂∂∂∂GO ββββ(((( ))))∂∂∂∂ββββM
==== O ββββN ++++ ββββM (<(((( ))))(<<""""
0000
1111 2222
3333 2222
!
!
! !!!!!∂∂∂∂GO ββββ(((( ))))
∂∂∂∂ββββ==== O
ββββN ++++ ββββM (<(((( ))))<""""
ββββN ++++ ββββM (<(((( ))))(<<""""
####
$$$$ %%%% %%%%
&&&&
'''' (((( (((( !
!
! !!!!!∂∂∂∂ ββββU?U?ββββ(((( ))))
∂∂∂∂ββββ==== O?U?ββββ!
!!o! ∂∂∂∂P
∂∂∂∂ββββ==== −−−−O?U Q ++++ O?U?ββββ!
!∂∂∂∂P∂∂∂∂ββββ
==== N!!!⇔⇔⇔⇔ !!!?U ?ββββ ====?UQ !
! "+
F/('=%('.6!0*!ββββ!
o!
!!
?U? ====M $ M(M $ (9#### $$$$ %%%% &&&&
'''' (((( M (M" "
M (9
####
$$$$
%%%% %%%%
&&&&
''''
(((( ((((
====9 (<
<""""
(<<"""" (<
O
<""""
####
$$$$ %%%% %%%%
&&&&
'''' (((( (((( !
!o! E*=%)A9*!,!e6!/9&&./*!A9*!3*/!(< !6*!/.6(!&%/!(.9/!4<%9:!!!!!!!!!!.(
O >>>> N !!
o! 0*(!?U? ==== 9 (<O
<"""" −−−− (<
<""""#### $$$$ %%%% &&&&
'''' (((( O!
! ! ==== 9O M9
(<O −−−− M
9(<""""####
$$$$ &&&& '''' O
<""""
****
++++ ,,,, ----
.... //// ==== 9O.(
O >>>> N!
! !!!!! ?U?!*/(!'67*)/'23*!!
o! ?U?(((( ))))−−−−M ==== M9O.(O
(<O"""" −−−− (<""""
−−−− (<"""" 9####
$$$$ %%%%
&&&&
'''' (((( !
!o! ?U?!*(! ?U?(((( ))))−−−−M!/.6(!/h=4()'A9*/!!
o! i/β β β β ==== ?U?(((( ))))−−−−M?UQ ==== )3−−−−.( ).(O (3
.( ).(O
#### $$$$ %%%%
&&&& '''' (((( U!
! "C
.B/G$%$#>1%"3/:"/-',3$-."/AσσσσB/!1%)!$h&.($H/*!,!R%)Iε'J!S!σ+!! ! ! "!≤!'!≤!6!!e6!04@'6'(!3*!)4/'09!0*!3%!'H=*!.2/*)7%('.6!;.==*!!3%!0'@@4)*6;*!*6()*!3%!7%3*9)!.2/*)74*!*(!3%!7%3*9)!%?9/(4*,!!!
~ ~~~ I J&/ / / / / / /% ; ; ; ! ; !β α β= − = − = − + !
!56!*/('=%(*9)!6%(9)*3!0*!σ+!/*)%!0.6;!0.664!&%)!,!!
+ +
"
"~+
-
//%
-σ
=
=− "
!!
! "M
O=/(31,#$1,2-/:"3/*$%$#>1%"3/*$%/0$/#+152:"/P6/A#$),#'#/:"/
<%$,3"#70$-."B/!p1eqFUFU!5qD-DUFFU!,!X!Q!O!0.6;!$h&.($H/*!%00'('.66*33*!&.9)!;*((*!=4($.0*!0G*/('=%('.6!,!
!O!,!ε'!v\IXV!σ+J!
!19'/A9*!,!!
! / ) ((((( )))) ==== µµµµ ) ( ==== αααα ++++ ββββ( \H ) ((((( )))) ==== σσσσO!
!
3%!3.'!0*!h!*/(!0.664*!&%)!!
//)< j - αααα ++++ ββββ(< E σσσσO(((( ))))
!!
L.6;('.6!0*!7)%'/*=23%6;*!
@ αααα EββββEσσσσO(((( ))))==== M
OΠΠΠΠσσσσO(((( ))))M O8
−−−−)<−−−−αααα−−−−ββββ(<(((( ))))OOσσσσO
<====M
9∏∏∏∏ !
! ==== M
OΠΠΠΠσσσσO(((( ))))9 O8
−−−−MOσσσσO
)<−−−−αααα−−−−ββββ(<(((( ))))O<====M
9""""
!
! "O
-.<>7)%'/*=23%6;*!@k αααα Eββββ EσσσσO(((( ))))==== 02K8 @ αααα Eββββ EσσσσO(((( ))))!
!==== −−−− 9O02K8 OΠΠΠΠ −−−− 9
O02K8σσσσO −−−− M
OσσσσO)< −−−− αααα −−−− ββββ(<(((( ))))O
<""""
!
A9%('.6/!aBRB!!
∂∂∂∂@k
∂∂∂∂αααα==== −−−− MOσσσσO
−−−−O(((( )))) )< −−−− αααα −−−− ββββ(<(((( ))))<"""" ==== N!
!∂∂∂∂@k
∂∂∂∂ββββ==== −−−− MOσσσσO
−−−−O(((( )))) )< −−−− αααα −−−− ββββ(<(((( ))))(<<"""" ==== N !
!∂∂∂∂@k
∂∂∂∂σσσσO==== −−−− 9OσσσσO
++++ MOσσσσX
)< −−−− αααα −−−− ββββ(<(((( ))))O<"""" ==== N!
!F/('=%(*9)/!aBRB!!
o! i/β β β β ==== I ====.( ).(O!!!]!!! i/α α α α ==== A ==== )3−−−− I(3
!
o! i/σ σ σ σ O ==== M9
)< −−−− A −−−−I (<(((( ))))O<"""" ==== .)⋅⋅⋅⋅(
O ==== .i/83O!
#.6;39/'.6!,!!F/('=%(*9)/!aBRB!S!*/('=%(*9)/!aB#BeB!!&.9)!3*/!&%)%=H()*/!0*!)4<)*//'.6!
! "P
8B/G!cG!S(b(`/8(`/(`bSPab(d!`/
!
M=/G%2*%,+1+3/:"/ i/β β β β /p1eqFUFU!5qD-DUFFU!,!"!Q!M!
MB/_2-/7,$,3/:"/ β~ /C/
i/β β β β ==== ?U ?(((( ))))−−−−M?UQ ==== ?U ?(((( ))))−−−−M?U ?ββββ ++++ "(((( ))))!!
!!
==== ?U ?(((( ))))−−−−M ? U ? ββββS
%! &!'!'! (!'!'!++++ ?U ?(((( ))))−−−−M ? U " ! ==== ββββ ++++ ?U ?(((( ))))−−−−M ?U " !
g.6;! ββ =J~I# !&9'/A9*! XJI =ε# !OB/R$0.'0/:"/0$/#$1%,."/<$%,$-."/.2<$%,$-."!,! H i/β β β β (((( ))))==== / i/β β β β −−−− ββββ(((( )))) i/β β β β −−−− ββββ(((( ))))U****
++++ ---- .... !
!
!!
==== ?U ?(((( ))))−−−−M?U / " "U(((( ))))σσσσO S
%!&!(!? ?U ?(((( ))))−−−−M ==== σσσσO ?U ?(((( ))))−−−−M!
! ==== σσσσO
9.(OM9
(<O"""" −−−−(3
−−−−(3 M
####
$$$$ %%%%
&&&&
'''' (((( ====
σσσσO
9.(O=( OU −−−−(3
−−−−(3 M#### $$$$ %%%%
&&&& '''' (((( !
\c!,!x9*!0*7'*6(!;*((*!=%()';*!0*!;.7%)'%6;*!/'!(3==== N!!
! "T
b5+2%>#"/:"/T$'334P$%l2</!g%6/!3%!;3%//*!0*/!*/('=%(*9)!/%6/!2'%'/!0*!ββββN !*(!ββββM!A9'!/.6(! @.6;('.6/! 3'64%')*/! 0*/! )<V! 3*/! */('=%(*9)/!aB#BeB!i/β β β β N !*(! i/β β β β M!/.6(!0*!7%)'%6;*!='6'=%3*!Ic-5FJ!!!
Estimateurslinéaires
Estimateursdes moindres carrés(la variance est alors
la plus faible)
Estimateursnon biaisés
Tous lesestimateurs
!\c!,! U'! .6! %?.9(*! 3G$h&.($H/*! 0*! 6.)=%3'(4! %3.)/! 3*/!*/('=%(*9)/!a#e!ISaRJ!/.6(!c-5F!0%6/!3%!;3%//*!0*/!*/('=%(*9)/!6.6!2'%'/4/B!!+B!1).&)'4(4/!0*!σσσσOI04=.6/()%('.6!%9!(%23*%9J!!+ +
"
"~+
-
//%
-σ
==
− " /*/(!96!*/('=%(*9)!/%6/!2'%'/!0*! σ+!!
! "d
C=/@2,3/:"3/"31,#$1"'%3//$B/b5+2%>#"/92-:$#"-1$0/o! //' ==== %ME= = = E%'(((( ))))U j - ' µµµµEΣΣΣΣ(((( ))))!,!!
> '(((( )))) ==== MOππππ(((( ))))' :"1 ΣΣΣΣ(((( ))))M O
8−−−−MO'−−−−µµµµ(((( ))))UΣΣΣΣ−−−−M '−−−−µµµµ(((( ))))
!
!o! -.'/!=%)<'6%3*/!*(!;.60'('.66*33*/!6.)=%3*/!!o! U'!8!*/(!96*!=%()';*!*(!;!96!7*;(*9)!0*!;.6/(%6(*/V!< ====a' ++++. !*/(!(*3!A9*!,!!! / <(((( )))) ====aµµµµ ++++ .!! H <(((( )))) ==== / < −−−− / <(((( ))))[[[[ ]]]] < −−−− / <(((( ))))[[[[ ]]]]U !/ / ==== / a ' −−−− µµµµ(((( )))) ' −−−− µµµµ(((( ))))U aU[[[[ ]]]]/====aΣΣΣΣaU
/
/
b5+2%>#"/92-:$#"-1$0//A3$-3/:+#2-31%$1,2-BC/U'!8!*/(!96*!=%()';*! Q ×××× '(((( ))))!0*!;.6/(%6(*/V!;!96!7*;(*9)!Q ××××M(((( ))))!0*!;.6/(%6(*/!*(! /' j - ' µµµµEΣΣΣΣ(((( ))))!,!
//< ====a' ++++. j - Q aµµµµ ++++ . E aΣΣΣΣaU(((( ))))!
! "i
!7B/@2,/:"/ i/β β β β /!U.9/!3*/!$h&.($H/*/!X!Q!M!b!O!,!ε'!v\IXV!σ+JV!.6!
%!A9*!! JVIv +L$7$; σβεβ+= ! !!
F(!%9//'V! εββ nJnI~ "$$$ −+= ! !!!!!!!q$4.)H=*[email protected]%=*6(%3!0*/!3.'/!6.)=%3*/!,!!
//i/β β β β j - ββββE σσσσO
9.(O=( OU −−−−(3
−−−−(3 M#### $$$$ %%%%
&&&& '''' ((((
####
$$$$ %%%%
&&&&
'''' (((( !
!o! #.==*!=( O
U ==== M9
(<O
<"""" ==== .(
O ++++ (3O!,!
!
//i/β β β β N j - ββββN Eσσσσ
O M9
++++ (3O
9.(O#### $$$$ %%%%
&&&& '''' ((((
####
$$$$ %%%%
&&&&
'''' (((( !
!
//i/β β β β M j - ββββM E
σσσσO
9.(O
#### $$$$ %%%%
&&&& '''' (((( !
! +X
;B/ @2,/:"/ i/σ σ σ σ O/!
o! i/σ σ σ σ O ==== M9 −−−− O
i/83<O
<"""" ==== 9.i/83
O
9 −−−− O!
!!
o! 9 −−−−O(((( )))) i/σ σ σ σ O
σσσσOj χχχχ9−−−−O
O 2' 9.8O
σσσσOj χχχχ9−−−−O
O****
++++ ,,,, ----
.... //// !
!!:B/@2,3/:+%,<+"3/!o! i/β β β β !*(! i/σ σ σ σ O!/.6(!'604&*60%6(/!!!
o!i/β β β β N −−−− ββββN
σσσσ M9
++++ (3O
9.(O
i/σ σ σ σ O
σσσσO====
i/β β β β N −−−− ββββN
i/σ σ σ σ M9
++++ (3O
9.(O
j E9−−−−O!
!!
h/i/β β β β M −−−− ββββM
σσσσ 9.(O
i/σ σ σ σ O
σσσσO====i/β β β β M −−−− ββββMi/σ σ σ σ 9.(
O j E9−−−−O !
! +"
(B/S_b(!6a@@(`/8(/Rc_JSa_R(/(b/b(`b/`d!/d_/
Ga!aP(b!(/!
"=/G$%$#>1%"/ββββN/%J! !$**"03!I"!Q!OJ!
!i/β β β β N −−−− ββββN
i/σ σ σ σ M9
++++ (3O
9.(O
j E9−−−−O!α /2
f(x)
x0
tn−2 ;1−α 2 !2J! S=R=/ M −−−− αααα(((( ))))/*2'%/ββββN !
i/β β β β N ±±±± E9−−−−O \M−−−−αααα O i/σ σ σ σ M9
++++ (3O
9.(O !
;J!b"31/:"/`1':"-1!,!1).23H=*!0*!(*/(!,!! X!,!|X!S!X!
! ! "!,!|X!≠!X!
U(%('/('A9*!0*!(*/(!,!X
+
+
~
"!
N!
- -0
β=+ !
-.'!/.9/!X!,!q!v!(6>+!EH<3*!04;'/'.6!,!EX!%9!6'7*%9!α!/'!fqf!!(6>+]">αr+!
! ++
+=/G$%$#>1%"/ββββ/%J! !$**"03!
i/β β β β M −−−− ββββMi/σ σ σ σ 9.(
O j E9−−−−O!
!
2J! S=R=/ M −−−− αααα(((( ))))/*2'%/ββββM!
i/β β β β M ±±±± E9−−−−O \M−−−−αααα Oi/σ σ σ σ 9.(O!
!
;J!b"31/:"/`1':"-1!,!1).23H=*!0*!(*/(!,!!RN CββββM ==== N ↔↔↔↔ RM CββββM ≠≠≠≠ N!
!U(%('/('A9*!0*!(*/(!*(!3.'!/.9/!RN!,!
S ====i/β β β β M
i/σ σ σ σ 9.(O j E9−−−−O
!!
EH<3*!0*!04;'/'.6!,!!!!! TRN !/'!S >>>> E9−−−−O \M−−−−αααα O!
!! +C
0J!b"31/:;$-$0Q3"/:"/0$/<$%,$-."/,B/
!!
)< −−−− )3(((( ))))O<""""
U6/E$E%! &!'! (!'!
==== i/83<O
<""""
U6/-J.%!&!(!
++++ i/)3< −−−− )3(((( ))))O<""""
U6/8('C%! &!'! (!'!
/
ˆ e i
y
yi
ˆ y i
y
xi x!
,,B/ U6/-J.σσσσO
==== 9.i/83O
σσσσOj χχχχ9−−−−O
O /
/
,,,B/U$%.!RN/C///
i/β β β β Mσσσσ 9.(
O j - N EM(((( ))))/
/ !!!!
i/β β β β MO (< −−−− (3(((( ))))O<""""
σσσσOj χχχχMO/
/ R2##"/ i/)3< −−−− )3==== i/β β β β M i/(3< −−−− (3(((( ))))/C/
U6/8('CσσσσO
====i/)3< −−−− )3(((( ))))O
<""""
σσσσOj χχχχM
O/
! +M
/
,<B/ U6/-J.σσσσO
/8E/U6/8('C
σσσσO/.$9E3<97J'897A9E8./
/<B/ U$%./RN/C//
Sk ====U6/8('C
U6/-J. 9−−−− Oj +ME9−−−−O/
// !!!! TRN/3,/S
k >>>> +ME9−−−−O \ M−−−−αααα !!*J!(&',<$0"-."/"-1%"/0"/1"31/:"/`1':"-1/"1/0"/1"31/
:"/0;$-$0Q3"/:"/0$/<$%,$-."!!F:*);';*!,!a.6()*)!A9*!q!S!q+!!!
! +O
CB!1%)%=H()*!σσσσO!!%J! E%&&*3/!!
9 −−−−O(((( )))) i/σ σ σ σ O
σσσσO==== 9.i/83
O
σσσσOj χχχχ9−−−−O
O !
!f(x)
x0
1–αα/2
α/2
χn−2 ; α / 22 χn−2 ;1−α / 2
2
!!!2J! DB#B! M −−−− αααα(((( ))))!&.9)!σσσσO!!
! 9 −−−−O(((( )))) i/σ σ σ σ O
χχχχ9−−−−O \M−−−−αααα OO \ 9−−−− O(((( )))) i/σ σ σ σ O
χχχχ9−−−−O \ αααα OO
****
++++ ,,,,
----
.... //// !
! ! ==== 9.i/83O
χχχχ9−−−−O \M−−−−αααα OO \ 9.i/83
O
χχχχ9−−−−O \ αααα OO
****
++++ ,,,,
----
.... //// !
! +P
JB/Rc(JJSRS(_b/8(/8(b(!PS_abSc_/
!
-O ====i/)3< −−−− )3(((( ))))O
<""""
)< −−−− )3(((( ))))O<""""
====U6/8('CU6/E$E
!
D6(*)&)4(%('.6!,!!0*!3%!7%)'%6;*!0*!3%!7%)'%23*!04&*60%6(*!*:&3'A94*!&%)!3%!04&*60%6;*!3'64%')*!0*!h!*6!:!
!g%6/!3*!;%/!0*!3%!)4<)*//'.6!=93('&3*!,!
h!S!α!b!β"!:!b!β+!:!b!Yb!β&!:!b!ε!3*!;.*@@';'*6(!0*!04(*)='6%('.6!/*)%!6.(4!E+!*(!6.9/!&*)=*(()%!0*!(*/(*)!3%!7%3'0'(4!<3.2%3*!09!=.0H3*!,!q*/(!0*!L'/$*)!,!
1).23H=*!0*!(*/(!,X!,!β"!S!β+!S!Y!Sβ&!SX!
"!,!'3!*:'/(*!%9!=.'6/!"≤!?!≤!&!(*3!A9*!|?!≠X!
U(%('/('A9*!0*!(*/(!,!+
+
rI" J rI I "JJ
) "+) - "
=− − + !
-.'!/.9/!X!,!Lv!L&V6>I&b"J!
! +T
EH<3*!0*!04;'/'.6,!EX!%9!6'7*%9!α!/'!L!L&V6>I&b"JV">α!R$3/*$%1,.'0,"%!>!)4<)*//'.6!/'=&3*!,!83.)/V! 3*! (*/(! 0*!L'/$*)! )*7'*6(! %9! (*/(! 0*! 3G%6%3h/*!0*!3%!7%)'%6;*!79!&)4;40*==*6(!F6!*@@*(V!;.==*!U6/E$E ==== U6/8('C ++++ U6/-J.!,!
.6!%!A9*! ! ! M −−−− -O ==== U6/-J.U6/E$E !!
&,&OF#OF#% *:&+= !
!
U.9/!RN!,!!Sk ====U6/8('C
U6/-J. 9−−−− O==== -O 9 −−−− O(((( ))))M −−−− -O(((( )))) j +ME9−−−−O !
!!E*=%)A9*!,!;*!)4/93(%(!*/(!4<%3*=*6(!Q!)%&&).;$*)!%9!&).23H=*!&*)=*((%6(!0*!(*/(*)!3*!3'*6!3'64%')*!*6()*!3*/!7%)'%23*/!:!*(!h!0%6/!96*!&.&93%('.6!2'7%)'4*!6.)=%3*!,RN C ρρρρ ==== N,!
!
! +d
- 9 −−−− OM −−−− -O
j E9−−−−O!
! +i
!TB/G!(8SRbSc_/
!M=/P2Q"--"/.2-:,1,2--"00"/:"/Q/3$.5$-1/&'"/?I)N
/ µµµµN ==== / ) (N(((( ))))/!o! i/µ µ µ µ N ==== i/β β β β N ++++ i/β β β β M (N!*/(!96!*/('=%(*9)!/%6/!2'%'/!0*!µµµµN !!!o! H i/µ µ µ µ N(((( ))))====H i/β β β β N(((( ))))++++ (N
OH i/β β β β M(((( ))))++++ O (N 6$, i/β β β β NE i/β β β β M(((( ))))!!!
! ==== σσσσO M9
++++ (3O
9.(O
#### $$$$ %%%%
&&&& '''' (((( ++++ (N
O σσσσO
9.(O ++++ O (N
−−−−(3σσσσO
9.(O!
! !
!Jm+I""l X+
X+
++ !!!!-0- !
−++=σ!
!!
! ==== σσσσO M9
++++(N −−−− (3(((( ))))O9.(O
****
++++ ,,,,
----
.... //// !
! CX
!!-%!3.'!0*!3G*/('=%(*9)!0*!µX!,!!
//
i/µ µ µ µ N j - µµµµN EH i/µ µ µ µ N(((( ))))(((( ))))!!!! i/µ µ µ µ N −−−− µµµµN
σσσσ M9
++++(N −−−− (3(((( ))))O9.(O
j - NEM(((( ))))!
!a%'/!σ!*/(!'6;.669V!0.6;!.6!9('3'/*!,!
i/µ µ µ µ N −−−− µµµµN
i/σ σ σ σ M9
++++(N −−−− (3(((( ))))O9.(O
j E9−−−−O !
!o! DB#B! M −−−− αααα(((( ))))!&.9)!µµµµN !,!!
i/β β β β N ++++ i/β β β β M (N(((( ))))±±±± E9−−−−O \M−−−−αααα O i/σ σ σ σ M9
++++(N −−−− (3(((( ))))O9.(O
!
x x0
ˆ µ = ˆ β 0 + ˆ β 1 xy
x !
! C"
O=/6$0"'%/*%+:,1"/*2'%/M/,-:,<,:'/$<"./?I)N/C/X~; /
o! 1)47'/'.6!&.6;(9*33*!,! i/)3N ==== i/β β β β N ++++ i/β β β β M (N !1./.6/!,!!
XI"V J! !=) !!o! -%!=.h*66*!0*!3G*))*9)!0*!&)47'/'.6!*/(!,!!
X X X " X X " X X~ ~~I J I I JJ# ; ; # ! !β β β β ε− = + − + + !
!X X
~ ~I J I J I J I J& & & &# ! ! # ! # ! #β β ε β β ε= − − = − −) ) ) )
! ~I J X X& & & &# ! ! ! !β β β β= − − = − =) ) ) ) !!
g.6;!*6!=.h*66*!3G*))*9)!0*!&)47'/'.6!*/(!6933*B!!o! -%!7%)'%6;*!0*!3G*))*9)!0*!&)47'/'.6!*/(!,!!
X X X " X X " X X~ ~~I J I I JJP8% ; ; P8% ! !β β β β ε− = + − + + !
!X " X X XX " X X X " X~ ~ ~ ~ ~ ~I J I J I J I J +;.7I V JP8% ! P8% P8% ! P8% !β β ε β β ε β β= + − = + + +
+ ++ + + +
X X+ + +
" "I J + I I JJ! ! !
! ! ! !- -0 -0 -0
σσ σ σ= + + + + − !
! C+
+ + + + +X X X+ +
" " " "I" I + JJ I" I J J! !
! ! ! ! ! !- -0 - -0
σ σ= + + + − = + + − !F(!0.6;V!&9'/A9*!/!*/(!'6;.669V!.6!9('3'/*!/.6!*/('=%('.6V!;*!A9'!0.66*!3*!)4/93(%(!/9'7%6(!,!
!
o!)3N −−−− )N
i/σ σ σ σ M ++++ M9
++++(N −−−− (3(((( ))))O9.(O
j E9−−−−O !
!o! DB#B! M −−−− αααα(((( ))))!,!!
i/)3N ±±±± E9−−−−O \ M−−−−αααα O i/σ σ σ σ M ++++ M9
++++(N −−−− (3(((( ))))O9.(O
!
!o! D6(*)7%33*!0*!&)40';('.6!,!
y
x !
! CC
W=//()"#*0"/!o! F:*=&3*!"XB"!IF-UqV!&B!CTiJ!o! (N ==== Mm \ (3==== MW!
!%J! DB#B!&.9)!µµµµN !!o! i/µ µ µ µ N ==== −−−−Mm=O ++++ M=[g(((( )))) Mm(((( )))) ==== MX=Og!!o! DB#B!IXBiOJ!&.9)!µµµµN !,!
MX=Og ±±±± O=WNn MMN
++++ MnOn!
==== MX=Og ±±±± M=og →→→→ MO=WN E Mn=ON[[[[ ]]]]!!2J! DB#B!&.9)!)N!!o! i/)3N ==== MX=Og!!o! DB#B!IXBiOJ!&.9)!)N!,!
MX=Og ±±±± O=WNn M ++++ MMN
++++ MnOn!
==== MX=Og ±±±± W=NO →→→→ MM=OW E Mm=Om[[[[ ]]]]!
! CM
/fB/(?(PG@(/
!e6!04/')*!4(90'*)!/9)!96!4;$%6('33.6!0*!+P!=%'/.6/V!3*!&)':!0*!7*6(*!*[email protected];('.6!0*!;*)(%'6*/!;%)%;(4)'/('A9*/B!!6$%,$70"/:+*"-:$-1"/C/1ED#F!S!1)':!0*!7*6(*!0*!3%!=%'/.6!*6!='33'*)/!0*!0.33%)/V!!6$%,$70"3/")*0,.$1,<"3/C/cgE! S!6.=2)*!0*!;$%=2)*/!Q!;.9;$*)V!L-E! S! /9&*)@';'*! (.(%3*! I;%3;934*! Q! &%)(')! 0*/! 0'=*6/'.6/! 0*!
;$%A9*! &'H;*! *(! %9<=*6(4*! 0*! "X! V! ;%3;934*! *6! &'*0/!;%))4/JV!
L1! ! S!6.=2)*!0*!;$*='64*/V!EaU! S!6.=2)*!0*!&'H;*/V!Uq! ! S!@*6y()*/!(*=&y(*/!I"!/'!.9'V!X!/'6.6JV!-eq! S!3%)<*9)!0*!@%;%0*!I*6!&'*0/JV!cq! S!6.=2)*!0*!/%33*/!0*!2%'6/V!_8E! S!(%'33*!09!<%)%<*!IX!/'!&%/!0*!<%)%<*V!"!/'!96!<%)%<*!&.9)!"!
7.'(9)*V!BBBJV!!IU.9);*! ,! a)B! q*))h! q%/;$! .@! -.6<>.<%6! E*%3(hV! #$';%<.!)*&).09;*0! '6! 8BV! U*6! %60! aB! U)'7%/(%7%V! E*<)*//'.6! %6%3h/'/B!q$*.)hV!a*($.0V!%60!8&&3';%('.6/V!U&)'6<*)!R*)3%<!"iiXV!&B!C+J!
! CO
(1$*"/MC/!+K%"33,2-/0,-+$,%"/3,#*0"/C/!e6! ;$.'/'(! 3%! 7%)'%23*! A9'! ($4.)'A9*=*6(! *:&3'A9*! 3*!='*9:! 3*! &)':! 0G96*!=%'/.6! I&)%('A9*=*6(!,! 3%! 7%)'%23*!3*!&39/!;.))434*!%7*;!3*!&)':JB!!#2%%+0$1,2-3/:"3/<$%,$70"3/")*0,.$1,<"3/$<"./0$/<$%,$70"/
:+*"-:$-1"/CC/!!!!!!!!!
! "#$%&!! !
'(#! !)*+),-+.!'/0! !)*..1-1)!23#! !"#$%&'()!2"! !)*4516+-!78#! !)*.+45-)!39/! !)*+11:-4!"#$%&! !6*))))))!#;<! !)*.-),6+!</! !)*+.,4),!
! CP
P2:>0"/C/G%,.",/I/$/H/p/J@!,/H/",/ /!!(=>=?@=?A!BCDECFG=H!"#$%&!;=AIJ@H!3=CKA!<LMCD=K!<CN>G=H!6!1,!BCDECFG=! %J=OOEPE=?A! <A@*!
&DDJD!AQ<ACAEKAEP "DJF*!
23#! )*)1! )*))+! .*41! )*))!%! 44*51! +*.66! :*.1! )*))!
#QKLMCD=@! )*.+! <*&*!JO!D=RD=KKEJ? -*,5!2QKACAEKAEP! 1-*4.! "DJFS2QKACAEKAEPT! )*))))6-!!(31,#$1,2-3/C//!`,K-,9,.$1,<,1+/:"/0$/<$%,$70"/")*0,.$1,<"C/!q'$0,1+/:'/#2:>0"/C/!S-1"%*%+1$1,2-/,!U'!L-E!%9<=*6(*!0*!"!96'(4!!
!1ED#F!%9<=*6(*!0*!XBX+!96'(4!g.6;! /'! 3%! /9&*)@';'*! (.(%3*! %9<=*6(*! 0*! "! &'*0!;%))4/V! %3.)/! 3*! &)':! 0*! 3%! =%'/.6! %9<=*6(*)%! 0*!XBX+!='33'*)/!0*!0.33%)/!IS!+X!0.33%)/JB!-.<'A9*!!
! CT
(1$*"/OC/!+K%"33,2-/0,-+$,%"/#'01,*0"C/!(=>=?@=?A!BCDECFG=H!"#$%&!;=AIJ@H!3=CKA!<LMCD=K!<CN>G=H!6!1,!BCDECFG=! %J=OOEPE=?A! <A@*!&DDJD! AQ<ACAEKAEP! "DJF*!
%! 6-*,4:,,! .*1+)5.:! 4*..,6.,! )*))1+!23#! )*)6:.:)! )*))414.! .*+4)5-,! )*))))!#;<! 4*5)+4:+! 6*,6.,6:! 1*+6,,+.! )*)1:1!'(#! Q:*,5:+++! 6*-15+1,! Q+*1):.:4! )*))),!'/0! 1*4:+.56! 1*..:-,.! )*51-4+5! )*4,,1!78#! 6*::)-,6! 6*+)+46)! 6*1,6)6-! )*11+4!39/! )*1,4.11! )*64.6)5! 6*5.)++:! )*),:-!2"! ,*5)5:,.! 4*)-4.-4! 1*1+)-14! )*)4-:!</! 6)*-6-,,! 1*4))1)4! +*:)44.1! )*)))1!
#QKLMCD=@! )*5)++15! <*&*!JO!D=RD=KKEJ?! +*:6,:.,2QKACAEKAEP! 1)*6)5:6! "DJFS2QKACAEKAEPT! )*))))))!P2:>0"/C///(31,#$1,2-3/C//!!!
! Cd
`,K-,9,.$1,<,1+/:"3/<$%,$70"3/")*0,.$1,<"3C/!!!!q'$0,1+/:'/#2:>0"/C////!S-1"%*%+1$1,2-/,!!!!!
! Ci
6+%,9,.$1,2-/:"3/5Q*215>3"3/9$,1"3/3'%/0"/1"%#"/:;"%%"'%=/
/fM/,!FIε'J!S!X!! ! ! "!S!'!S!6!! q.9?.9)/!74)'@'4*!I;*;'!*/(!0!Q!3%!=4($.0*!9('3'/4*J!!fW/,!#.7Iε'!V!ε?J!S!X!! ! ! "!≤!'!≠!?!≤!6!! ! I6.6!%9(.;.))43%('.6!0*/!*))*9)/J!!
!
! MX
fX/,!!R%)Iε'J!S!σ+!! ! ! "!≤!'!≤!6!! ! I$h&.($H/*!0G$.=./;40%/(';'(4J!!!
!!!
! M"
fg/,!h&.($H/*!%00'('.66*33*!=.'6/!'=&.)(%6(*!,!$h&.($H/*!0*!6.)=%3'(4!0*/!*))*9)/!,!
!ε'!v\IXV!σ+J!
!!!
!!!!!!
! M+
!SB/_c_/!(`G(Rb/8(`/f^Gcbf(`(`//
!-*/! $h&.($H/*/! Q! 3%! 2%/*! 09!=.0H3*! 0*! )4<)*//'.6!/'=&3*!/.6(!I)%&&*3J!,!!!%J! 7%)'%23*!:!=*/9)4*!/%6/!*))*9)/!]!!2J! ?U?!'67*)/'23*!I6.6>;.3'64%)'(4J!]!!;J! 3%!)*3%('.6!*6()*!:!*(!h!*/(!3'64%')*!]!!0J! 3%!7%)'%6;*!H ) ((((( ))))!*/(!;.6/(%6(*!I$.=.>/;40%/(';'(4J!]!!*J! 3*/!z*))*9)/z!!ε'!/.6(!6.6!;.))434*/!]!!@J! 3%!3.'!0*/!ε'!*/(!6.)=%3*!I&.9)!3*/!DB#B*(!3*/!(*/(/J!!D3! @%9(! &.97.')! (*/(*)! 3%! 7%3'0'(4! 0*! ;*/! $h&.($H/*/!.9!/n*6!04(%;$*)!
! MC
!rB/qd(@qd(`/T(_(!a@S`abSc_`//
!o! a.0H3*!0*!)4<)*//'.6!=93('&3*!!!o! a.0H3*!0*!)4<)*//'.6!/.9/!;.6()%'6(*/!!o! a.0H3*!Q!7%)'%23*!04&*60%6(*!0';$.(.='A9*!,!I=.0H3*/!-.<'(!*(!1).2'(J!
!o! a.0H3*!Q!7%)'%23*!04&*60%6(*!0'/;)H(*!I=.0H3*!0*!1.'//.6J!
!o! a.0H3*/!Q!7%)'%23*!04&*60%6(*!;*6/9)4*!.9!().6A94*!I=.0H3*!q.2'(J!
!o! a.0H3*!Q!4A9%('.6/!/'=93(%64*/!!o! a.0H3*!0*!/4)'*/!;$).6.3.<'A9*/V!*(;!!as2'12-3/$'33,/&'"0&'"3/#+152:"3/C/h/ _-U!S!a.'60)*!;%))4!<464)%3'/4!o! g.923*/!a#!r!a#!6.6!3'64%')*/!o! F/('=%('.6!).29/(*!r!6.6!&%)%=4()'A9*!