Sammanfattning Orjan Ekeberg - nada.kth.se · F¨ordr ¨ojd bel ¨oning Temporal Credit Assignment...

74
Sammanfattning ¨ Orjan Ekeberg Maskininl¨ arning

Transcript of Sammanfattning Orjan Ekeberg - nada.kth.se · F¨ordr ¨ojd bel ¨oning Temporal Credit Assignment...

Sammanfattning

Orjan Ekeberg Maskininlarning

Begreppsinlarning

HypotesrummetRelationen mellan hypotesernaVersion SpaceFind-SCandidate EliminationBias

Restriction BiasPreference Bias

Generalisering

Orjan Ekeberg Maskininlarning

Begreppsinlarning

HypotesrummetRelationen mellan hypotesernaVersion SpaceFind-SCandidate EliminationBias

Restriction BiasPreference Bias

Generalisering

Orjan Ekeberg Maskininlarning

Begreppsinlarning

HypotesrummetRelationen mellan hypotesernaVersion SpaceFind-SCandidate EliminationBias

Restriction BiasPreference Bias

Generalisering

Orjan Ekeberg Maskininlarning

Begreppsinlarning

HypotesrummetRelationen mellan hypotesernaVersion SpaceFind-SCandidate EliminationBias

Restriction BiasPreference Bias

Generalisering

Orjan Ekeberg Maskininlarning

Begreppsinlarning

HypotesrummetRelationen mellan hypotesernaVersion SpaceFind-SCandidate EliminationBias

Restriction BiasPreference Bias

Generalisering

Orjan Ekeberg Maskininlarning

Begreppsinlarning

HypotesrummetRelationen mellan hypotesernaVersion SpaceFind-SCandidate EliminationBias

Restriction BiasPreference Bias

Generalisering

Orjan Ekeberg Maskininlarning

Begreppsinlarning

HypotesrummetRelationen mellan hypotesernaVersion SpaceFind-SCandidate EliminationBias

Restriction BiasPreference Bias

Generalisering

Orjan Ekeberg Maskininlarning

Begreppsinlarning

HypotesrummetRelationen mellan hypotesernaVersion SpaceFind-SCandidate EliminationBias

Restriction BiasPreference Bias

Generalisering

Orjan Ekeberg Maskininlarning

Begreppsinlarning

HypotesrummetRelationen mellan hypotesernaVersion SpaceFind-SCandidate EliminationBias

Restriction BiasPreference Bias

Generalisering

Orjan Ekeberg Maskininlarning

Beslutstrad

Entropi — oforutsagbarhetenInformation GainOverfittingAnpassning till icke-generaliserbara detaljerBeskarning (Pruning)

Orjan Ekeberg Maskininlarning

Beslutstrad

Entropi — oforutsagbarhetenInformation GainOverfittingAnpassning till icke-generaliserbara detaljerBeskarning (Pruning)

Orjan Ekeberg Maskininlarning

Beslutstrad

Entropi — oforutsagbarhetenInformation GainOverfittingAnpassning till icke-generaliserbara detaljerBeskarning (Pruning)

Orjan Ekeberg Maskininlarning

Beslutstrad

Entropi — oforutsagbarhetenInformation GainOverfittingAnpassning till icke-generaliserbara detaljerBeskarning (Pruning)

Orjan Ekeberg Maskininlarning

Beslutstrad

Entropi — oforutsagbarhetenInformation GainOverfittingAnpassning till icke-generaliserbara detaljerBeskarning (Pruning)

Orjan Ekeberg Maskininlarning

Artificiella Neuronnat

EnlagersnatLinjar separeringInlarning via felminimeringFlerlagersnat

Generell klassificeringFunktionsapproximation

Deriverbara troskelfunktionerError BackpropagationKonvergensegenskaper

Orjan Ekeberg Maskininlarning

Artificiella Neuronnat

EnlagersnatLinjar separeringInlarning via felminimeringFlerlagersnat

Generell klassificeringFunktionsapproximation

Deriverbara troskelfunktionerError BackpropagationKonvergensegenskaper

Orjan Ekeberg Maskininlarning

Artificiella Neuronnat

EnlagersnatLinjar separeringInlarning via felminimeringFlerlagersnat

Generell klassificeringFunktionsapproximation

Deriverbara troskelfunktionerError BackpropagationKonvergensegenskaper

Orjan Ekeberg Maskininlarning

Artificiella Neuronnat

EnlagersnatLinjar separeringInlarning via felminimeringFlerlagersnat

Generell klassificeringFunktionsapproximation

Deriverbara troskelfunktionerError BackpropagationKonvergensegenskaper

Orjan Ekeberg Maskininlarning

Artificiella Neuronnat

EnlagersnatLinjar separeringInlarning via felminimeringFlerlagersnat

Generell klassificeringFunktionsapproximation

Deriverbara troskelfunktionerError BackpropagationKonvergensegenskaper

Orjan Ekeberg Maskininlarning

Artificiella Neuronnat

EnlagersnatLinjar separeringInlarning via felminimeringFlerlagersnat

Generell klassificeringFunktionsapproximation

Deriverbara troskelfunktionerError BackpropagationKonvergensegenskaper

Orjan Ekeberg Maskininlarning

Artificiella Neuronnat

EnlagersnatLinjar separeringInlarning via felminimeringFlerlagersnat

Generell klassificeringFunktionsapproximation

Deriverbara troskelfunktionerError BackpropagationKonvergensegenskaper

Orjan Ekeberg Maskininlarning

Artificiella Neuronnat

EnlagersnatLinjar separeringInlarning via felminimeringFlerlagersnat

Generell klassificeringFunktionsapproximation

Deriverbara troskelfunktionerError BackpropagationKonvergensegenskaper

Orjan Ekeberg Maskininlarning

Artificiella Neuronnat

EnlagersnatLinjar separeringInlarning via felminimeringFlerlagersnat

Generell klassificeringFunktionsapproximation

Deriverbara troskelfunktionerError BackpropagationKonvergensegenskaper

Orjan Ekeberg Maskininlarning

Artificiella Neuronnat

EnlagersnatLinjar separeringInlarning via felminimeringFlerlagersnat

Generell klassificeringFunktionsapproximation

Deriverbara troskelfunktionerError BackpropagationKonvergensegenskaper

Orjan Ekeberg Maskininlarning

Statistisk Inlarning

Maximum a’Posteriori (MAP)Den mest sannolika hypotesen givet observerade dataMaximum Likelihood (ML)Den hypotes som har storst sannolikhet att ge de data viserBayes Optimal Classifier

argmaxv

∑h

P (v|h) · P (h|D)

Naive Bayes Classifier

argmaxv

P (v)∏

i

P (ai|v)

Orjan Ekeberg Maskininlarning

Statistisk Inlarning

Maximum a’Posteriori (MAP)Den mest sannolika hypotesen givet observerade dataMaximum Likelihood (ML)Den hypotes som har storst sannolikhet att ge de data viserBayes Optimal Classifier

argmaxv

∑h

P (v|h) · P (h|D)

Naive Bayes Classifier

argmaxv

P (v)∏

i

P (ai|v)

Orjan Ekeberg Maskininlarning

Statistisk Inlarning

Maximum a’Posteriori (MAP)Den mest sannolika hypotesen givet observerade dataMaximum Likelihood (ML)Den hypotes som har storst sannolikhet att ge de data viserBayes Optimal Classifier

argmaxv

∑h

P (v|h) · P (h|D)

Naive Bayes Classifier

argmaxv

P (v)∏

i

P (ai|v)

Orjan Ekeberg Maskininlarning

Statistisk Inlarning

Maximum a’Posteriori (MAP)Den mest sannolika hypotesen givet observerade dataMaximum Likelihood (ML)Den hypotes som har storst sannolikhet att ge de data viserBayes Optimal Classifier

argmaxv

∑h

P (v|h) · P (h|D)

Naive Bayes Classifier

argmaxv

P (v)∏

i

P (ai|v)

Orjan Ekeberg Maskininlarning

Statistisk Inlarning

Maximum a’Posteriori (MAP)Den mest sannolika hypotesen givet observerade dataMaximum Likelihood (ML)Den hypotes som har storst sannolikhet att ge de data viserBayes Optimal Classifier

argmaxv

∑h

P (v|h) · P (h|D)

Naive Bayes Classifier

argmaxv

P (v)∏

i

P (ai|v)

Orjan Ekeberg Maskininlarning

Boosting

Generering av flera klassificerareTranade pa olika traningsdataOmrostning kan ge battre klassificering

Orjan Ekeberg Maskininlarning

Boosting

Generering av flera klassificerareTranade pa olika traningsdataOmrostning kan ge battre klassificering

Orjan Ekeberg Maskininlarning

Boosting

Generering av flera klassificerareTranade pa olika traningsdataOmrostning kan ge battre klassificering

Orjan Ekeberg Maskininlarning

Boosting

Generering av flera klassificerareTranade pa olika traningsdataOmrostning kan ge battre klassificering

Orjan Ekeberg Maskininlarning

Exempelbaserad inlarning

Inlarning ≈ LagringNearest Neighbork-Nearest NeighborViktning (kernel)RegressionRadialbasfunktioner

Orjan Ekeberg Maskininlarning

Exempelbaserad inlarning

Inlarning ≈ LagringNearest Neighbork-Nearest NeighborViktning (kernel)RegressionRadialbasfunktioner

Orjan Ekeberg Maskininlarning

Exempelbaserad inlarning

Inlarning ≈ LagringNearest Neighbork-Nearest NeighborViktning (kernel)RegressionRadialbasfunktioner

Orjan Ekeberg Maskininlarning

Exempelbaserad inlarning

Inlarning ≈ LagringNearest Neighbork-Nearest NeighborViktning (kernel)RegressionRadialbasfunktioner

Orjan Ekeberg Maskininlarning

Exempelbaserad inlarning

Inlarning ≈ LagringNearest Neighbork-Nearest NeighborViktning (kernel)RegressionRadialbasfunktioner

Orjan Ekeberg Maskininlarning

Exempelbaserad inlarning

Inlarning ≈ LagringNearest Neighbork-Nearest NeighborViktning (kernel)RegressionRadialbasfunktioner

Orjan Ekeberg Maskininlarning

Exempelbaserad inlarning

Inlarning ≈ LagringNearest Neighbork-Nearest NeighborViktning (kernel)RegressionRadialbasfunktioner

Orjan Ekeberg Maskininlarning

Reinforcement Learning

Fordrojd beloningTemporal Credit AssignmentVardefunktionPolicyTemporal Difference teknikerQ-LearningSarsa-Learning

Orjan Ekeberg Maskininlarning

Reinforcement Learning

Fordrojd beloningTemporal Credit AssignmentVardefunktionPolicyTemporal Difference teknikerQ-LearningSarsa-Learning

Orjan Ekeberg Maskininlarning

Reinforcement Learning

Fordrojd beloningTemporal Credit AssignmentVardefunktionPolicyTemporal Difference teknikerQ-LearningSarsa-Learning

Orjan Ekeberg Maskininlarning

Reinforcement Learning

Fordrojd beloningTemporal Credit AssignmentVardefunktionPolicyTemporal Difference teknikerQ-LearningSarsa-Learning

Orjan Ekeberg Maskininlarning

Reinforcement Learning

Fordrojd beloningTemporal Credit AssignmentVardefunktionPolicyTemporal Difference teknikerQ-LearningSarsa-Learning

Orjan Ekeberg Maskininlarning

Reinforcement Learning

Fordrojd beloningTemporal Credit AssignmentVardefunktionPolicyTemporal Difference teknikerQ-LearningSarsa-Learning

Orjan Ekeberg Maskininlarning

Reinforcement Learning

Fordrojd beloningTemporal Credit AssignmentVardefunktionPolicyTemporal Difference teknikerQ-LearningSarsa-Learning

Orjan Ekeberg Maskininlarning

Reinforcement Learning

Fordrojd beloningTemporal Credit AssignmentVardefunktionPolicyTemporal Difference teknikerQ-LearningSarsa-Learning

Orjan Ekeberg Maskininlarning

Genetiska algoritmer

OptimeringFitnessfunktionParallell stokastisk gradientfoljningKorsning — utbyte av dellosningarKodningGenetisk programmering

Orjan Ekeberg Maskininlarning

Genetiska algoritmer

OptimeringFitnessfunktionParallell stokastisk gradientfoljningKorsning — utbyte av dellosningarKodningGenetisk programmering

Orjan Ekeberg Maskininlarning

Genetiska algoritmer

OptimeringFitnessfunktionParallell stokastisk gradientfoljningKorsning — utbyte av dellosningarKodningGenetisk programmering

Orjan Ekeberg Maskininlarning

Genetiska algoritmer

OptimeringFitnessfunktionParallell stokastisk gradientfoljningKorsning — utbyte av dellosningarKodningGenetisk programmering

Orjan Ekeberg Maskininlarning

Genetiska algoritmer

OptimeringFitnessfunktionParallell stokastisk gradientfoljningKorsning — utbyte av dellosningarKodningGenetisk programmering

Orjan Ekeberg Maskininlarning

Genetiska algoritmer

OptimeringFitnessfunktionParallell stokastisk gradientfoljningKorsning — utbyte av dellosningarKodningGenetisk programmering

Orjan Ekeberg Maskininlarning

Genetiska algoritmer

OptimeringFitnessfunktionParallell stokastisk gradientfoljningKorsning — utbyte av dellosningarKodningGenetisk programmering

Orjan Ekeberg Maskininlarning

Larbarhetsteori

PAC-LearnableProbably (δ) Approximately (ε) CorrectKomplexitet matt i 1

δ , 1ε och n

Antal traningsexempel

m ≥ 1

ε

[ln |H|+ ln

1

δ

]

VC-dimension

VC(H) ≤ log2 |H| m ≥ 1

ε

[4 log2

2

δ+ 8VC(H) · log2

13

ε

]

Fel under inlarningen

Orjan Ekeberg Maskininlarning

Larbarhetsteori

PAC-LearnableProbably (δ) Approximately (ε) CorrectKomplexitet matt i 1

δ , 1ε och n

Antal traningsexempel

m ≥ 1

ε

[ln |H|+ ln

1

δ

]

VC-dimension

VC(H) ≤ log2 |H| m ≥ 1

ε

[4 log2

2

δ+ 8VC(H) · log2

13

ε

]

Fel under inlarningen

Orjan Ekeberg Maskininlarning

Larbarhetsteori

PAC-LearnableProbably (δ) Approximately (ε) CorrectKomplexitet matt i 1

δ , 1ε och n

Antal traningsexempel

m ≥ 1

ε

[ln |H|+ ln

1

δ

]

VC-dimension

VC(H) ≤ log2 |H| m ≥ 1

ε

[4 log2

2

δ+ 8VC(H) · log2

13

ε

]

Fel under inlarningen

Orjan Ekeberg Maskininlarning

Larbarhetsteori

PAC-LearnableProbably (δ) Approximately (ε) CorrectKomplexitet matt i 1

δ , 1ε och n

Antal traningsexempel

m ≥ 1

ε

[ln |H|+ ln

1

δ

]

VC-dimension

VC(H) ≤ log2 |H| m ≥ 1

ε

[4 log2

2

δ+ 8VC(H) · log2

13

ε

]

Fel under inlarningen

Orjan Ekeberg Maskininlarning

Larbarhetsteori

PAC-LearnableProbably (δ) Approximately (ε) CorrectKomplexitet matt i 1

δ , 1ε och n

Antal traningsexempel

m ≥ 1

ε

[ln |H|+ ln

1

δ

]

VC-dimension

VC(H) ≤ log2 |H| m ≥ 1

ε

[4 log2

2

δ+ 8VC(H) · log2

13

ε

]

Fel under inlarningen

Orjan Ekeberg Maskininlarning

Larbarhetsteori

PAC-LearnableProbably (δ) Approximately (ε) CorrectKomplexitet matt i 1

δ , 1ε och n

Antal traningsexempel

m ≥ 1

ε

[ln |H|+ ln

1

δ

]

VC-dimension

VC(H) ≤ log2 |H| m ≥ 1

ε

[4 log2

2

δ+ 8VC(H) · log2

13

ε

]

Fel under inlarningen

Orjan Ekeberg Maskininlarning

Larbarhetsteori

PAC-LearnableProbably (δ) Approximately (ε) CorrectKomplexitet matt i 1

δ , 1ε och n

Antal traningsexempel

m ≥ 1

ε

[ln |H|+ ln

1

δ

]

VC-dimension

VC(H) ≤ log2 |H| m ≥ 1

ε

[4 log2

2

δ+ 8VC(H) · log2

13

ε

]

Fel under inlarningen

Orjan Ekeberg Maskininlarning

Regelinlarning

Sequential CoveringSuccesiv specialiseringGirig eller Beam-searchHeuristisk sokningInverse ResolutionBottom-up: forklara exempel

Orjan Ekeberg Maskininlarning

Regelinlarning

Sequential CoveringSuccesiv specialiseringGirig eller Beam-searchHeuristisk sokningInverse ResolutionBottom-up: forklara exempel

Orjan Ekeberg Maskininlarning

Regelinlarning

Sequential CoveringSuccesiv specialiseringGirig eller Beam-searchHeuristisk sokningInverse ResolutionBottom-up: forklara exempel

Orjan Ekeberg Maskininlarning

Regelinlarning

Sequential CoveringSuccesiv specialiseringGirig eller Beam-searchHeuristisk sokningInverse ResolutionBottom-up: forklara exempel

Orjan Ekeberg Maskininlarning

Regelinlarning

Sequential CoveringSuccesiv specialiseringGirig eller Beam-searchHeuristisk sokningInverse ResolutionBottom-up: forklara exempel

Orjan Ekeberg Maskininlarning

Metoder vi inte pratat om

Support-Vector MachinesOmkodning av indata ⇒ linjar separerbarhetInlarning av sekvenser/tidsdataHidden Markov ModelsKalman filterOovervakad inlarningSjalvorganiserad avbildningAterkopplade neuronnatHybridmetoder

Orjan Ekeberg Maskininlarning

Metoder vi inte pratat om

Support-Vector MachinesOmkodning av indata ⇒ linjar separerbarhetInlarning av sekvenser/tidsdataHidden Markov ModelsKalman filterOovervakad inlarningSjalvorganiserad avbildningAterkopplade neuronnatHybridmetoder

Orjan Ekeberg Maskininlarning

Metoder vi inte pratat om

Support-Vector MachinesOmkodning av indata ⇒ linjar separerbarhetInlarning av sekvenser/tidsdataHidden Markov ModelsKalman filterOovervakad inlarningSjalvorganiserad avbildningAterkopplade neuronnatHybridmetoder

Orjan Ekeberg Maskininlarning

Metoder vi inte pratat om

Support-Vector MachinesOmkodning av indata ⇒ linjar separerbarhetInlarning av sekvenser/tidsdataHidden Markov ModelsKalman filterOovervakad inlarningSjalvorganiserad avbildningAterkopplade neuronnatHybridmetoder

Orjan Ekeberg Maskininlarning

Metoder vi inte pratat om

Support-Vector MachinesOmkodning av indata ⇒ linjar separerbarhetInlarning av sekvenser/tidsdataHidden Markov ModelsKalman filterOovervakad inlarningSjalvorganiserad avbildningAterkopplade neuronnatHybridmetoder

Orjan Ekeberg Maskininlarning

Metoder vi inte pratat om

Support-Vector MachinesOmkodning av indata ⇒ linjar separerbarhetInlarning av sekvenser/tidsdataHidden Markov ModelsKalman filterOovervakad inlarningSjalvorganiserad avbildningAterkopplade neuronnatHybridmetoder

Orjan Ekeberg Maskininlarning