Spectral graph theory and expander...

30
Projet de semestre Spectral graph theory and expander graphs Magda Sofia Echevarria Coelho Professeur : Amin Shokrollahi Assistante : Ghid Maatouk Automne 2012

Transcript of Spectral graph theory and expander...

Page 1: Spectral graph theory and expander graphsalgo.epfl.ch/_media/en/projects/bachelor_semester/projet.pdfProjet de semestre Spectral graph theory and expander graphs Magda So a Echevarria

Projet de semestre

Spectral graph theory andexpander graphs

Magda Sofia Echevarria Coelho

Professeur :

Amin Shokrollahi

Assistante :

Ghid Maatouk

Automne 2012

Page 2: Spectral graph theory and expander graphsalgo.epfl.ch/_media/en/projects/bachelor_semester/projet.pdfProjet de semestre Spectral graph theory and expander graphs Magda So a Echevarria

Magda Sofia Echevarria Coelho Automne 2012

Resume

Au 18eme siecle, Leonhard Euler s’interessa au probleme des sept pontsde Konigsberg connu pour etre a l’origine de la theorie des graphes. Leprobleme consistait a trouver une promenade a partir d’un point donnequi fasse revenir a ce point en passant une fois et une seule par chacundes sept ponts de la ville de Konigsberg. Euler fut le premier a donnerun traitement mathematique a ce probleme et ce fut ainsi que naquit latheorie des graphes. Ce travail traitera de la theorie spectrale des graphesqui permet de donner beaucoup d’informations sur les graphes. On parleranotamment des matrices d’adjacence et Laplacienne d’un graphe et del’utilite de leur spectre. Par ailleurs on parlera d’un type de graphe avecdes proprietes interessantes qui sont les graphes expandeurs.

Table des matieres

1 Le Laplacien 21.1 Definitions de base . . . . . . . . . . . . . . . . . . . . . . . . . . 21.2 Reflexion sur le laplacien . . . . . . . . . . . . . . . . . . . . . . . 31.3 Isoperimetrie et λ2 . . . . . . . . . . . . . . . . . . . . . . . . . . 41.4 Le graphe complet Kn . . . . . . . . . . . . . . . . . . . . . . . . 61.5 L’etoile Sn . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 71.6 L’Hypercube . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7

2 Matrice d’adjacence 122.1 Matrice d’adjacence du graphe complet : AKn

. . . . . . . . . . . 132.2 Matrice d’adjacence de l’hypercube : AHd

. . . . . . . . . . . . . 142.3 Matrice d’adjacence de l’etoile : ASn . . . . . . . . . . . . . . . . . 14

3 Graphes expandeurs 163.1 Approximations du graphe complet . . . . . . . . . . . . . . . . . 163.2 Le carre d’un graphe . . . . . . . . . . . . . . . . . . . . . . . . . 163.3 Approximation du graphe des aretes . . . . . . . . . . . . . . . . 183.4 L’entiere construction . . . . . . . . . . . . . . . . . . . . . . . . 19

4 Le produit ”Zig-Zag” 214.1 L’iteration . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 214.2 Intuition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 224.3 L’application rotation . . . . . . . . . . . . . . . . . . . . . . . . 224.4 Le produit tensoriel . . . . . . . . . . . . . . . . . . . . . . . . . 234.5 Analyse du produit Zig-Zag . . . . . . . . . . . . . . . . . . . . . 24

5 Conclusion 28

References 29

1

Page 3: Spectral graph theory and expander graphsalgo.epfl.ch/_media/en/projects/bachelor_semester/projet.pdfProjet de semestre Spectral graph theory and expander graphs Magda So a Echevarria

Magda Sofia Echevarria Coelho Automne 2012

1 Le Laplacien

Le Laplacien est une matrice liee a un graphe, dont les proprietes spectralessont tres utiles. Par exemple nous allons voir que les valeurs propres du Laplaciennous donnent des informations sur le graphe (par exemple s’il est connexe oupas). Avant cela donnons quelques definitions.

1.1 Definitions de base

1.1 Definition (Matrice d’adjacence). Soit G = (V,E) un graphe. Alors samatrice d’adjacence est definie par :

AG(u, v) =

{1 si (u, v) ∈ E0 sinon.

1.2 Definition (Matrice Laplacienne et forme quatratique). Soit G = (V,E)un graphe. Alors sa matrice laplacienne est definie par :

LG = DG −AG

ou DG est une matrice diagonale avec les degres de chaque sommet sur la dia-gonale. De plus, on peut montrer que la forme quadratique du Laplacien estdonnee par :

xTLGx =∑

(u,v)∈E

(x(u)− x(v))2.

1.3 Remarque. Posons Gu,v le graphe avec uniquement une arete entre u et v(il peut y avoir pleins d’autres sommets). Alors la matrice Laplacienne de Gu,vsera de la forme [

1 −1−1 1

]a l’intersection des sommets u et v et avec des zeros partout ailleurs. On peutdonc ecrire

LG =∑

(u,v)∈E

(eu − ev)(eu − ev)T =∑

(u,v)∈E

LGu,v.

1.4 Definition (Quotient de Rayleigh). Le quotient de Rayleigh d’un vecteurx par rapport a une matrice M est defini par :

xTMx

xTx.

1.5 Rappel. Rappelons qu’etant donne une matrice M n× n et λ une valeurpropre de M alors on dit que ψ ∈ Rn, (ψ 6= 0), est un vecteur propre de Massocie a la valeur propre λ si

Mψ = λψ.

1.6 Theoreme. Soit M une matrice symetrique et x un vecteur qui minimisele Rayleigh quotient par rapport a M . Alors x est une vecteur propre de M pourla valeur propre egale au Rayleigh quotient en x. De plus, cette valeur propreest la plus grande.

2

Page 4: Spectral graph theory and expander graphsalgo.epfl.ch/_media/en/projects/bachelor_semester/projet.pdfProjet de semestre Spectral graph theory and expander graphs Magda So a Echevarria

Magda Sofia Echevarria Coelho Automne 2012

Demonstration. On suppose le theoreme spectral acquis. Tout d’abord numerotonschaque valeur propre de M de la maniere suivante : λ1 ≤ λ2 ≤ · · · ≤ λn. Soit{ψi}i la base orthonormee formee de vecteurs propres. Alors pour tout vecteurx on a :

x =∑i

ψTi xψi.

Comme la multiplication de x par un scalaire ne change pas le quotient deRayleigh, on peut supposer que x est un vecteur unitaire, donc∑

i

(ψTi x)2 = 1.

Calculons maintenant le quotient de Rayleigh par rapport a x.

xTMx

xTx=

(∑i ψ

Ti xψi)

TM(∑j ψ

Tj xψj)

1

= (∑i

ψixψi)T (∑j

(ψTj x)λjψj)

=∑i,j

(ψTi x)(ψTj x)λjψTi ψj

=∑i

(ψTi x)2λi

≤ λn∑i

(ψTi x)2

= λn.

Donc le quotient de Rayleigh est borne par la plus grande valeur propre deM . On sait que le vecteur propre pour la valeur propre λn est ψn. Il reste amontrer que seuls les vecteurs propres associes a la valeur propre λn peuventavoir un si grand quotient de Rayleigh. En effet, L’inegalite ci-dessus est strictesi et seulement si λi = λn pour tout i tel que ψTi x 6= 0. Ce qui est le cas si etseulement si x est dans le span des vecteurs propres associes a la valeur propreλn.

1.2 Reflexion sur le laplacien

La forme quadratique du laplacien etant une somme de carres, elle n’estjamais negative. On remarque que si x est un vecteur constant, cette formeest nulle. Par consequent la plus petit valeur propre de Laplacien est zero. Nousallons maintenant voir que si la deuxieme valeur propre du Laplacien est positivealors on sait que le graphe est connexe.

1.7 Lemme. Soit G = (V,E) un graphe et soit 0 = λ1 ≤ λ2 ≤ · · · ≤ λn lesvaleurs propres de la matrice laplacienne. Alors,

λ2 > 0 ⇐⇒ G est connexe.

Demonstration. =⇒ : Montrons la contraposee. SupposonsG non-connexe. Alorson peut separer G en deux sous-graphes, G1 et G2, qui ne sont pas relies l’un al’autre. En enumerant les sommets d’une facon adequate on obtient :

LG =

(LG1

00 LG2

).

3

Page 5: Spectral graph theory and expander graphsalgo.epfl.ch/_media/en/projects/bachelor_semester/projet.pdfProjet de semestre Spectral graph theory and expander graphs Magda So a Echevarria

Magda Sofia Echevarria Coelho Automne 2012

Rappelons que LG = DG − AG. Si on prend la premiere ligne on aura commepremier nombre le degre du premier sommet puis un −1 a chaque fois qu’unearete relie le premier sommet a un autre sommet. Donc si on fait la sommede ses nombres on obtient zero. Ce phenomene se produit pour chaque ligneet chaque colonne. Donc si on multiplie la matrice avec le vecteur 1 on ob-tient zero. Or pour la matrice si-dessus, on peut soit multiplier par le vec-

teur

(10

)soit par le vecteur

(01

). Dans les deux cas on obtient 0. Par

consequent, il existe deux vecteurs propres pour la valeur propre 0 qui sont or-thogonaux. Donc λ2 = 0. Ainsi si λ2 > 0 le graphe est connexe.

⇐= : Supposons maintenant que G est connexe. Soit x un vecteur propre deLG pour la valeur propre 0. Comme LGx = 0 on a

xTLGx =∑

(u,v)∈E

(x(u)− x(v))2

= 0.

Ainsi pour chaque paire de sommets (u, v) relies par une arete on a x(u) = x(v).Or comme le graphe est connexe chaque sommet u et v sont relies par un chemin.Donc par induction on a que x(u) = x(v) pour tout sommet u et v. Donc xdoit etre un vecteur constant. Par consequent, l’espace propre associe a la valeurpropre 0 est de dimension 1 ce qui implique que λ2 > 0.

1.3 Isoperimetrie et λ2

Nous allons voir que la deuxieme plus petite valeur propre du Laplacien estintimement liee au probleme de la division d’un graphe en deux sans enlevertrop d’aretes.

1.8 Definition (Frontiere). Soit S un sous-ensemble des sommets d’un graphe.La frontiere de S est l’ensemble des artes qui relient un sommet de S au restedu graphe. On definit :

∂(S) := {(u, v) ∈ E : u ∈ S, v /∈ S}.

1.9 Definition (Rapport isoperimetrique). Soit S un sous-ensemble des som-mets d’un graphe. On s’interesse au rapport entre sa frontiere et sa taille. Ondefinit :

θ(S) :=|∂(S)||S|

que l’on nomme le rapport isoperimetrique.

1.10 Definition (Nombre isoperimetrique). Soit G un graphe. On definit lenombre isoperimetrique par le minimum des rapports isoperimetriques de tousles ensemble d’au plus n

2 sommets :

θG := min|S|6n/2

∂(S).

1.11 Theoreme. Soit G = (V,E). Pour tout sous-ensemble S ⊂ V on a :

θ(S) ≥ λ2(1− s)

ou S = |S|/|V |.

4

Page 6: Spectral graph theory and expander graphsalgo.epfl.ch/_media/en/projects/bachelor_semester/projet.pdfProjet de semestre Spectral graph theory and expander graphs Magda So a Echevarria

Magda Sofia Echevarria Coelho Automne 2012

Demonstration. Comme

λ2 = minx:xT 1=0

xTLGx

xTx,

pour chaque x non nul orthogonal a 1 on sait que

xLGx > λ2xTx.

En prenant le vecteur caracteristique de S, on obtient

χTSLGχS =∑

(u,v)∈E

(χS(u)− χS(v))2 = |∂(S)|.

Par contre χS n’est pas orthogonal a 1. Pour y remedier on utilise

x = χS − s · 1.

On a xT1 = 0 et

xLGx =∑

(u,v)∈E

((χS(u)− s)− (χS(v)− s))2 = |∂(S)|.

De plus,

xTx = (χS − s1) (χS − s1) = |S|(1− s)2 + (|V | − |S|)s2 =

|S|(1− 2s+ s2) + |V |s2 − |S|s2 = |S| − 2|S|s+ |V | |S|2

|V |2=

|S| − 2|S|s+ |S|s = |S| − |S|s = |S|(1− s).Ainsi grace a ce resultat on obtient :

xLGx > λ2xTx =⇒ |∂(S)| > λ2|S|(1− s)

=⇒ ∂(S)||S|

> λ2(1− s)

=⇒ θ(S) > λ2(1− s).

1.12 Corollaire. Soit S un sous-ensemble de {0, 1}d de taille maximale 2d−1.Alors

|∂(S)| ≥ |S|.

Demonstration. Par le theoreme 1.11 on sait que

|∂(S)||S|

> λ2

(1− |S||V |

)ou V = 0, 1d ici. Or pour l’hypercube on a λ2 = 2. De plus |S| 6 2d−1. On adonc

|∂(S)||S|

> 2

(1− 2d−1

2d

)= 2(1− 1/2) = 1.

Ainsi, |∂(S) > |S|.

Nous allons maintenant analyser le spectre de trois differents types de graphes.

5

Page 7: Spectral graph theory and expander graphsalgo.epfl.ch/_media/en/projects/bachelor_semester/projet.pdfProjet de semestre Spectral graph theory and expander graphs Magda So a Echevarria

Magda Sofia Echevarria Coelho Automne 2012

1.4 Le graphe complet Kn

1.13 Definition (Graphe complet). Kn est le graphe complet sur n sommetsdont l’ensemble des aretes est donne par {(u, v) : u 6= v}.1.14 Lemme. Le laplacien de Kn a la valeur propre 0 de multiplicite 1 et n demultiplicite n− 1.

Demonstration. Tout d’abord, on se rappelle que la premiere valeur propre esttoujours nulle et de multiplicite 1, si le graphe est connexe, ce qui est le cas.Calculons les autres valeurs propres. Prenons un vecteur v orthogonal au vecteur1. Alors on a ∑

u

v(u) = 0.

Sans pertes de generalites calculons la premiere composante du produit LKnv.

On a

(LKnv) (1) =

∑u>2

(v(1)− v(u))

= (n− 1)v(1)−n∑u=2

v(u)

= nv(1)−

(v(1) +

n∑v=2

v(u)

)︸ ︷︷ ︸

=0

= nv(1).

Comme le choix de la composante est arbitraire on obtient LKnv = nv. Pourune meilleure comprehension, regardons bien les choses. Kn est un graphe dontchaque sommet est relie a tous les autres. Ainsi chaque sommet est de degren− 1. Par consequent :

LKn= DKn

−AKn=

n− 1 −1 · · · −1

−1. . .

......

. . . −1−1 · · · −1 n− 1

.

Si on multiplie LKnpar un vecteur tel que

∑ni=1 = 0 on a

LKnv =

n− 1 −1 · · · −1

−1. . .

......

. . . −1−1 · · · −1 n− 1

v1

...

...vn

=

(n− 1)v1 − v2 − · · · − vn−v2 − (n− 1)v2 − v3 − · · ·vn

...−v1 − v2 − · · · − vn−1(n− 1)vn

= n

v1

v2

...vn

.

Ainsi n’importe quel vecteur orthogonal au vecteur 1 est un vecteur propre pourla valeur propre n. Donc n est de multiplicite n− 1.

6

Page 8: Spectral graph theory and expander graphsalgo.epfl.ch/_media/en/projects/bachelor_semester/projet.pdfProjet de semestre Spectral graph theory and expander graphs Magda So a Echevarria

Magda Sofia Echevarria Coelho Automne 2012

1.5 L’etoile Sn

1.15 Definition (Graphe en etoile). Sn est l’etoile a n sommets dont l’ensembledes aretes est donne par {(1, v) : 2 ≤ v ≤ n}.

1.16 Lemme. Soit G = (V,E) un graphe et v, w des sommets de degre 1 tousdeux lies a un meme sommet z. Alors le vecteur

ψ(u) =

1 si u = v−1 si u = w0 sinon

est un vecteur propre du Laplacien de G pour la valeur propre 1.

Demonstration. Voir [7].

1.17 Lemme. L’etoile Sn a la valeur propre 0 avec multiplicite 1, 1 avec mul-tiplicite n− 2 et n avec multiplicite 1.

Demonstration. On sait que le Laplacien a la valeur propre 0 de multiplicite1. En appliquant le lemme 1.16 aux sommets i et i + 1 pour 2 6 i 6 n ontrouve n− 2 vecteurs propres lineairement independants pour la valeur propre1. Pour calculer la derniere valeur propre on utilise la trace de la matrice LSn

.Nous savons que cette somme vaut 2n − 1 qui est la somme des degres dechaque sommet ainsi que la somme des valeurs propres. En effet, en faisant unchangement de base on trouve une matrice diagonale avec les valeurs propres eton sait que la trace de deux matrices semblables sont les memes. Ainsi on a

2n− 2 = 0 + 1(n− 2) + t⇒ t = n.

Ainsi la derniere valeur propre est n de multiplicite 1.

1.6 L’Hypercube

1.18 Definition (Hypercube). L’hypercube est le graphe Hn = ({0, 1}n, E)avec E = {(x, y) : dH(x, y) = 1} ou dH(x, y) = {i ∈ {1, · · · , n} : xi 6= yi}.

1.19 Definition (Produit de deux graphes). Soient G = (V,E) et H = (W,F )deux graphes. Alors le produit G × H est le graphe avec pour ensemble desommets V ×W et pour ensemble des aretes(

(v, w), (v, w)

)ou (v, v) ∈ E(

(v, w), (u, w)

)ou (w, w) ∈ F.

1.20 Theoreme. Soient G = (V,E) et H = (W,F ) deux graphes. Posonsλ1, · · · , λn les valeurs propres de la matrice laplacienne de G dont les vec-teurs propres associes sont α1, · · · , αn. Posons egalement µ1, · · · , µm les vec-teurs propres de la matrice laplacienne de H dont les vecteurs propres associessont β1, · · · , βm. Alors pour tout 1 ≤ i ≤ n, 1 ≤ j ≤ m,G × H a un vecteurpropre γi,j associe a la valeur propre λi + µj tel que

γi,j(v, w) = αi(v)βj(w).

7

Page 9: Spectral graph theory and expander graphsalgo.epfl.ch/_media/en/projects/bachelor_semester/projet.pdfProjet de semestre Spectral graph theory and expander graphs Magda So a Echevarria

Magda Sofia Echevarria Coelho Automne 2012

Demonstration. Soit α un vecteur propre de LG pour la valeur propre λ et β unvecteur propre de LH pour la valeur propre µ. Pour voir que γ est un vecteurpropre de LG×H pour la valeur propre λ+ µ on fait le calcul suivant :

(LG×Hγ)(u, v) =∑

(u,v):(u,u)∈E

(γ(u, v)−γ(u, v)) +∑

(u,v):(v,v)∈F

(γ(u, v)−γ(u, v) =

∑(u,v):(u,u)∈E

(α(u)β(v)− α(uβ(v)) +∑

(u,v):(v,v)∈F

(α(u)β(v)− α(u)β(v)) =

∑(u,v):(u,u)∈E

β(v)(α(u)− α(u) +∑

(u,v):(v,v)∈F

α(u)(β(v)− β(v)) =

β(u)λα(u) + α(u)µβ(v) = (λ+ µ)α(u)β(v) = (λ+ µ)γ.

On a donc bien que γ est un vecteur propre de LG×H pour la valeur propreλ+ µ.

Calcul de G × Hd−1. Soient G × Hd−1 = (VG×Hd−1, EG×Hd−1

) et Hd =(VHd

, EHd) deux graphes. On souhaite montrer que G×Hd−1 = Hd. Posons

φ : VHd−1×G −→ VHd((u1, · · · , ud−1), u′

)7→ (u1, · · · , ud−1, u′)

et montrons que c’est une bijection. On voit clairement que

{0, 1}d−1 × {0, 1} = {0, 1}d.

Par consequent, VHd−1×G et VHdont la meme dimension. Il suffit donc de

montrer que φ est injective pour obtenir la bijection. Soient u, v ∈ VHd−1×Gtels que φ(u) = φ(v). Alors (u1, · · · , ud−1, u′) = (v1, · · · , vd−1, v′) et donc

u1 = v1, · · · , ud−1 = vd−1, u′ = v′ ce qui implique que

((u1, · · · , ud−1), u′

)=(

(v1, · · · , vd−1), v′)

et par consequent u = v. Ainsi φ est injective. Montrons

maintenant que

(u, v) ∈ EHd−1×G ⇐⇒(φ(u), φ(v)

)∈ EHd

.

=⇒ : Soit (u, v) ∈ EHd−1×G. Par definition du produit d’un graphe on a que lestypes d’aretes de EHd−1×G sont les suivantes :

1.

(((u1, · · · , ud−1), 0), ((v1, · · · , vd−1), 0)

)∈ EHd−1×G

∀ (u1, · · · , ud−1), (v1, · · · , vd−1) ∈ {0, 1}d−1 tels que((u1, · · · , ud−1), (v1, · · · , vd−1)

)∈ EHd−1

2.

(((u1, · · · , ud−1), 1), ((v1, · · · , vd−1), 1)

)∈ EHd−1×G

∀ (u1, · · · , ud−1), (v1, · · · , vd−1) ∈ {0, 1}d−1 tels que((u1, · · · , ud−1), (v1, · · · , vd−1)

)∈ EHd−1

8

Page 10: Spectral graph theory and expander graphsalgo.epfl.ch/_media/en/projects/bachelor_semester/projet.pdfProjet de semestre Spectral graph theory and expander graphs Magda So a Echevarria

Magda Sofia Echevarria Coelho Automne 2012

3.

(((u1, · · · , ud−1), 1), ((u1, · · · , ud−1), 0)

)∈ EHd−1×G

∀ (u1, · · · , ud−1), (v1, · · · , vd−1) ∈ {0, 1}d−1 tels que((u1, · · · , ud−1), (v1, · · · , vd−1)

)∈ EHd−1

Ainsi dans le premier cas(φ(u), φ(v)

)=

((u1, · · · , ud−1, 0), (v1, · · · , vd−1, 0)

)∈ EHd

.

En effet, ces deux sommets ne different que d’une seule coordonnee car((u1, · · · , ud−1), (v1, · · · , vd−1)

)∈ EHd−1

ne different que d’une seule coor-

donnee par definition des aretes dans l’hypercube a d − 1 dimensions. Dans ledeuxieme cas on a :(

φ(u), φ(v)

)=

((u1, · · · , ud−1, 1), (v1, · · · , vd−1, 1)

)∈ EHd

par le meme argument que precedemment. Dans le troisieme cas on a :(φ(u), φ(v)

)=

((u1, · · · , ud−1, 1), (u1, · · · , ud−1, 0)

)∈ EHd

car on voit clairement que ces deux sommets ne different que d’une coordonnee.⇐= :

Soit

(φ(u), φ(v)

)∈ EHd

avec u, v ∈ VHd. Alors (u1, · · · , ud−1, u′) et

(v1, · · · , vd−1, v′) ne different que sur une coordonnee par definition des aretesde l’hypercube a d dimensions. Comme u, v ∈ VHd

on a que u′, v′ ∈ {0, 1}. Siu, v different sur l’une des d − 1 premieres composantes et que la derniere estsoit 0 soit 1, on aura des aretes de type 1 et 2. Si u, v ne different que sur ladernieres composante alors on a une arete de type 3. Ainsi(

φ(u), φ(v)

)∈ EHd

⇒ (u, v) ∈ EHd−1×G.

Calcul du Laplacien de Hd. Une fois ce resultat obtenu nous pouvonscalculer le Laplacien de Hd. Pour ce faire commencons par G = ({0, 1}, {(0, 1)})= H1 qui est le graphe de l’hypercube a dimension 1. On a :

LG =

(1 00 1

)−(

0 11 0

)=

(1 −1−1 1

).

Le polynome caracteristique donne λ(λ− 2) = 0. On obtient (1,−1) commevecteur propre de la valeur propre 2. En effet,(

1 −1−1 1

)(1−1

)= 2 ·

(1−1

).

Nous avons vu queG×Hd−1 = Hd. Autrement ditHd = G×G×· · ·×G = Gd.Ainsi chaque fois qu’on prend un G on a le choix entre deux valeurs propres : 0ou 2. Par le theoreme precedent, on sait que les vecteurs propres de Hd seront

9

Page 11: Spectral graph theory and expander graphsalgo.epfl.ch/_media/en/projects/bachelor_semester/projet.pdfProjet de semestre Spectral graph theory and expander graphs Magda So a Echevarria

Magda Sofia Echevarria Coelho Automne 2012

une somme des valeurs propres de G. On aura donc des valeurs propres de laforme suivante :

2k avec multiplicite

(dk

), ∀ 0 6 k 6 d.

La multiplicite vient du fait qu’on choisit k fois parmi d le chiffre 2. En utilisantle theoreme precedent on peut aussi voir que les vecteurs propres de Hd sontdonnes par les fonctions :

ψa(b) = (−1)aT b

ou a ∈ {0, 1}d, et nous considerons les sommets b comme des vecteurs de lon-gueur d formes de 0 et de 1. La valeur propre pour laquelle ψa est un vecteurpropre est deux fois le nombre de uns dans a.

Pour demontrer cette formule calculons d’abord les vecteurs propres de H1.(1 −1−1 1

)(xy

)= λ ·

(xy

).

Ainsi

λ = 0→ ψ0H1

=

(11

)λ = 2→ ψ2

Hd=

(1−1

).

On constant que ces vecteurs sont bien donnes par la formule

ψa(b) = (−1)aT b

ou a ∈ {0, 1} et b ∈ {0, 1} egalement. On obtient bien

ψ0 =

((−1)0·0

(−1)0·1

)=

(11

)= ψ0

H1et

ψ1 =

((−1)1·0

(−1)1·1

)=

(1−1

)= ψ2

H1.

Supposons maintenant que la formule est vraie pour l’hypercube a d − 1dimensions, c’est-a-dire qu’elle donne bien les vecteurs propres de Hd−1 et mon-trons qu’elle reste vraie pour Hd. Par hypothese, les vecteurs propres de Hd−1sont donnes par :

ψa(b) = (−1)aT b

ou a ∈ {0, 1}d et les b enumerent tous les vecteurs dans {0, 1}d−1. CommeHd = Hd−1 × G, on a par le theoreme 1.20 des vecteurs propres de formessuivantes :

ψ0,a =

(ψa · ψ0

H1(1)

ψa · ψ0H1

(2)

)=

(ψaψa

)et

ψ1,a =

(ψa · ψ2

H1(1)

ψa · ψ2H1

(2)

)=

(ψa−ψa

).

10

Page 12: Spectral graph theory and expander graphsalgo.epfl.ch/_media/en/projects/bachelor_semester/projet.pdfProjet de semestre Spectral graph theory and expander graphs Magda So a Echevarria

Magda Sofia Echevarria Coelho Automne 2012

Or par hypothese on a :

(ψaψa

)=

(−1)aT b1

...

(−1)aT b

2d−1

(−1)aT b1

...

(−1)aT b

2d−1

et

(ψa−ψa

)=

(−1)aT b1

...

(−1)aT b

2d−1

−(−1)aT b1

...

−(−1)aT b

2d−1

.

De plus, la formule nous donne :

ψ0|a =

(−1)(0|a)T (0|b1)

...

(−1)(0|a)T (0|b

2d−1 )

(−1)(0|a)T (1|b1)

...

(−1)(0|a)T (1|b

2d−1 )

et ψ1|a =

(−1)(1|a)T (0|b1)

...

(−1)(1|a)T (0|b

2d−1 )

−(−1)(1|a)T (1|b1)

...

−(−1)(1|a)T (1|b

2d−1 )

.

Or

(−1)(0|a)T (0|b) = (−1)

(0 a

) 0b

= (−1)0+a

T b = (−1)aT b,

(−1)(0|a)T (1|b) = (−1)

(0 a

) 1b

= (−1)0+a

T b = (−1)aT b,

(−1)(1|a)T (0|b) = (−1)

(1 a

) 0b

= (−1)0+a

T b = (−1)aT b

(−1)(1|a)T (1|b) = (−1)

(1 a

) 1b

= (−1)1+a

T b = (−1)(−1)aT b.

Par consequent, on a bien

ψ0|a =

(ψaψa

)et ψ1|a =

(ψa−ψa

).

La formule donne donc bien les vecteurs propres pour l’hypercube a d di-mensions.

11

Page 13: Spectral graph theory and expander graphsalgo.epfl.ch/_media/en/projects/bachelor_semester/projet.pdfProjet de semestre Spectral graph theory and expander graphs Magda So a Echevarria

Magda Sofia Echevarria Coelho Automne 2012

2 Matrice d’adjacence

Soit A la matrice d’adjacence d’un graphe G (possiblement pondere). A agitcomme un operateur sur un vecteur x ∈ RV par

(Ax)(u) =∑

(u,v)∈E

w(u, v)x(v).

Soient µ1, · · · , µn les valeurs propres de A que l’on ordonne de la faconsuivante :

µ1 ≥ µ2 ≥ · · · ≥ µn.

La raison de cette convention est qu’ainsi la i-eme valeur propre du laplacien λicorrespond a µi. Si on prend un graphe d-regulier alors D = d · Id. De plus,

L = dI −A

et doncλi = d− µi.

On observe donc que la plus grande valeur propre de A est µ1 = d−λ1 = d, carλ1 = 0, pour un graphe d-regulier.

De plus, le vecteur propre associe a la valeur propre d sera le vecteur constantcar

A

(11

)= d

(11

).

En effet, chaque ligne de A contient d uns car chaque sommet en touche dautres. Examinons maintenant µ1 pour un graphe quelconque.

2.1 Lemme. Soit G un graphe et soient dmax le degre maximal d’un sommetde G et dave la moyenne des degres d’un sommet de G. Alors

dave ≤ µ1 ≤ dmax.

Demonstration. On a vu que si x maximise le quotient de Rayleigh alors cedernier est egale a la plus grande valeur propre de la matrice consideree. Ainsion a :

µ1 = maxx

xTAx

xTx>

1TA1

1T1=

∑i,j Ai,j

n=

∑i d(i)

n= dave

ou n est le nombre de sommets de G. Donc µ1 > dave.Prenons maintenant φ1 un vecteur propre pour µ1. Soit v ∈ V le sommet ou

il atteint sa valeur maximale : φ1(v) > φ1(u) ∀u ∈ V , et supposons, sans pertesde generalite, que φ1(v) 6= 0. Alors

µ1 =(Aφ1) (v)

φ1(v)=

∑u v φ1(u)

φ1(v)=∑u v

φ1(u)

φ1(v)6∑u v

1 6 d(v) 6 dmax.

On a donc biendave 6 µ1 6 dmax.

12

Page 14: Spectral graph theory and expander graphsalgo.epfl.ch/_media/en/projects/bachelor_semester/projet.pdfProjet de semestre Spectral graph theory and expander graphs Magda So a Echevarria

Magda Sofia Echevarria Coelho Automne 2012

2.2 Lemme. Soit G un graphe. Si G est connexe et µ1 = dmax alors G estdmax-regulier.

Demonstration. Par l’equation de la preuve du lemme 2.1, on a l’egalite µ1 =dmax uniquement si d(v) = dmax et φ1(u) = φ1(v) pour tout (u, v) ∈ E. On peutappliquer cet argument de voisin en voisin et comme le graphe est connexe ona finalement que φ1(z) = φ1(v) et d(z) = dmax pour tout z ∈ V .

Analysons maintenant les matrices d’adjacences des types de graphes vus auchapitre precedent.

2.1 Matrice d’adjacence du graphe complet : AKn.

– n = 2 :

AK2 =

(0 11 0

)On obtient les valeurs propres 1 et −1 avec les vecteurs propres associes(

11

)et

(1−1

)respectivement.

– n = 3 :

AK3=

0 1 11 0 11 1 0

On obtient les valeurs propres 2 et −1 avec les vecteurs propres associes 1

11

et

−211

respectivement.

– Pour n ∈ N, n > 2, on remarque que la matrice d’adjacence est de laforme :

AKn=

0 1 · · · 11 0 1 · · · 1...

. . ....

1 · · · 1 0

.

On aura donc la valeur propre associee au vecteur propre constant. Pre-nons maintenant un vecteur φ orthogonal au vecteur 1 constant. Alors,sans pertes de generalites calculons la premiere composante de A · φ. Ona :

(Aφ)(1) =

n∑i=2

φ(i) =

n∑i=1

φ(i)︸ ︷︷ ︸=0

−φ(1) = −φ(1)

car φ ⊥ 1. Par consequent tout vecteur orthogonal au vecteur 1 est unvecteur propre associe a la valeur propre −1. Par consequent la valeurpropre −1 est de multiplicite n− 1. Ainsi, par le theoreme du rang, on aque la valeur propre n− 1 est de multiplicite 1.

2.3 Remarque. On a vu que pour le cas d’un graphe d-regulier on a

λi = d− µi

13

Page 15: Spectral graph theory and expander graphsalgo.epfl.ch/_media/en/projects/bachelor_semester/projet.pdfProjet de semestre Spectral graph theory and expander graphs Magda So a Echevarria

Magda Sofia Echevarria Coelho Automne 2012

ou les λi sont les valeurs propres de la matrice Laplacienne et les µi celles de lamatrice d’adjacence. Dans le cas de Kn on a donc directement

d = n− 1 et λ1 = 0, λ2 = n.

On obtient donc bien µ1 = n− 1 et µ2 = −1.

Utilisons cette remarque pour traiter le cas de l’hypercube qui est un graphed-regulier.

2.2 Matrice d’adjacence de l’hypercube : AHd

Pour la matrice Laplacienne on avait les valeurs propres 2·k avec multiplicite(dk

)pour tout 0 6 k 6 d. On obtient donc les valeurs propres

µ = 2k, ∀0 6 k 6 d, de multiplicite

(dk

).

Les vecteurs propres restent les memes.

2.3 Matrice d’adjacence de l’etoile : ASn.

– n = 2 :

AS2=

(0 11 0

)On obtient les valeurs propres 1 et −1 avec les vecteurs propres associes(

11

)et

(1−1

)respectivement.

– n = 3 :

AS3 =

0 1 11 0 01 0 0

On obtient les valeurs propres 0,

√2 et −

√2 avec les vecteurs propres

correspondants

01−1

,

√211

et

−√211

.

– Pour n ∈ N, n > 2, on remarque que la matrice d’adjacence est de laforme :

ASn=

0 1 · · · 11 0 · · · 0...

.... . .

...1 0 · · · 0

.

On aura donc la valeur propre√n− 1 avec son vecteur propre associe

√n− 11...1

.√n− 1 est donc de multiplicite 1. On a egalement la valeur

14

Page 16: Spectral graph theory and expander graphsalgo.epfl.ch/_media/en/projects/bachelor_semester/projet.pdfProjet de semestre Spectral graph theory and expander graphs Magda So a Echevarria

Magda Sofia Echevarria Coelho Automne 2012

propre−√n− 1 avec son vecteur propre associe

−√n− 1

1...1

. Pour finir

on a par le theoreme du rang que la valeur propre 0 est de multipliciten− 2.

2.4 Theoreme (Courent Fischer). Soit A une matrice symetrique avec µ1 >µ2 > · · · > µn ses valeurs propres. Alors

µk = maxS⊆Rn

dim(S)=k

minx∈S

xTAx

xTx= min

S⊆Rn

dim(T )=n−k+1

maxx∈T

xTAx

xTx.

Demonstration. Voir [5].

15

Page 17: Spectral graph theory and expander graphsalgo.epfl.ch/_media/en/projects/bachelor_semester/projet.pdfProjet de semestre Spectral graph theory and expander graphs Magda So a Echevarria

Magda Sofia Echevarria Coelho Automne 2012

3 Graphes expandeurs

Un graphe expandeurs est avant tout un graphe tres connecte. Ce type degraphe est tres utile dans divers domaines du a ses multiples proprietes. Nousallons en etudier quelques unes.

3.1 Approximations du graphe complet

On peut definir les expandeurs de diverses manieres. Une d’entre elles est lasuivante.

3.1 Definition (Expandeur). Un graphe expandeur est un graphe d-regulierdont les valeurs propres de la matrice d’adjacence satisfont

|αi| 6 εd, (1)

pour i > 2 et ε petit.

Nous allons voir qu’un graphe qui satisfait cette propriete est une bonne ap-proximation d’un graphe complet ou on dit qu’un grapheH est une ε-approxima-tion d’un graphe G si

(1− ε)H 4 G 4 (1 + ε)H,

ou on dit que G 4 H si pour tout x

xTLHx 6 xTLGx.

On souhaite donc montrer qu’un graphe expandeur est une bonne approximationd’un graphe complet. Soit donc G un graphe satisfaisant la propriete (1). Commeles valeurs propres du Laplacien verifient λi = d−αi, toutes les valeurs propresnon nulles de LG sont entre (1 − ε)d et (1 + ε)d. Ceci signifie que pour toutvecteur orthogonal au vecteur 1 on a

(1− ε)dxTx 6 xTLGx 6 (1 + ε)dxTx.

Regardons maintenant ce qui se passe avec le graphe complet Kn. On sait quetout vecteur x orthogonal au vecteur 1 satisfait

xTLKnx = nxTx.

Ainsi si on pose H = dnKn alors xTLHx = dxTx. Par consequent G est une

ε-approximation de H.

3.2 Le carre d’un graphe

Soit G un graphe. On definit G2 comme etant le graphe dans lequel lessommets u et v sont connectes s’ils sont a distance 2 dans G. On peut donc faireun lien entre les matrices d’adjacence de G et de G2. Soit donc A la matriced’adjacence de G. Alors A2(u, v) est le nombre de chemins de longueur 2 entreu et v dans G, et A2(u, v) est toujours d. Cependant on ne veut pas de boucles,par consequent on definit la matrice de A2 de la maniere suivante :

AG2 = A2G − dIn.

16

Page 18: Spectral graph theory and expander graphsalgo.epfl.ch/_media/en/projects/bachelor_semester/projet.pdfProjet de semestre Spectral graph theory and expander graphs Magda So a Echevarria

Magda Sofia Echevarria Coelho Automne 2012

3.2 Lemme. Soit G un graphe d-regulier avec λ1, · · · , λn les valeurs propresdu Laplacien. Alors G2 est un graphe d(d− 1)-regulier dont les valeurs propresdu Laplacien sont

2dλi − λ2i .

Demonstration. Premierement traitons la plus grande valeur propre du Lapla-cien. Comme A2

G est semi-definie positive, la plus petite valeur propre de AG2

est au moins −d et donc la plus grande valeur propre du Laplacien de G2 estau plus

d(d− 1) + d = d2.

Pour les autres valeurs propre on a donc :

λi est une valeur propre de LG =⇒d− λi est une valeur propre de AG =⇒(d− λi)2 − d est une valeur propre de AG2 =⇒d(d− 1)− (d− λi)2 + d est une valeur propre de LG2 =⇒

etd(d− 1)− (d− λi)2 + d = d2 − (d− λi)2 = 2dλi − λ2i .

3.3 Definition (Graphe des aretes). Soit G = (V,E) un graphe. On peut luiassocier un nouveau graphe H que l’on nome graphe des aretes. Un tel grapheest obtenu en associant un sommet a chaque arete de G et en reliant deuxsommets dans H si et seulement si les aretes correspondantes dans G ont uneextremite en commun.

3.4 Remarque. Soient G un graphe d-regulier sur n sommets et H son graphedes aretes. Comme G a dn/2 aretes, H a dn/2 sommets. On peut indexer lessommets de H par (u, v) ou u et v sont des sommets connectes dans G. Ainsichaque sommet de H est de degre 2(d− 1) : d− 1 aretes pour u et d− 1 pourv. On remarque que si on prend un sommet w ∈ V alors chaque sommet de laforme (w, v) de H avec v ∈ V est connecte (par definition du graphe des aretes).Ainsi H contient une d-clique pour chaque v ∈ V et chacun de ces sommets estcontenu dans 2 cliques.

3.5 Lemme. Soit G un graphe d-regulier et H son graphe des aretes. Alorsle spectre du Laplacien de H a le meme spectre que celui du Laplacien de G,excepte que H a dn/2− n valeurs propres de plus de valeur 2d.

Demonstration. Voir [8].

On souhaite avoir des graphes qui soient les meilleurs expandeurs possibles.Pour cela on definit une quantite qui permet de savoir si un graphe est un bonexpandeur ou non.

3.6 Definition (Rapport spectral). Le rapport spectral d’un graphe est laquantite suivante :

r(G) := min

(λ2d,

2d− λnd

).

17

Page 19: Spectral graph theory and expander graphsalgo.epfl.ch/_media/en/projects/bachelor_semester/projet.pdfProjet de semestre Spectral graph theory and expander graphs Magda So a Echevarria

Magda Sofia Echevarria Coelho Automne 2012

Les graphes avec un grand rapport spectral sont de meilleurs expandeurs. Unε-expandeur a un rapport spectral d’au moins 1− ε.

3.7 Proposition. Soit G un graphe d-regulier pour d > 6 et soit H sont graphedes aretes. Alors

r(H) =λ2(G)

2(d− 1)> r(G)/2.

Demonstration. Comme G est d-regulier, λ2(G) 6 d et λmax(H) = 2d. Donc,λmax(H) = 2d et λ2(H) = λ2(G) 6 d. Par consequent, le terme dans la definitiondu rapport spectral qui correspond a la plus grande valeur propre de H satisfait

2(2d− 2)− λmax(H)

2d− 2=

2(2d− 2)− 2d

2d− 2= 1− 2

d> 2/3,

car d > 6. D’un autre cote on a

λ2(H)

2d− 26

d

2d− 26 3/5.

Par consequent,

min

(λ2(H)

2d− 2,

2(2d− 2)− λmax(H)

2d− 2

)=λ2(H)

2d− 2.

3.3 Approximation du graphe des aretes

On sait maintenant comment approximer les graphes complets : en utilisantdes expandeurs. Comme les graphes des aretes sont des sommes de graphescomplets, etant donne que ce sont des ensembles de cliques, on va les approximerpar des sommes d’expandeurs. Pour ce faire on remplace chaque clique par unexpandeur sur d sommets.

Soit G un graphe d-regulier et soit Z un graphe sur d sommets. On definitle graphe

G©L Z

comme etant le graphe obtenu en remplacant chaque d-clique du graphe desaretes de G par une copie Z.

3.8 Lemme. Soient G un graphe d-regulier, H sont graphe des aretes et Z ungraphe z-regulier ε-expandeur. Alors

r(G©L Z) >1− ε

2r(G).

Demonstration. La preuve est similaire a celle de la proposition 3.7. On a

λ2(G©L Z) > (1− ε)kλ2(G)

d,

etλmax(G©L Z) 6 (1 + ε)2k.

18

Page 20: Spectral graph theory and expander graphsalgo.epfl.ch/_media/en/projects/bachelor_semester/projet.pdfProjet de semestre Spectral graph theory and expander graphs Magda So a Echevarria

Magda Sofia Echevarria Coelho Automne 2012

Donc,

min (λ2(G©L Z), 2(2k)− λmax(G©L Z)) > min ((1− ε)2k) = (1− ε)kλ2(G)

d,

car λ2(G) 6 d. Donc

r(G©L Z) >1

2k(1− ε)kr(G) =

1− ε2

r(G).

3.4 L’entiere construction

On presente maintenant une construction donnee dans le cours de Spielman(voir [8]), qui n’est pas aussi bonne que la construction Zig-Zag que l’on verradans le chapitre suivant, mais qui est plus simple.

En se rappelant que les valeurs propres du carre d’un graphe G sont de laforme 2dλi − λi, on remarque que le rapport spectral de G2 est un peu moinsque 2 fois celui de G. Ainsi G2 est un meilleur expandeur. En se rappelant dese resultat on commence par prendre un graphe Z z-regulier sur d sommets ouon pose

d := (2z(2z − 1))2 − 2z(2z − 1),

tel que soit un ε-expandeur pour un ε petit. Le graphe initial de la constructiondoit etre un petit expandeur d-regulier que l’on pose G0. On pose egalementβ > 0 le rapport spectral de G0 et on suppose que β est petit. Ensuite onconstruit G0©L Z. Le degre de ce graphe est 2z et son rapport spectral est unpeu moins que de β/2. Or on souhaite que le rapport spectral augmente pourque le graphe obtenu soit un meilleur expandeur. Ainsi on met le graphe obtenuau carre. On obtient

(G0©L Z)2

qui est un graphe a peu pres 4z2-regulier et de rapport spectral un peu moinsque β. Mais on veut un rapport spectral un superieur a β. Alors on met anouveau au carre le nouveau graphe obtenu. On pose

G1 =

((G0©L Z)2

)2

.

G1 est alors un graphe a peu pres 16z4-regulier et son rapport spectral est unpeu moins que 2β. On obtient ainsi un meilleur expandeur. De plus, comme G1

est un carre, sa plus grande valeur propre pour le Laplacien est tres proche deson degre. On continue l’iteration en posant :

Gi+1 =

((Gi©L Z)2

)2

.

Pour que cette construction iterative fonctionne il est necessaire que Z soit ungraphe de degre z tel que le nombre de sommets est egal au degre de G ce quiest exactement

(2z(2z − 1))2 − 2z(2z − 1).

19

Page 21: Spectral graph theory and expander graphsalgo.epfl.ch/_media/en/projects/bachelor_semester/projet.pdfProjet de semestre Spectral graph theory and expander graphs Magda So a Echevarria

Magda Sofia Echevarria Coelho Automne 2012

Pour ce qui l’en est du rapport spectral si on suppose que β > 4/5 que lerapport spectral de Gi est egalement plus grand ou egal a 4/5 et que Z est un1/6-expandeur. Alors on a par le lemme 3.8 que

r(Gi©L Z) > (1− ε)(4/5)/2 = 1/3.

Alors Gi©L Z est un 2/3-expandeur. L’analyse des carres de graphes nous ditque Gi+1 est un (2/3)4-expandeur. Donc

r(Gi+1) > 1− (2/3)4 = 65/81 > 4/5.

Ainsi chaque Gi a un rapport spectral d’au moins 4/5 alors que son degreaugmente a chaque fois. On cree ainsi une famille d’expandeurs qui grandi entaille et pour augmenter leur rapport spectral il suffit de prendre leur carrequelques fois.

20

Page 22: Spectral graph theory and expander graphsalgo.epfl.ch/_media/en/projects/bachelor_semester/projet.pdfProjet de semestre Spectral graph theory and expander graphs Magda So a Echevarria

Magda Sofia Echevarria Coelho Automne 2012

4 Le produit ”Zig-Zag”

Dans ce dernier chapitre on va voir une construction de graphes expendeurs.On construit une famille d’expandeurs de facon plus meticuleuse qu’au chapitreprecedent. Dans cette construction, on va non seulement mettre les graphes aucarre mais egalement ajouter le produit tensoriel ainsi que le produit Zig-Zag.Au final on aboutira a une famille de graphes expandeurs qui grandit en taillemais garde un degre fixe.

4.1 Remarque. Dans ce chapitre on pose λ1 6 λ2 6 · · · 6 λn les valeurpropres de la matrice d’adjacence d’un graphe.

4.2 Definition. Un (N,D, λ)-graphe est un graphe D-regulier sur N sommetset dont la deuxieme plus grande valeur propre de la matrice d’adjacence nor-malisee est au plus λ (en valeur absolue).

On definit deux operations semblable a celles du chapitre precedent.

4.3 Definition (Le carre). Si G est un (N,D, λ)-graphe alors G2 est un(N,D2, λ2)-graphe.

4.4 Definition (Le produit ”Zig-Zag”). Soit G1 un (N1, D1, λ1)-graphe etsoit G2 un (D1, D2, λ2)-graphe. On definit alors un nouveau produit de graphenomme le produit Zig-Zag et note G1©z G2. Un tel produit donne un(N1 ·D1, D

22, λ1 + λ2 + λ22)-graphe.

On prend donc un petit et un grand graphe et on produit un graphe quiherite en quelques sortes de la taille du grand graphe et du degre du petit. Oncree ainsi de grands graphe qui ont une borne sur le degre.

4.1 L’iteration

Soit H un (D4, D, 1/5)-graphe qui est le point de depart de notre construc-tion. On definit la suite de graphe de la maniere suivante :

– G1 = H2,– Gi+1 = G2

i©z H.On construit ainsi un famille infinie d’expandeurs.

4.5 Theoreme. Pour chaque i, Gi est un (Ni, D2, 2/5)-graphe avec Ni = D4i.

Cette construction n’est pourtant pas encore aussi efficace que nous le vou-drions. En effet, pour coder le voisinage de Gi il est necessaire d’un tempspolynomial en Ni alors qu’on souhaiterait que ce soit en log(Ni). On va suppo-ser que chaque arete de notre graphe D-regulier est D-coloriable et on attribueune couleur a chacune des aretes qui part d’un sommet. Pour chaque couleuri ∈ [D] et pour chaque sommet v on pose v[i] le voisin de v qui est relie a cedernier par un arete de couleur i. On donne ainsi une definition plus formelledu produit Zig-Zag.

4.6 Definition. Soient G1 un graphe D1-regulier sur [N1] sommets et G2 ungraphe D2-regulier sur [D1] sommets. Alors G1©z G2 est un graphe D2

2-reguliersur [N1]× [D1] sommets definit de la maniere suivante :Pour tout sommet v ∈ [N1], k ∈ [D1], i, j ∈ [D2], l’arete (i, j) relie le sommet(v, k) au sommet (v[k[i]], k[i][j]).

21

Page 23: Spectral graph theory and expander graphsalgo.epfl.ch/_media/en/projects/bachelor_semester/projet.pdfProjet de semestre Spectral graph theory and expander graphs Magda So a Echevarria

Magda Sofia Echevarria Coelho Automne 2012

4.7 Remarque. La taille du petit graphe G2 est le degre du grand graphe G1.Par consequent, un sommet de G1©z G2 a une premiere composante qui est unsommet du grand graphe et une deuxieme composante qui peut etre vue a la foiscomme sommet du petit graphe et comme un indice d’arete du grand graphe.

Voici comment on lie les sommets du graphe obtenu.

1. (v, k)→ (v, k[i]) - Un pas dans le petit graphe allant de k a k[i].

2. (v, k[i])→ (v[k[i]], k[i]) - Un pas dans le grand graphe.

3. (v[k[i]], k[i])→ (v[k[i]], k[i][j]) - Un dernier pas dans le petit graphe allantde k[i] a k[i][j].

4.2 Intuition

On souhaite qu’un pas aleatoire dans notre expandeur augmente l’entropie dela distribution des sommets. Intuitivement on a les deux cas de figure suivants :• Si la distribution de la deuxieme composante k n’est pas tres uniforme

alors le premier pas fonctionne et la distribution deviens plus uniforme.Le deuxieme pas est une simple permutation et le dernier pas est un pasaleatoire sur un graphe regulier, il ne peut donc pas rendre la distributionmoins uniforme.• Si la distribution de la deuxieme composante k est proche de l’uniformite

alors le premier pas engendre une perte d’entropie. Cependant, le deuxiemepas devient a ce moment la un vrai pas aleatoire dans le grand expandeurG2. Ainsi l’entropie de la premiere composante v augmente. Or commele deuxieme pas est une permutation des sommets de G1©z G2 donc sil’entropie augmente sur la deuxieme composante alors elle diminue surla deuxieme. On se retrouve ainsi dans le premier cas de figure et doncle dernier pas qui est un pas aleatoire dans le petit graphe G2 rend ladistribution plus uniforme.

4.3 L’application rotation

Soit G un graphe D-regulier non oriente sur N sommets. On indexe chaquearete partant d’un sommet v ∈ [N ] de 1 a D arbitrairement mais de manierefixe. Alors pour v, w ∈ [N ] and i ∈ [D] on peut dire que w est le i-eme voisinde v. Or lorsqu’on fait un pas on souhaite garder une trace de l’arete parcouruepour aller de v a w. On le formalise de la maniere suivante :

4.8 Definition (L’application rotation). Pour un graphe D-regulier non orienteG l’application rotation RotG : [N ]× [D]→ [N ]× [D] est definie par

RotG(v, i) = (w, j)

si le i-eme voisin de v est w et que v est le j-eme voisin de w.

A partir de maintenant nous verrons tous les graphes comme etant determinepar leur application de rotation. De plus, nous dirons qu’une famille de graphesG est explicite si pour tout G ∈ G, RotG est code en temps poly(logN), ou N estle nombre de sommets de G. C’est-a-dire que les graphes de G sont indexes parcertains parametres et qu’il y a un algorithme qui code efficacement RotG pourtout G ∈ G quand ces parametres sont donnes en input. La notation ”poly()”

22

Page 24: Spectral graph theory and expander graphsalgo.epfl.ch/_media/en/projects/bachelor_semester/projet.pdfProjet de semestre Spectral graph theory and expander graphs Magda So a Echevarria

Magda Sofia Echevarria Coelho Automne 2012

designe une fonction polynomiale dans les variables donnees. Notre construc-tion sera iterative et sera basee sur une suite de compositions d’operations, enconstruisant des nouveaux graphes a partir de graphes donnes. La definitionde ces compositions va nous montrer comment l’application rotation du nou-veau graphe obtenu a chaque nouvelle iteration peut etre codee en utilisant des”oracles acces” pour chaque application rotation des differents graphes. Etantdonne le temps de codage d’un tel calcul ainsi que le nombre d’appels-oraclesqu’il a fallu, il est plus aise de calculer le temps total requis pour une telleconstruction recursive.

4.9 Definition. La matrice d’adjacence normalisee M de G est la matriced’adjacence de G divisee par D. En termes d’application rotation on a :

Mu,v =1

D·∣∣{(i, j) ∈ [D]2 : RotG(u, i) = (v, j)}

∣∣ .4.10 Definition. λ(G) represente la deuxieme plus grande valeur propre de lamatrice d’adjacence normalisee de G. Alors :

λ(G) = maxα⊥1N

|〈α,Mα〉|〈α, α〉

= maxα⊥1N

‖Mα‖‖α‖

.

4.4 Le produit tensoriel

Soit G1 un multigraphe D1-regulier sur [N1] sommets et soit G2 un multi-graphe D2-regulier sur [N2] sommets. On definit le produit tensoriel G1 ⊗ G2

comme etant un multigraphe D1 · D2-regulier sur [N1] × [N2] sommets donnepar

RotG1⊗G2((v, w), (i, j)) = ((v′, w′), (i′, j′)),

ou (v′, i′) = RotG1(v, i) et (w′, j′) = RotG2

(w, j). On definit egalement le pro-duit tensoriel de deux vecteurs. Soient α ∈ RN1 et β ∈ RN2 , alors α⊗β ∈ RN1·N2

est un vecteur dont la (i, j)-eme composante est αi · βj . En ce qui concerne lesmatrices si on prend une matrice N1×N1, A et une matrice N2×N2 alors A⊗Best l’unique matrice N1N2 ×N1N2 qui satisfait l’equation

(A⊗B)(α⊗ β) = (Aα)⊗ (Bβ)

pour tout α, β.

4.11 Proposition. Si G1 est un (N1, D1, λ1)-graphe et G2 un (N2, D2, λ2)-graphe alors G1 ⊗ G2 est un (N1 · N2, D1 · D2,max(λ1, λ2))-graphe. De plus,RotG1⊗G2

est code en temps poly(logN1N2, logD1D2) avec un appel-oracle pourRotG1

et un appel-oracle pour RotG2.

Demonstration. La matrice d’adjacence normalisee de G1 ⊗ G2 est le produittensoriel des matrices d’adjacences normalisees de G1 et G2. La plus grandevaleur propre est 1 · 1 et la deuxieme plus grande valeur propre est soit 1 · λ2soit λ1 · 1.

On donne maintenant une definition du produit Zig-Zag en fonction desapplications rotation :

23

Page 25: Spectral graph theory and expander graphsalgo.epfl.ch/_media/en/projects/bachelor_semester/projet.pdfProjet de semestre Spectral graph theory and expander graphs Magda So a Echevarria

Magda Sofia Echevarria Coelho Automne 2012

4.12 Definition. Soit G1 un graphe D1-regulier sur [N1] sommets avec ap-plication rotation RotG1

et soit G2 un graphe D2-regulier sur [D1] sommetsavec application de rotation RotG2

. Alors G1©z G2 est un graphe D22-regulier

sur [N1]× [N2] sommet dont l’application de rotation est la suivante :

RotG1©z G2

((v, k), (i, j)) :

1. Soit (k′, i′) = RotG2(k, i),

2. Soit (w, l′) = RotG1(v, k′),

3. Soit (l, j′) = RotG2(l′, j),

4. On obtient finalement ((w, l), (j′, i′)).

La caracteristique importante de ce produit est que G1©z G2 est un bonexpandeur si G1 et G2 le sont egalement.

4.13 Theoreme. Soit G1 un (N1, D1, λ1)-graphe et soit G2 un (D1, D2, λ2)-graphe, alors G1©z G2 est un (N1 · D1, D

22, f(λ1, λ2))-graphe ou f(λ1, λ2) 6

λ1 + λ2 + λ22 et f(λ1, λ2) 6 1 si λ1, λ2 6 1. De plus. RotG1©z G2

peut etre

code en temps poly(logN1, logD1, logD2) avec un appel-oracle pour RotG1et

deux appels-oracles pour RotG2.

Avant de prouver ce theoreme on va montrer comment on peut l’utiliser pourconstruire une famille infinie d’expandeurs avec degre constant. On va construireune nouvelle iteration mais en ajoutant le produit tensoriel. Ceci permet dereduire la grandeur de la recursion et ainsi faire executer la construction entemps polylogarithmique.

Soit H un (D8, D, λ)-graphe pour un certain D et un certain λ. Pour toutt > 1, on va definir un (D8t, D2, λt)-graphe Gt. On pose G1 = H2 et G2 =H ⊗H. Pour t > 2, Gt est recursivement definit par :

Gt =

(Gd t−1

2 e⊗Gb t−2

2 c

)2

©z H.

4.14 Theoreme. Pour tout t > 0, Gt est un (D8t, D2, λt)-graphe avec λt =λ+ O(λ2). De plus, RotGt

est code en temps poly(t, logD) avec poly(t) appels-oracles pour RotH .

Demonstration. Une simple induction montre que le nombre de sommets deGt est D8t et qu’il est de degre D2. En ce qui concerne les valeurs propreson pose µk = max{λ1, · · ·λt}. Alors on a que µt 6 max{µt−1, µ2

t−1 + λ + λ2}pour tout t > 2. Apres recursion faite on obtient µt 6 λ + O(λ2) pour toutt. Pour l’efficacite on remarque que le pas de recursion est au plus log2 t etque l’evaluation de l’application de rotation pour Gt requiere 4 evaluations del’application de rotation pour de petits graphes. Donc le nombre total d’appelsa des appels-oracles est au plus 4log2 t = t2.

4.5 Analyse du produit Zig-Zag

On va donner ici une preuve du theoreme 4.13. Rappelons l’intuition derrierele produit Zig-Zag. Nous souhaiterions montrer que pour toute distribution non-uniforme π sur les sommets de G1©z G2, en faisant un pas aleatoire dans le

24

Page 26: Spectral graph theory and expander graphsalgo.epfl.ch/_media/en/projects/bachelor_semester/projet.pdfProjet de semestre Spectral graph theory and expander graphs Magda So a Echevarria

Magda Sofia Echevarria Coelho Automne 2012

graphe G1©z G2 abouti a une distribution plus uniforme. Par l’intuition faite audebut du chapitre on considere deux cas extremes : un premier ou on commencepar une distribution tres peu uniforme et un deuxieme ou la distribution initialeest proche de l’uniformite. On va voir que ces deux cas sont en fait les seuls. Onse restreint donc a ces deux cas en decomposant chaque autre vecteur en unecombinaison lineaire de ces deux.

Demonstration du theoreme 4.13 Soit M la matrice d’adjacence nor-malisee de G1©z G2. D’apres la definition 4.10 on doit montrer que pour toutvecteur α ∈ RN1·D1 orthogonal au vecteur 1 (i.e. α ⊥ 1N1D1

), |〈Mα,α〉| estplus petit que 〈α, α〉 par un facteur f(λ1, λ2). Par intuition, α devrait etreconsidere comme la composante non-uniforme de la distribution de probabiliteπ, i.e. π = uN1D1 + α, ou uN1D1 = 1N1D1)/N1D1

est la distribution uniformesur [N1D1]. On montre donc que π devient plus uniforme apres un pas aleatoiredans G1©z G2.

Pour tout vecteur v ∈ [N1], on definit αv ∈ RD1 par (αv)k = αvk. De plus,

on definit une application lineaire C : RN1·D1 → RD1 par (Cα)v =∑D1

k=1 αvk.Par definition, α =

∑v ev⊗αv, ou ev est le v-eme vecteur de la base standard de

RN1 . Par l’algebre lineaire de base on sait que chaque αv peut etre decompose

de maniere unique en αv = α‖v + α⊥v ou α

‖v est parallele au vecteur 1D1

et α⊥vest orthogonal au vecteur 1D1

. On obtient donc la decomposition suivante :

α =∑v

ev ⊗ αv

=∑v

ev ⊗ α‖v +∑v

evα⊥v

def= α‖ + α⊥.

Cette decomposition correspond au deux cas de notre intuition. α‖ corres-pond a la distribution de probabilite sur les sommets de G1©z G2 tel que ladistribution de probabilite conditionnelle sur l’ensemble des sommets est uni-forme. α⊥ correspond a la distribution telle que la distribution conditionnellesur l’ensemble des sommets n’est pas uniforme. Une autre facon d’associer α‖ anotre intuition est de remarquer que α‖ = Cα⊗ 1D1

/D1. Comme α et α⊥ sontorthogonaux a 1N1D1

, alors α‖ est egalement orthogonal a 1N1D1et donc Cα

est orthogonal a 1N1.

Pour analyser comment M agit sur ces deux vecteurs, on relie M aux deuxmatrice d’adjacence normalisees de G1 et G2, que l’on note A et B respecti-vement. Tout d’abord on decompose M en un produit de trois matrices quicorrespondent au trois pas de la definition des aretes de G1 ⊗ G2. Posons Bla matrice d’adjacence normalisee du graphe sur [N1] × [D1] sommets ou onconnecte les sommets dans chaque ensemble en accord avec les aretes de G2. Best e relation avec B par B = IN1

⊗B, ou IN1est la matrice identite N1 ×N1.

Posons A la matrice de permutation correspondant a RotG1 . Par definition deG1 ⊗ G2 on a M = BAB. On remarque que A et B sont symetriques due aufait que G1 et G2 ne sont pas orientes.

Rappelons que nous voulons borner | 〈Mα,α〉 |/ 〈α, α〉. Par la symetrie de B,

〈Mα,α〉 =⟨BABα, α

⟩=⟨ABα, Bα

⟩. (2)

25

Page 27: Spectral graph theory and expander graphsalgo.epfl.ch/_media/en/projects/bachelor_semester/projet.pdfProjet de semestre Spectral graph theory and expander graphs Magda So a Echevarria

Magda Sofia Echevarria Coelho Automne 2012

Maintenant notons que Bα ‖= α‖, car α‖ = Cα ⊗ 1D1/D1, B = IN1

⊗ B, etB1D1

= 1D1. Ceci correspond au fait que si la distribution conditionnelle dans

chaque ensemble de sommets est uniforme alors faire un pas aleatoire dans G2

ne change rien. D’ou Bα = B(α‖ + α⊥) = α‖ + Bα⊥. En substituant ceci dans(2) on obtient :

〈Mα,α〉 =⟨A(α‖ + Bα⊥), α‖ + Bα⊥

⟩. (3)

On a egalement, en utilisant Cauchy-Schwarz :

| 〈Mα,α〉 | 6⟨Aα‖, α‖

⟩+ 2‖α‖‖ · ‖Bα⊥‖+ ‖Bα⊥‖2. (4)

Maintenant on applique les proprietes d’expansion de G1 et G2 pour bornerchacun de ces termes. On commence par ‖Bα‖‖, qui correspond a l’intuitionque quand la distribution conditionnelle des ensembles de sommets qui ne sontpas uniformes. Ils deviennent plus uniformes lorsque l’on fait un pas aleatoiredans G2.

4.15 Affirmation. ‖Bα⊥‖ 6 λ2‖α⊥‖.

Demonstration.

Bα⊥ = B

(∑v

ev ⊗ α⊥v

)=∑v

ev ⊗Bα⊥v .

Par l’expansion de G2, ‖Bα⊥‖ 6 λ2‖α⊥v ‖ pour tout v. D’ou le resultat.

Ensuite on borne⟨Aα‖, α‖

⟩qui correspond par intuition au cas ou quand

la distribution conditionnelle dans chaque ensemble de sommets est uniforme,le saut entre les ensembles de sommets rend la distribution marginale des en-sembles de sommets plus uniformes par eux-memes.

4.16 Affirmation.⟨Aα‖, α‖

⟩6 λ1 ·

⟨α‖, α‖

⟩.

Demonstration. Pour prouver cette affirmation il est d’abord necessaire de faireun lien entre A et A. Rappelons que quand k est distribue uniformement,RotG1(v, k) donne une paire (w, l) ou w est pris uniformement parmi les voi-sins de v. De maniere similaire, si ev ∈ RN1 est le v-eme vecteur de la basestandard alors Aev donne la distribution uniforme sur les voisins de v. On levoit de maniere similaire dans la formule CA(ev ⊗ 1D1

/D1 = Aev pour tout v.Puisque les ev forment une base cette formule s’etend a tout vecteur β ∈ RN1 :CA(β ⊗ 1D1/D1) = Aβ. En appliquant la formule a α‖ = Cα ⊗ 1D1/D1, on aCA(α‖) = ACα. D’ou :⟨

Aα‖, α‖⟩

=⟨Aα‖, Cα⊗ 1D1

⟩/D1

=⟨CAα‖, Cα

⟩/D1

= 〈ACα,Cα〉 /D1.

26

Page 28: Spectral graph theory and expander graphsalgo.epfl.ch/_media/en/projects/bachelor_semester/projet.pdfProjet de semestre Spectral graph theory and expander graphs Magda So a Echevarria

Magda Sofia Echevarria Coelho Automne 2012

Sachant que Cα est orthogonal a 1D1, on peut appliquer l’expansion de G1 pour

obtenir : ⟨Aα‖, α‖

⟩= λ1 · 〈Cα,Cα〉 /D1

= λ1 · 〈Cα⊗ 1D1 , Cα⊗ 1D1〉 /D21

= α1 ·⟨α‖, α‖

⟩.

En substituant les bornes des affirmations 4.15 et 4.16 dans (4) on a :

| 〈Mα,α〉 | 6 λ1 · ‖α‖‖2 + 2λ2 · ‖α‖‖ · ‖α⊥‖+ λ22 · ‖α⊥‖2. (5)

Si on pose p = ‖α‖‖/‖α‖ et q = ‖α⊥‖/‖α‖, alors p2 + q2 = 1, et l’expressionci-dessus deviens :

| 〈Mα,α〉 |〈α, α〉

6 λ1 · p2 + 2λ2 · pq + λ22 · q2 6 λ1 + λ2 + λ22.

Ceci montre que l’on peut prendre f(λ1, λ2) 6 λ1+λ2+λ22. Il reste a montrerque si λ1, λ2 < 1 alors f(λ1, λ2) < 1. On considere les deux cas suivants :

1. Si ‖α⊥‖ 6 1−λ1

3λ2· ‖α‖ alors on a

| 〈Mα,α〉 | 6 λ1 · ‖α‖2 + 2λ2 ·1− λ1

3λ2· ‖α‖2 + λ22 ·

(1− λ1

3λ2

)2

‖α‖2

<

(1− 1− λ1

9

)‖α‖2.

2. Si ‖α⊥‖ > 1−λ1

3λ2· ‖α‖ on a, en utilisant le fait que Bα⊥ est orthogonal a

α‖ (en effet 〈Bα⊥, α‖〉 = 〈α⊥, Bα‖〉 = 〈α⊥, α‖〉 = 0) :

| 〈Mα,α〉 | =∣∣∣⟨A(α‖ + Bα⊥), α‖ + Bα⊥

⟩∣∣∣6 ‖α‖ + Bα⊥‖2 = ‖α‖‖2 + ‖Bα⊥‖2 6 ‖α‖2 − ‖α⊥‖2 + λ22 · ‖α⊥‖2

6 ‖α‖2 − (1− λ22) ·(

1− λ13λ2

)· ‖α‖2.

On obtient donc finalement

f(λ1, λ2) 6 1−min

{1− λ1

9,

(1− λ1)2 · (1− λ229λ22

}< 1.

27

Page 29: Spectral graph theory and expander graphsalgo.epfl.ch/_media/en/projects/bachelor_semester/projet.pdfProjet de semestre Spectral graph theory and expander graphs Magda So a Echevarria

Magda Sofia Echevarria Coelho Automne 2012

5 Conclusion

Ce projet nous donne donc un apercu de l’utilite du spectre d’un graphe.De plus, on a vu comment creer une famille de graphes expandeurs qui granditen taille et en qualite, c’est-a-dire que le rapport spectral augmente et donnedonc lieu a de meilleur expandeurs, tout en gardant un degre constant. Cetype de graphes a beaucoup de proprietes tres utiles. La motivation initialede la construction de tels graphes fut de construire des reseaux robustes. Ilson cependant pleins d’autres utilites. On les retrouvent par exemple dans lestaux de convergence des chaınes de Markov et dans l’etude des algorithmes deMonte-Carlo. Par ailleurs, ils jouent un role dans le probleme isoperimetrique.On les utilise egalement en informatique pour construire des familles de codescorrecteurs d’erreur.

28

Page 30: Spectral graph theory and expander graphsalgo.epfl.ch/_media/en/projects/bachelor_semester/projet.pdfProjet de semestre Spectral graph theory and expander graphs Magda So a Echevarria

Magda Sofia Echevarria Coelho Automne 2012

References

[1] Daniel A. Spielman : The Adjacency Matrix and the n Eigenvalue. Spectralgraph theory, http ://www.cs.yale.edu/homes/spielman/561/lect03-12.pdf,2012.

[2] Avi Wigderson Omer Reingold, Salil Vadhan. Entropy waves, the zig-zaggraph product, and new constant-degree expanders. In Annals of Mathema-tics, volume 155 of Second Series, pages pp. 157–187. Annals of Mathematics,november 2002.

[3] Daniel A. Spielman. Spectral graph theory : Properties of expanders,http ://www.cs.yale.edu/homes/spielman/561/2009/lect10-09.pdf, 2009.

[4] Daniel A. Spielman. Spectral graph theory : Algebric constructions ofgraphs, http ://www.cs.yale.edu/homes/spielman/561/lect15-12.pdf, 2012.

[5] Daniel A. Spielman. Spectral graph theory : Bounding eigenvalues,http ://www.cs.yale.edu/homes/spielman/561/lect04-12.pdf, 2012.

[6] Daniel A. Spielman. Spectral graph theory : Introduction,http ://www.cs.yale.edu/homes/spielman/561/lect01-12.pdf, 2012.

[7] Daniel A. Spielman. Spectral graph theory : The laplacien,http ://www.cs.yale.edu/homes/spielman/561/lect02-12.pdf, 2012.

[8] Daniel A. Spielman. Spectral graph theory : The simplest construction of ex-panders, http ://www.cs.yale.edu/homes/spielman/561/lect16-12.pdf, 2012.

29