Modelowanie Agentowe Układów Złożonych

Wstęp

Katarzyna Sznajd-Weron

Aperitif (2006)

• Physicists pretend not only to know everything, but also to know everything better.

• This applies in particular to computational statistical physicists like US.

D. Stauffer, doktorat honoris causa

Uniwersytet de Liege, 30.03.2006

Po co tu jesteśmy?

• Maciek Bieniek – „żeby napisać kilka prac”

• A po co Ty tu jesteś?

• Wiem co odpowie kilka osób …

• Jakie mamy możliwości:

– Praca naukowa zakończona publikacją (grupy 2-4)

– Wizualizacja modelu (w NetLogo)

– Jakieś inne pomysły?

Co to jest model agentowy?

• Model mikroskopowy

• Bottom – up

• Agenci (jednostki)

– Ludzie, zwierzęta, rośliny, cząstki, …

– Organizacje, społeczności, populacje, gatunki, …

– Jednego typu lub więcej (np. ludzie i organizacje)

– Każdy agent ma pewne cechy

• Oddziaływania

• Środowisko (przestrzeń)

• „Do 2002 ludzie nie zajmowali się na poważnie ABM” – Dlaczego? A. Borshchev, AnyLogic

• Od 19 lat w naukach społecznych wg. F. Squazzoni, History of Economic Ideas, xviii/2010/2

• Wg. Web of Science

Kiedy się pojawiły?

Źródło: M. Niazi, A. Hussain, Agent-based computing from multi-agent systems

to agent-based models: a visual survey, Scientometrics (2011) 89:479–499

19931991

Co to jest układ złożony?

• Składa się z wielu elementów oddziałujących ze sobą

• „Nieliniowe oddziaływanie”: 2 + 2 ≠ 4

• Całość to coś więcej niż suma jego części

• Typowe:

– Emergencja

– Samoorganizacja

– Brak równowagi

– Sprzężenia zwrotne

– Prawa potęgowe

Budowla termitów Płatki śniegu

More Is Different

• 1977 nagroda Nobla z fizyki prace nad nieuporządkowanymi układami magnetycznymi

• P. W. Anderson, More Is Different,Science, New Series 177 (Aug. 4, 1972), pp. 393-396

• Przejścia fazowe – więcej to coś innego!!!

– Teoria wielkiego wybuchu (cząstki elementarne, kosmologia)

– Zastosowania interdyscyplinarne: ewolucja biologiczna, genetyka, lingwistyka, epidemiologia, …

Przykład: Segregacja rasowa

Przykład: Model Schellinga (1971)

• Agenci mogą być tylko dwóch typów i początkowo rozmieszczeni są losowo na sieci

• Agent jest nieszczęśliwy jeżeli ma w otoczeniu zbyt wielu obcych (>T)

• W każdym kroku symulacji jeden nieszczęśliwy, losowo wybrany agent jest przesuwany do losowo wybranej wolnej komórki w sąsiedztwie

Schelling, T.C. Dynamic Models of Segregation,

Journal of Math. Sociology 1: 143-186 (1971)

Przykład: Model Schellinga (1971)

Czego się spodziewacie?Zajrzyjcie na https://ccl.northwestern.edu/netlogo/Models Library: Social Science: Segregation

Jaka nauka płynie z tego modelu?

• Model segregacji ze względu na pewną cechę (rasa, płeć, wiek, styl życia, pozycja, zamożność)

• Nikt nie preferuje ścisłej segregacji

• Ostra segregacja mimo „łagodnych” preferencji

• Mikro motywy i makro zachowanie

Przejście pomiędzy mikro a makro

© Marcin Weron

Temperatura Curie – ciągłe przejście fazowe

• Przejście fazowe

• Ferromagnetyk 𝑇 ≤ 𝑇𝑐• Paramagnetyk 𝑇 > 𝑇𝑐• Jak to zrozumieć?

© Katarzyna Sznajd-Weron

magnes

ferromagnetyk

Model Isinga (Lenza-Isinga?)

• 1925 rozprawa doktorska Ernsta Isinga

• Brak przejścia fazowego w 1D

• Jedyna praca Isinga

• Przejście fazowe w 2D (lata czterdzieste)

• Skala mikro tłumaczy zachowania makro

𝐻 = −𝐽

<𝑖,𝑗>

𝐿

𝑆𝑖𝑆𝑗1𝐷𝐻 = −𝐽

𝑖=1

𝐿

𝑆𝑖𝑆𝑖+1

Skąd taki Hamiltonian?

Każdy układ dąży do minimalizacji energii

LÓD WODA LÓD WODA LÓD WODA

Lód i woda w równowadze Przechłodzona woda

Skąd taki Hamiltonian?

𝐻 = −𝐽

𝑖=1

𝐿

𝑆𝑖𝑆𝑖+1

𝐻 = −𝐽

𝑖=1

𝐿

𝑆𝑖𝑆𝑖+1 = −𝐽

𝑖=1

𝐿

1 = −𝐽𝑁

𝐻 = −𝐽

𝑖=1

𝐿

𝑆𝑖𝑆𝑖+1 = −𝐽 3 ∙ 1 + 4 ∙ (−1)

Każdy układ dąży do minimalizacji energii

Oddziaływania pomiędzy cząstkami

Ferromagnetyk (konformizm)

Antyferromagnetyk (antykonformizm)

• Wpływ (siła oddziaływania) wzrasta wraz

– Ze zgodnością grupy

– Z rozmiarem grupy

• Wysoka temperatura –„nerwowo”© Piotr Nyczka

Czego się spodziewacie?

Czego się spodziewacie?Zajrzyjcie na https://ccl.northwestern.edu/netlogo/Models Library: Chemistry & Physics: Ising

NetLogo (środowisko do ABM)Prof. Uri WilenskyNorthwestern's Center for Connected Learning and Computer-Based Modeling (CCL)

Ewolucja układu w czasie (ferromagnetyk)

niska temperatura

• Oddziaływanie – porządkuje

• Temperatura – losowe zmiany

– W niskich temperaturach porządek

– W wysokich temperaturach nieporządek

𝑚 =< 𝑆𝑖 >=1

𝑁

𝑖=1

𝑁

𝑆𝑖

Dalsze losy modelu Isinga

• Przejście fazowe w 2D bez pola

– Onsager, lata czterdzieste

• Symulacje Komputerowe – model Isinga w 3D i 2D z polem

• Wykorzystanie poza fizyką

Symulacja Monte Carlo Modelu Isinga

• Przygotuj stan początkowy układu

• Pozwól mu ewoluować

• Poczekaj aż ustali się magnetyzacja

• Zanotuj wartość 𝑚

• Powtarzaj to „dużo” razy

• Policz średnią magnetyzację

• Jaka to średnia?

𝑚 =< 𝑆𝑖 >=1

𝑁

𝑖=1

𝑁

𝑆𝑖

Średnia po czasie

Śred

nia

po

zes

po

le

Średnia po czasie i średnia po zespole

Układ ergodyczny to średnia po zespole = średnia po czasie

Algorytm Metropolisa – 1MCS = N losowań

• Wylosuj jeden spin 𝑆𝑖

• Oblicz energię E = 𝐸(𝑆𝑖) = −𝑆𝑖𝐽 𝑗∈𝑛𝑛 𝑆𝑗

• Oblicz energię E′ = 𝐸(−𝑆𝑖) = 𝑆𝑖𝐽 𝑗∈𝑛𝑛 𝑆𝑗

• Oblicz zmianę energii ΔE = E′ − E

• Jeżeli ΔE ≤ 0 to 𝑆𝑖 → −𝑆𝑖• Jeżeli ΔE > 0 to wylosuj 𝑟 z przedziału [0,1] i akceptuj

nową konfigurację jeżeli:

𝑟 < 𝑝 = 𝑒𝑥𝑝 −Δ𝐸

𝑘𝐵𝑇, 𝑘𝐵 = 𝐽 = 1

Przejście fazowe w modelu Isinga

Po co model w fizyce?

EksperymentModel

nieznane zjawisko

Konstrukcja

Weryfikacja

?

© Marcin Weron

Spojrzenie fizyka na rzeczywistość

Wszystko powinno być tak proste, jak to tylko możliwe, ale nie prostsze

Po co nam uproszczenia?

Oryginalny obraz 𝑅, 𝐺, 𝐵 ∈ [0,255]

Zdjęto kolor –jedna zmienna o 256 wartościach

Coraz mniejsza liczba odcieni szarości, ostatecznie 2

Przykład z rozprawy doktorskiej Piotra Nyczki:

• Łatwiejsza analiza – może nawet analityczna• Większa kontrola (zrozumienie)• Możliwość zupełnej analizy wrażliwości na zmianę parametrów(uwaga na przejścia fazowe!)

„More can be worse” - dyfuzja cząstek leków przez błony komórkowe

• Bardzo prosty model T. Rezai et all., J Am Chem Soc. 128(8): 2510-1 (2006)

– Podstawowe założenie: tylko jedna konformacja cząstki zarówno w wodzie jak i membranie

– Rzeczywistość: typowe cząstki organiczne mają tysiące konformacji

• Policz konformacje!R. V. Swift, R. E. Amaro, J Comput Aided Mol Des. 25(11): 1007-17 (2011)

• Gorsza prognostykaPrzykładowe cząsteczki leku Ventolin (astma, choroby płuc), http://www.lpdlabservices.co.uk

„More can be worse” - modele klimatu

• Coraz bardziej realistyczne

• Jednocześnie coraz mniej dokładne – w jakim sensie?

• Mniej użyteczne prognostycznie

M. Maslin and P. Austin, „Uncertainty: Climate models at their limit?”, Nature486, 183–184 (2012)

• Nie zawsze model bardziej skomplikowany jest gorszy!

• Zacznij od prostego modelu

Jak weryfikować modele?

• Co to znaczy zweryfikować?

• Eksperyment – przywilej fizyki?

• Obserwacja – jak to robić?

Jeden wzór może nie wystarczyć!

• Podstawowe cechy modeli Boidów:

– Starają się unikać zderzeń

– Dopasowują prędkość do sąsiadujących osobników

– Starają się trzymać blisko sąsiadów

𝑝 = 00 wszystkie w

tym samym kierunku

𝑝 = 900– w losowych

W rzeczywistości 𝑝 ∈

100,200

obserwowany NND<1

długości ryby

Odporność na detale

• W modelach 1-9 wpływ od uśrednionego sąsiedztwa, a w 10-11 wpływ od jednego

• 9 modeli z regułą większościową dało prawie identyczne wyniki

• Pozostałe różnice okazały się nieistotne

• Odkrywamy najważniejszy mechanizm!

Czy ABM może zastąpić eksperyment społeczny?

• ABM powinno być uzupełnieniem

• ABM może pomóc zrozumieć „Dlaczego”

• ABM może pomóc odkryć najważniejsze czynniki

• Jeżeli nie możemy zrobić eksperymentu to …

• ABM odpowiada na

„Co by było gdyby …”

Przypadek jako narzędzie budowania modeli

• Miesięczny zapis gry w ruletkę w Monte Carlo może dostarczyć nam podstaw do dyskutowania fundamentów nauki

Karl Pearson (1857-1936)

• Metoda Monte Carlo

• ABM ≠Metoda Monte Carlo

Liczby losowe

• Tippett (1927) – Random Sampling Numbers

– Pierwsza tablica liczb losowych

– 41 600 cyfr ułożonych w zestawach po 4

– Dane o powierzchni parafii z brytyjskiego spisu powszechnego (odrzucone 2 pierwsze i 2 ostatnie cyfry)

Jak inaczej otrzymać liczby losowe? Czy coś zwraca waszą uwagę?

36

Albo …

• Idź do szpitala po zapis kolejnych urodzeń chłopców i dziewczynek: CDDDCCD

• Przetasuj liczby (Tablica liczb przetasowanych czterocyfrowych Hugo Steinhausa wydana w 1954)

37

Generatory liczb pseudolosowych (PRNG)

• PRNG generuje deterministycznie ciąg bitów, który pod pewnymi względami jest nieodróżnialny od ciągu uzyskanego z prawdziwie losowego źródła.

• Algorytm liniowy (liczby o rozkładzie jednostajnym):

• a,b,c – liczby magiczne, np:

cbaxx nn mod1

12,0,7 315 cba

Cechy dobrego generatora do MC

• Długi okres powtarzalności

• Losowość – brak korelacji, równomierność (specjalne testy)

• Szybki

Generator Mersenne Twister (http://www.math.sci.hiroshima-u.ac.jp/~m-mat/MT/emt.html)

• Makoto Matsumoto i Takuji Nishimura,1997

– Nadaje się do Symulacji Monte Carlo, ale nie do kryptografii

• Zalety MT19937 Mersenne Twistera:

– Okres 219937 − 1 (udowodnione)

– Wysoki stopień równomiernego rozmieszczenia

– Spełnia większość testów losowości

– Szybki

Metoda Monte Carlo

Metoda Monte Carlo (MC) jest techniką rozwiązania problemów, która polega na generowaniu zmiennych losowych w celu oszacowania parametrów ich rozkładu

John von Neumann

Idea metody Monte Carlo

• Jaka jest szansa ułożenia pasjansa?

• Ciężko to policzyć analitycznie bo wygrana zależy od wielu ruchów

• A gdyby tak parę razy spróbować ułożyć pasjansa i zobaczyć ile razy się to uda

?

Przegrana

Przegrana

Wygrana

Przegrana

Szansa ułożenia to ¼ !

Ręczne Monte Carlo

• Pierwsze udokumentowane doświadczenie wykonał w XVIII w. uczony i pisarz francuski Buffon

hr. Georges-Louis Leclerc Buffon (1707-1788)

• Wykonał 4040 rzutów monetą !• Otrzymał średnią wartość 0,5069

(orzeł = 1, reszka = 0)• W XX w. eksperyment powtórzył

rosyjski statystyk Romanowski• Wykonał 80640 rzutów monetą !!!• Otrzymał średnią wartość 0,4923

Prawdopodobieństwo jako długo-terminowa względna częstość

Igła Buffona a liczba

• Na kartkę papieru pokrytą liniami równoległymi oddalonymi od siebie o odległość d rzucamy losowo igłę o długości l < d

• Zliczamy ile razy przetnie ona linie siatki (liczba m) w n rzutach

• Można pokazać, że prawdopodobieństwo tego, że igła przetnie linię wynosi:

45

d

l

n

m

2

Igła Buffona – sformułowanie problemu

Igła Buffona - rozwiązanie

Igła Buffona – eksperymentalne wyznaczenie

Jak dobre jest to oszacowanie?

• W 1864, kapitan O. C. Fox wykonał ten eksperyment gdy nudził się podczas rekonwalescencji

n m l d Powierzchnia

500 236 3 4 nieruchoma 3.1780

530 253 3 4 obracająca się 3.1423

590 939 5 2 obracająca się 3.1416

Sprawdźmy to sami ( = 3,14159)

Współczesna historia metody Monte Carlo

• Stanisław Ulam w trakcie ... rekonwalescencji układa pasjanse Canfield

• Nicolas Metropolis nadaje nazwę nowej metodzie – „Monte Carlo” (od kasyna)

• 1949r. – pierwsza publikacja na temat metody Monte Carlo napisana przez Ulamai Metropolisa

Matematyczne podstawy MC

• a - poszukiwana wielkość (np. magnetyzacja)

• a=EX wartość oczekiwana pewnej zmiennej losowej X.

• Jeżeli jesteśmy w stanie generować niezależne wartości S1,S2,... z rozkładu zmiennej X, to

• Prawo wielkich liczb:

aSSSn

nn

...1

lim 21

Istota Monte Carlo

• Metoda Monte Carlo polega na szacowaniu wielkości a przez średnią z pewnej odpowiednio dobranej n elementowej próby.

• Co to znaczy odpowiednio dobranej?

• Generowana z rozkładu zmiennej X (a=EX)

22 EXXEVarX

pxEXWx

ii

i

Zastosowania metody MC

• Szacowanie pól figur

• Obliczanie układów równań liniowych

• Obliczanie równań różniczkowych cząstkowych

• Obliczanie całek

• Interpolacja funkcji wielu zmiennych

• Prognozy pogody

• Wycena instrumentów pochodnych

• Modele mikroskopowe

Szacowanie pól figur

(c) 2009 K&R Weron 55

Literatura

• D. W. Heermann, Podstawy symulacji komputerowych w fizyce, WNT 1997

• D. P. Landau, K. Binder, A Guide to Monte Carlo Simulations in Statistical Physics, Cambridge University Press 2005

Do zobaczenia w Monte Carlo