Resilient Software Design Patterns...Java Message Service nur Java Komplexe Objekte Queues und...

Orientation in Objects GmbH

Weinheimer Str. 68

68309 Mannheim

www.oio.de

info@oio.deVersion:

Resilient Software Design Patterns

Resilient Software Design Patterns© Orientation in Objects GmbH

Ihr Sprecher

Thorsten Maier

Trainer, Berater, Entwickler

SchwerpunkteArchitektur

ProzesseQualitätssicherung

Resilient Software Design Patterns© Orientation in Objects GmbH 3

Resilient Software?

Widerstandsfähig gegen Fehler

Warum?

… weil jeder Ausfall viel Geld kostet

und viele User verärgert

Warum?

… weil jeder Ausfall viel Geld kostet

und viele User verärgert

Was ist daran neu?

…mehr User…mehr Daten

…schnellere Anpassungen

𝑉𝑒𝑟𝑓ü𝑔𝑏𝑎𝑟𝑘𝑒𝑖𝑡 =M𝑇𝑇𝐹

M𝑇𝑇𝐹 + M𝑇𝑇R

MTTF = Mean Time To FailureMTTR = Mean Time To Recovery

Verfügbarkeit Betriebszeit (h)Maximale erlaubte

Ausfallzeit (h)Maximale erlaubte

Ausfallzeit (min)

99 % 8672,4 87,6 525699,5 % 8716,2 43,8 262899,9 % 8751,24 8,76 525,6

99,99 % 8759,124 0,876 52,56100 % 8760 0 0

99% =8672,4h

8672,4h + 87,6h

Traditioneller Stabilisierungsansatz

Der „resilient“ Ansatz

2 Millionen Google-Server

Unrealistische Annahme

MTTF = 30 Jahre

~ alle 8 Minuten fällt ein Server aus

Typical first year for a new cluster (~2400 server)

~0.5 overheating (power down most machines in <5 mins)

~1 PDU failure (~500-1000 machines suddenly disappear)

~1 rack-move (~500-1000 machines powered down)

~1 network rewiring (rolling ~5% of machines down over 2-day span)

~20 rack failures (40-80 machines instantly disappear)

~8 network maintenances (4 might cause ~30-minute random connectivity losses)

~3 router failures (have to immediately pull traffic for an hour)

~1000 individual machine failures

http://www.odbms.org/download/dean-keynote-ladis2009.pdf

Things will crash.

Deal with it!

Resilient Software Design

Wie machen wir eine Software „resilient“?

Redundanz

Isolation

Redundanz

Isolation

Lose Kopplung

Redundanz

Isolation

Lose Kopplung

Fallback

Redundanz

Isolation

Lose Kopplung

Fallback

ISOLATION

BULKHEADS

Bulkheads im Kleinen:

Methodenaufrufe

Mögliche Probleme?

public int fakultaet(int n) {return (n == 0) ? 1 : n * fakultaet(n - 1);

Schon besser…

public int fakultaet(int n) {if (n < 0) {

throw new IllegalArgumentException("n zu klein");}return (n == 0) ? 1 : n * fakultaet(n - 1);

public int fakultaet(int n) {if (n < 0) {

throw new IllegalArgumentException("n zu klein");}if (n > 12) {

throw new IllegalArgumentException("n zu groß");}return (n == 0) ? 1 : n * fakultaet(n - 1);

20 % 10 = 0

Zahl Verdoppeln SummierenLU

Validierung der AufrufparameterDatentypen korrekt?

Wertebereiche eingehalten?

Vorbedingungen erfüllt?

!= null

Kreditkartennummer valide

„Freundliche“ RückgabewerteNiemals „null“ zurückliefern

Datenmengen beschränken

Bulkheads im Großen:

Software-Bausteine

3 Bausteine

Anwendung mit 3 Bausteinen

Deployment auf einem Server

Baustein wird 4 mal benötigt

Nachteile

wird nur 2 mal benötigt

Änderung an erfordert Reploy von

Unabhängige ArtefakteAnwendung mit 3 Bausteinen

Unabhängige Artefakte

Flexible Skalierung auf 3 Server

Unabhängige ArtefakteVorteile

Isolierte Entwicklung

Isolierte Fehler

Isoliertes Deployment

Unabhängige ArtefakteNachteil

Kommunikation über

Prozess- und Netzwerkgrenzen

Verteilte Datenverarbeitung

8 Irrtümer der verteilten Datenverarbeitung

Netzwerk ist ausfallsicher

Latenzzeit = 0

Datendurchsatz ∞

Netzwerk ist sicher

Netzwerktopologie ist stabil

1 Netzwerkadministrator

Kosten des Datentransports = 0

Netzwerk ist homogen

Bill Joy, Tom Lyon, L Peter Deutsch und James Gosling

In Kürze:

Zuverlässigkeit und Konsistenzexistieren nicht mehr

Verhalten und Standorte der Komponenten unseres Systems

verändern sich ständig

Komponenten liefern unzuverlässige Daten oder

verschwinden völlig

Ok, wir brauchen ISOLATION

Aber wie kommen die Teile wieder zusammen?

LOSE KOPPLUNG

asynchron synchron

Asynchrone KommunikationEntkoppelt Sender und Empfänger

Verhindert Fehlerketten

Sender muss nicht warten

Barista

Kunde BecherwarteschlangeKassierer

Ausgabe

http://www.enterpriseintegrationpatterns.com/ramblings/18_starbucks.html

„Starbucks Does Not Use Two-Phase Commit”

Weiche zeitliche Anforderungen

Strict Consistency

Eventual Consistency (engl. „letztendlich“ nicht „eventuell“)

türschloss = geschlossen

letzte_reise = 523km

EmpfängerSender

tuerschloss=offentoggleTuerschloss()

Nicht idempotent

Exactly Once-Kommunikation

notwendig

EmpfängerSender

Idempotent!

At Least Once-Kommunikation

möglich

schliesseTuerschloss() tuerschloss=offen

Listener

TopicNachricht wird an alle Listener zugestellt

Falls kein „Interessent“ aktiv ist, wird die Nachricht u.U. nicht verarbeitet

Sender Topic

Listener

Listener 26°C

26°C26°C

Listener

QueueNachricht wird an einen Listener zugestellt

Es kann sichergestellt werden, dass eine Nachricht genau einmal verarbeitet wird

Sender Queue

Listener

26°C26°C

Java Message Servicenur Java

Komplexe ObjekteQueues und Topics

Verteilte Transaktionen

Barista

Kassierer coffeeOrderQueue

JmsTemplate jmsTemplate = context.getBean(JmsTemplate.class);jmsTemplate.convertAndSend("coffeeOrderQueue", new CoffeeOrder("Thorsten", "Cappuccino"));

@Componentpublic class Barista {

@JmsListener(destination = "coffeeOrderQueue")public void receiveMessage(CoffeeOrder coffeeOrder) {System.out.println("Received <" + coffeeOrder + ">");

Advanced Message Queuing ProtocolViele Sprachen

Komplexe ObjekteQueues und Topics

Verteilte Transaktionen

Message Queuing Telemetry TransportViele Sprachen

Nur Byte StreamsNur Topics

Für „dünne Leitungen“ und Geräte mit „Batterie“

QoS 0: At most onceQoS 1: At least onceQoS 2: Exactly once

Und welchen Broker?

LOSE KOPPLUNG

asynchron synchron

Mit wem kann / soll ich kommunizieren?

nicht erreichbar

Startetgerade

nicht erreichbar

Startetgerade

Als Architekt lassen sich alle Probleme mit

„Boxes and Lines“ lösen☺

Verzeichnis-dienst

1. registrieren

2. Dienst finden

3. Dienst nutzen

z.B.:Netflix EurekaApache ZooKeeperCloud Foundry DiscoveryHashicorp Consul…

Verzeichnis-dienst

1. registrieren

2. Dienst finden

3. Dienst nutzen

Als Entwickler brauchen wir etwas mehr

Eureka

1. registrieren

2. Dienst finden

3. Dienst nutzen

@SpringBootApplication@EnableEurekaServerpublic class Application {

public static void main(String[] args) {// ...

Eureka

1. registrieren

2. Dienst finden

3. Dienst nutzen

@SpringBootApplication@EnableEurekaServerpublic class Application {

public static void main(String[] args) {// ...

Eureka

Eureka?

Weitere

Instanz

AlgorithmenSimple Round Robin

Zone Aware Round RobinRandom

Weighted Response Time

Resiliente Lösung:

Clientseitiges

Load-Balancing

@RibbonClient(name = "blauerService")@RestControllerpublic class Application {

@LoadBalanced@BeanRestTemplate restTemplate() {

return new RestTemplate();}

@RequestMapping("/")public String serviceCall() {

return restTemplate().getForObject("http://blauerService/", String.class);}

Resiliente Lösung:

Clientseitiges

Load-Balancing

Security?

Security!

„Soll ich mich etwa 2x einloggen?“

„Meine Session wird geteilt ☺“

ExternalSession Store

Netter Nebeneffekt:

Anwendung wird zustandslos!

ExternalSession Store

@EnableRedisHttpSessionpublic class SpringSessionConfig {

@Beanpublic JedisConnectionFactory connectionFactory() {

return new JedisConnectionFactory();}

Problem:

Doppelte Implementierung

API Gateway

Security

…/blauerKreis/orders…/gruenerStern/customers

@EnableZuulProxy@EnableDiscoveryClient@SpringBootApplicationpublic class ZuulProxy {public static void main(String[] args) {SpringApplication.run(ZuulProxy.class, args);

ExternalSession Store Security

FALLBACK

Verzeichnis-dienst

1. registrieren

2. Dienst finden

3. Dienst nutzen

zur Erinnerung

Instanz fällt kurzNACH der Auswahl aus

Circuit Breaker

errorCount = 3

Hystrix

@HystrixCommand(fallbackMethod = "fallback")public String readString() {return remoteServiceCall();

public String fallback() {return "Fallback result";

Eureka

registrieren

Alternativefinden

Hystrix

API Gateway

Security

…/blauerKreis/orders…/gruenerStern/customers

ZENTRALE DIENSTE

db.url=green.dbserver.de

db.url=blue.dbserver.de

db.url=yellow.dbserver.de

db.url=green.dbserver.de

Wo liegt unsere Konfiguration?

CentralConfiguration

Spring CloudConfig

@SpringBootApplication@EnableConfigServerpublic class ConfigServerApplication {

public static void main(String[] args) {SpringApplication.run(ConfigServerApplication.class, args);

Spring CloudConfig

@SpringBootApplication@EnableConfigServerpublic class ConfigServerApplication {

public static void main(String[] args) {SpringApplication.run(ConfigServerApplication.class, args);

@Value("${db.url}")private String url;

Resilient Software Design

Patterns?!

Circuit Breaker

Bulkheads

Discovery Service

Location Transparency

Stateless

Microservice

External Session Store

Parameter Checking

Eventual Consistency

Async Communication

Exactly Once- und At Least Once-Kommunikation

Idempotenz

API Gateway

Central Configuration

Weinheimer Str. 68

68309 Mannheim

www.oio.de

info@oio.de

?Fragen ?

Weinheimer Str. 68

68309 Mannheim

www.oio.de

info@oio.de

Vielen Dank für Ihre

Aufmerksamkeit!

Resilient Software Design Patterns...Java Message Service nur Java Komplexe Objekte Queues und...

Documents

Transcript of Resilient Software Design Patterns...Java Message Service nur Java Komplexe Objekte Queues und...

Masterstudiengang Business & Economics Modul 7 · PDF file• Die praktische Bedeutung der Entscheidung für M&A-Transaktionen ist unter mehreren Aspekten gegeben:

PwC-Studie: Erneuerbare Energien - grosse Transaktionen / "Renewables Deals: 2012 outlook and 2011 review"

SAP Transaktionen MM

NoSQL-Datenbanken · • ElasticSearch 5. Record Stores & RDBMS in der Cloud • BigTable/HBase, Cassandra • Megastore • H-Store/VoltDB • Synchronisation • Transaktionen 6.

Java Training Institute| Java Tutorial| Java Opening in Bangalore| Java Jobs| Java Training Centre| Java Course| Campus Drive for fresher| Walkin Interview for Fresher| Java Corporate

Sun Java TrainingsSun Java Trainings Certifications · Sun Java TrainingsSun Java Trainings & Certifications ... Sun Java TrainingsSun Java Trainings & Certifications. ... SL‐314,

Verteilte Transaktionen in Java beherrschenalt.java-forum-stuttgart.de/jfs/2010/folien/A2.pdf · 18/05/1997 · z.B. ORA-01591: lock held by in-doubt distributed transaction identifier

Counting on the Environment - World Bankdocuments.worldbank.org/curated/en/... · Counting on the Environment — Forest Incomes and the Rural Poor. B. OXES. 4.1 Establishment of

Entwicklung eines Transaktions-Frameworks für mobile Web ...ubicomp/... · aktionen, Langlebige Transaktionen Kurzzusammenfassung In dieser Arbeit werden Erweiterungen eines existierenden

HOT BuOYS S.V. Rigging Part 1 - Boat Design...make you one, but you will need a two big oxes to pull it.' The farmer bought two big oxes. He went to the rope maker. The rope maker

OXES - Open XML for Editing Scripture - Version 2.0ebible.org/osis/oxes-documentation-2.0.3.pdf · Open XML for Editing Scripture ... 6.OSIS: Open Scripture ... without respect to

Good Governance bei M&A-Transaktionen · – Verstoß gegen das Verbot der Selbstbindung des Vorstands[?] ... Strukturmaßnahmen wie beispielsweise Umwandlungen, Spin-Offs und ...

Ingrid Göpfert (Hrsg.) Discussion Papers on Logistics and ... · jedoch die Logistik zum einen eine Logik, die sowohl aus Transaktionen besteht, die digital erweitert und effizienter

Hindi project tales of two oxes by Bikrant roy

SAP In-Memory Reporting für die Filiale · SAP In-Memory Reporting für die Filiale ... Data Warehousing mit SAP BW SAP SHOWCASE: ... •POS Transaktionen •Bonpositionen

© 2011 Carnegie Mellon University B OXES : Abstract Domain of Boxes Arie Gurfinkel and Sagar Chaki Software Engineering Institute Carnegie Mellon University.

'oxes of Ammo and a CaldwelP Mag Chargelô via Mail-ln ......'oxes of Ammo and a CaldwelP Mag Chargelô via Mail-ln Rebate 1, SEPTEMBER 30, 2017 ales Receipt Zip Code: Step 3: Mail

Learn Java Online - Online Java tutorials - Java Tests

Java: Classes in Java Applications - An Introduction to ... · Java: Classes in Java Applications An Introduction to Java Programming . 3 Java: Classes in Java Applications An Introduction

groovys Documentation - Read the Docs · Groovy 2.4 Java 6 Java 8 Java 9 snapshot groovy-nio Java 7 invokeDynamic Java 7+ Java 8 Groovy CI Java Groovy 10000 Java Groovy 1.1.2Maven