BIG DATA @ Data Center ReCaS Bari - Europe Direct Puglia · 18 settembre 2015 – Bari . Indice ......

20
BIG DATA @ Data Center ReCaS – Bari Roberto Bellotti Università degli Studi di Bari “Aldo Moro” & Istituto Nazionale di Fisica Nucleare 18 settembre 2015 – Bari

Transcript of BIG DATA @ Data Center ReCaS Bari - Europe Direct Puglia · 18 settembre 2015 – Bari . Indice ......

Page 1: BIG DATA @ Data Center ReCaS Bari - Europe Direct Puglia · 18 settembre 2015 – Bari . Indice ... SMART CITIES AND COMMUNITIES AND SOCIAL INNOVATION - AMBITO: Cloud Computing per

BIG DATA @ Data Center ReCaS – Bari

Roberto Bellotti Università degli Studi di Bari “Aldo Moro” &

Istituto Nazionale di Fisica Nucleare

18 settembre 2015 – Bari

Page 2: BIG DATA @ Data Center ReCaS Bari - Europe Direct Puglia · 18 settembre 2015 – Bari . Indice ... SMART CITIES AND COMMUNITIES AND SOCIAL INNOVATION - AMBITO: Cloud Computing per

Indice

• Il Data Center ReCaS @ Bari

• BIG DATA et al.

• La Mappa degli Utenti

• PRISMA: Piattaforme Cloud Interoperabili per Smart-government

• Human Infrastructures

• Accordo di Partenariato 2014-2020

• SDGs

• Conclusioni

2

Page 3: BIG DATA @ Data Center ReCaS Bari - Europe Direct Puglia · 18 settembre 2015 – Bari . Indice ... SMART CITIES AND COMMUNITIES AND SOCIAL INNOVATION - AMBITO: Cloud Computing per

3

Costo Complessivo del Progetto: 13.7 MEuro (90% Potenziamento, 10% Formazione)

INFN (sedi di NA, BA, CT, CS), UNINA, UNIBA (Budget: 6.9 INFN, 2.1 UNINA, 4.7 UNIBA )

Durata del Progetto: ottobre 2011 – luglio 2015

ReCaS: 4 Data Center nelle sedi di: Bari, Catania, Cosenza e Napoli

Page 4: BIG DATA @ Data Center ReCaS Bari - Europe Direct Puglia · 18 settembre 2015 – Bari . Indice ... SMART CITIES AND COMMUNITIES AND SOCIAL INNOVATION - AMBITO: Cloud Computing per

2 0ttobre 2014 9 Marzo 2015

7 Luglio 2014 14 Maggio 2014

Page 5: BIG DATA @ Data Center ReCaS Bari - Europe Direct Puglia · 18 settembre 2015 – Bari . Indice ... SMART CITIES AND COMMUNITIES AND SOCIAL INNOVATION - AMBITO: Cloud Computing per

Il Data Center ReCaS @ Bari

5

Page 6: BIG DATA @ Data Center ReCaS Bari - Europe Direct Puglia · 18 settembre 2015 – Bari . Indice ... SMART CITIES AND COMMUNITIES AND SOCIAL INNOVATION - AMBITO: Cloud Computing per

128 server (processore AMD) 8192 core

~ 4000 TB di spazio disco DELL con interfaccia FC

IBM System Storage TS3500 Tape Library in grado di archiviare su nastro 2500 TB di dati, slot già disponibili per 3700TB

Un cluster HPC composto da 20 server, per complessivi 800 core Intel, con connessione infiniband e 20 schede NVIDIA K40

Home degli utenti con ridondanza in triplice copia online, usando file-system ceph per assicurare l'alta affidabilità dei dati

Le risorse computazionali

Page 7: BIG DATA @ Data Center ReCaS Bari - Europe Direct Puglia · 18 settembre 2015 – Bari . Indice ... SMART CITIES AND COMMUNITIES AND SOCIAL INNOVATION - AMBITO: Cloud Computing per

LAN a matrice piatta 10 Gbts punto-punto 2 switch Huawey (attivo- passivo) equipaggiate con 480 porte e 400 ottiche. Con capacità di scalare fino a 576 connessioni ciascuno.

La rete di management (1Gbts) è implementata con switch dedicati su una sottorete specifica e isolata per garantire sicurezza degli accessi e isolamento in caso di eventuali problemi

Firewall evoluto: Firewall Fortinet, modello Fortigate 800c, con prestazioni firewall da 20 Gbps, capacità di trasmissione IPS di 6 Gbps ed interfacce 10-GbE/rame/GE SFP in un formato 1U.

La rete

Page 8: BIG DATA @ Data Center ReCaS Bari - Europe Direct Puglia · 18 settembre 2015 – Bari . Indice ... SMART CITIES AND COMMUNITIES AND SOCIAL INNOVATION - AMBITO: Cloud Computing per

Big Data da Big Science

8

Page 9: BIG DATA @ Data Center ReCaS Bari - Europe Direct Puglia · 18 settembre 2015 – Bari . Indice ... SMART CITIES AND COMMUNITIES AND SOCIAL INNOVATION - AMBITO: Cloud Computing per

9

Alzheimer, la scoperta del prof. Bellotti e della sua èquipe

2/7/2014

Neuroscienze computazionali

Page 10: BIG DATA @ Data Center ReCaS Bari - Europe Direct Puglia · 18 settembre 2015 – Bari . Indice ... SMART CITIES AND COMMUNITIES AND SOCIAL INNOVATION - AMBITO: Cloud Computing per

Scienze della Terra – Attività con ARPA Puglia

CONVENZIONE 1 (2014 - 2017)

Area Portuale

ENI

CEMENTIR

Obiettivo primario: Identificazione con 72

ore di anticipo dei wind days (giorni con

condizione meteo favorevoli ad accumulo di

inquinanti - area di Taranto) ai sensi del

D.G.R. 1774 del Luglio 2012.

1 Referenti: Prof. Roberto BellottiI (NFN/UNIBA) e dott.ssa Micaela Menegotto (ARPA).

Con 64 processori la simulazione delle

condizioni fisiche necessarie all’identificazione

del wind day con 72 ore di anticipo richiede 4

ore di elaborazione. La necessità di storage è

di circa 9 Tera all’anno.

Sfruttare la potenza di calcolo e di storage per

l ’ implementazione di complessi modelli di

fisica dell’ atmosfera in modalità di calcolo

parallelo (uso delle librerie NETCDF, JasPer e

OpenMPI ). Gli output sono grandi volumi di

dati georeferenziati (serie spazio - temporali)

complessa analisi finalizzata all’individuazione

del miglior setup dei modelli in una determinata

area.

.

Page 11: BIG DATA @ Data Center ReCaS Bari - Europe Direct Puglia · 18 settembre 2015 – Bari . Indice ... SMART CITIES AND COMMUNITIES AND SOCIAL INNOVATION - AMBITO: Cloud Computing per

Bioinformatica

EGI

Federated

Cloud

Pro

ge

tti L

ivin

gL

ab

s P

ug

lia

Progetti Regionali e

PON

PON

ONEV

Progetto SFINGE

PON

GARR-X

Progress

Fisica

Analisi immagini da satellite

Fisica Medica

GRID

RECAS

Cloud

(PRISMA/OCP)

Batch

System

Page 12: BIG DATA @ Data Center ReCaS Bari - Europe Direct Puglia · 18 settembre 2015 – Bari . Indice ... SMART CITIES AND COMMUNITIES AND SOCIAL INNOVATION - AMBITO: Cloud Computing per

Costo complessivo del Progetto: euro 27.500.000

(scadenza a fine 2015)

Il Progetto PRISMA sviluppa una piattaforma innovativa aperta e interoperabile

di Cloud Computing per i servizi di e-Government della Pubblica Amministrazione Locale.

Il PON PRISMA (Avviso 84 Ric./2012)

PON 2007-2013 SMART CITIES AND COMMUNITIES AND SOCIAL INNOVATION - AMBITO: Cloud Computing per smart technologies

PIATTAFORME CLOUD INTEROPERABILI

PER SMART-GOVERNMENT

12

Page 13: BIG DATA @ Data Center ReCaS Bari - Europe Direct Puglia · 18 settembre 2015 – Bari . Indice ... SMART CITIES AND COMMUNITIES AND SOCIAL INNOVATION - AMBITO: Cloud Computing per

Partner PRISMA

13

Page 14: BIG DATA @ Data Center ReCaS Bari - Europe Direct Puglia · 18 settembre 2015 – Bari . Indice ... SMART CITIES AND COMMUNITIES AND SOCIAL INNOVATION - AMBITO: Cloud Computing per

I casi applicativi PRISMA in Puglia

14

RMG

ISTAT, ARPA, SIT

EDOTTO

CLOUD PRISMA

IaaS & PaaS

SaaS

UO Epidemiologia e statistica

Registro Dialisi

Knowledge Management per la Sanità

Empowerment del paziente

DB as a

Service

Business

Intelligence

Desktop as

a Service

Page 15: BIG DATA @ Data Center ReCaS Bari - Europe Direct Puglia · 18 settembre 2015 – Bari . Indice ... SMART CITIES AND COMMUNITIES AND SOCIAL INNOVATION - AMBITO: Cloud Computing per

ReCaS - PRISMA e il Comune di Bari

• ReCaS supporta l’infrastruttura Cloud Open Source PRISMA (PIATTAFORME CLOUD INTEROPERABILI PER SMART-GOVERNMENT) finanziato nell’ambito di (SMART CITIES AND COMMUNITIES AND SOCIAL INNOVATION - ambito: Cloud Computing per smart technologies)

• Il Comune di Bari ed i Big Data. – Esempi:

• A) le scuole in rete (possibili sinergie con il Consortium GARR); • B) semafori intelligenti; • C) sistemi di videosorveglianza.

• Da giugno 2015 si è avviato un tavolo tecnico per valutare possibili sinergie e collaborazioni finalizzate alla predisposizione delle tecnologie ICT per gestire i “big data” prodotti da A), B) e C).

15

Page 16: BIG DATA @ Data Center ReCaS Bari - Europe Direct Puglia · 18 settembre 2015 – Bari . Indice ... SMART CITIES AND COMMUNITIES AND SOCIAL INNOVATION - AMBITO: Cloud Computing per

Human Infrastructures

16

Due edizioni del Master “Sviluppo e Gestione di Data Center per il

Calcolo Scientifico ad Alte Prestazioni”: la prima edizione (fondi ReCaS) si è conclusa il 31 ottobre 2013 e la seconda (fondi PRISMA), si è conclusa ad aprile 2015.

Master UNIBA “Metodologie e tecnologie per lo sviluppo di

infrastrutture digitali” con finanziamento 100% del GARR, conclusa ad aprile 2015.

5 Scuole di Cloud Computing organizzate da UNIBA & INFN (oltre 100

formandi) Oltre 50 laureati in discipline scientifiche specialisti in ICT

Page 17: BIG DATA @ Data Center ReCaS Bari - Europe Direct Puglia · 18 settembre 2015 – Bari . Indice ... SMART CITIES AND COMMUNITIES AND SOCIAL INNOVATION - AMBITO: Cloud Computing per

Accordo di Partenariato 2014-2020

• 44 miliardi di euro

(+ 20 di cofinanziamento nazionale)

– FESR & FSE 31 miliardi di euro

17

1,3 MLD (transizione)

7,6 MLD (più sviluppate)

22,2 MLD (meno sviluppate)

11 obiettivi tematici: Ricerca e innovazione Lotta ai cambiamenti climatici Tecnologie dell’informazione e della comunicazione Competitività delle PMI Economia a basse emissioni di carbonio Ambiente ed efficienza delle risorse Trasporto sostenibile Amministrazione pubblica più efficiente Istruzione e formazione più efficaci Inclusione sociale Occupazione e mobilità

Page 18: BIG DATA @ Data Center ReCaS Bari - Europe Direct Puglia · 18 settembre 2015 – Bari . Indice ... SMART CITIES AND COMMUNITIES AND SOCIAL INNOVATION - AMBITO: Cloud Computing per

18

The Sustainable Development Goals Proposal

Three main pillars of sustainable development

Page 19: BIG DATA @ Data Center ReCaS Bari - Europe Direct Puglia · 18 settembre 2015 – Bari . Indice ... SMART CITIES AND COMMUNITIES AND SOCIAL INNOVATION - AMBITO: Cloud Computing per

Conclusioni • ReCaS è una delle più potenti e versatili infrastrutture di calcolo nazionali.

• Opera, grazie alla rete GARR, in sinergia con gli altri Data Center del medesimo PON e con quelli dell’INFN in generale.

• E’ integrato nelle e-Infrastructure nazionali e sovrannazionali:

– l’Infrastruttura di Grid Italiana (IGI),

– la Worldwide LHC Compunting GRID (WLGC),

– la European GRID Infrastructure (EGI)

– la EGI Federated Cloud.

• Oltre all’utilizzo per la ricerca fondamentale sono disponibili risorse di calcolo e storage per altri utenti.

• Grazie alla sinergia con il Progetto PRISMA rende disponibile una piattaforma Cloud Open Source dotata di servizi specifici per facilitare le attività della PA e delle PMI.

• L’ecosistema ReCaS, nelle 4 Regioni della Convergenza con INFN, UNIBA e UNINA e attraverso i nuovi progetti PRISMA, OCP, INDIGO e EGI-Engage esprime competenze strategiche nel Cloud Computing & Big Data.

• Sfide:

– rapporti stabili e virtuosi con le PA e il sistema produttivo;

– capacità di sostenere e valorizzare I tecnologi e ricercatori che hanno permesso lo sviluppo delle attività descritte.

19