Splunklive! Universo Online

30
Copyright © 2014 Splunk Inc. Monitorando ecommerce com Splunk no Universo Online Mauricio Giraldeli – Gerente de Projetos de P&D no Universo Online

description

PagSeguro, Universo online

Transcript of Splunklive! Universo Online

Page 1: Splunklive! Universo Online

Copyright  ©  2014  Splunk  Inc.  

Monitorando  ecommerce  com  Splunk  no  Universo  Online  

 Mauricio  Giraldeli  –  Gerente  de  Projetos  de  P&D  no  

Universo  Online    

Page 2: Splunklive! Universo Online

2  

Marcio  Ghiraldelli  

!   6  anos  como  arquiteto  de  TI  no  Universo  Online  ! Arquitetura  de  sistemas  de  alta  disponibilidade  (PagSeguro  e  ShoppingUOL)  

!   Sun  CerOfied  Java  Architect  /  MBA  em  Gerenciamento  de  Projetos  PMI  

Page 3: Splunklive! Universo Online

3  

Agenda  

!   Monitorando  transações  de  cartão  de  crédito  !   Tomada  de  decisões  de  negócio  

!   Monitorando  operação  do  sistema  !   Medindo  ROI  de  mídia  online  em  tempo  real  

Page 4: Splunklive! Universo Online

4  

!   Maior  por\olio  de  produtos  e  serviços  de  Internet  do  Brasil  !   Maior  portal  de  conteúdo  em  língua  portuguesa  do  mundo  !   Infraestrutura  de  TI  e  Datacenter  

Page 5: Splunklive! Universo Online
Page 6: Splunklive! Universo Online

6  

Splunk  @  PagSeguro  

   

•  Monitoração  antes:  •  Baseada  em  banco  relacional,  sem  escala  horizontal  

•  Limitado  às  3  ulOmas  horas  de  eventos  

•  Acesso  a  dados  históricos  depende  de  DBA  

•  Necessário  instalar  aplicação  cliente  em  todos  os  computadores  da  equipe  de  monitoração  

Page 7: Splunklive! Universo Online

7  

Descobrindo  e  escolhendo  Splunk  

   

Novo  serviço  backend  

Adquirentes  cartão  de  crédito,  bancos,  etc  

Ferramenta  de  monitoração  

PCI-­‐DSS  security  compliance  

Page 8: Splunklive! Universo Online

8  

Descobrindo  e  escolhendo  Splunk  

   

•  Necessidades  da  monitoração:  •  Big  Data  centralizado  

•  Flexível  

•  Fácil  de  usar  

•  RealOme  

Page 9: Splunklive! Universo Online

9  

<14>Mar 12 08:18:44 a5-hertz2 app=psgw-core INFO [br.com.uol.ps.gw.core.aspect.CommandExecuteLogger] (qtp564660841-420:) datetime=2013-03-12 08:18:44,528

command=CreditCardSaleCommand msecs=555 {creditCardResponse=null,creditCardRequestModel={

creditCardTransaction={id=9999993513, merchantCode=99999999, fiDetails={nsu=999998,authorizationCode=59999999841, time=Tue Mar 12 08:18:44 BRT 2013, rawMessage=Transacao capturada com sucesso, rawCode=0, fi=locie, integratorCode=1016999999999999991}, numTransientToken=93853bdxxxxxxxxxxxxxxxxx0759e, isWallet=false, softDescriptor=CortaCortaco,

maskedNumber=547408******1525,cvv=***, brand=mastercard, paymentStatus=PAGO

Exemplo  de  informação  de  transações  

   

Page 10: Splunklive! Universo Online

10  

Dashboards  em  tempo  real  

   

Page 11: Splunklive! Universo Online

11  

Dashboards  em  tempo  real  

   

Tempo  médio  de  comunicação  com  parceiros  

Page 12: Splunklive! Universo Online

12  

Dashboards  em  tempo  real  

   

ComparaOvo  de  volume  de  transações  com  semana  anterior  

Page 13: Splunklive! Universo Online

13  

Dashboards  em  tempo  real  

   

Tempo  médio  de  comunicação  por  transação  

Page 14: Splunklive! Universo Online

14  

Dashboards  em  tempo  real  

   

DesaOvando  integrações  legadas  

Page 15: Splunklive! Universo Online

15  

Splunk  @  PagSeguro  •  Agora:  •  Monitoração  web  com  gráficos,  treinamento  para  novos  N1s  diminui  

de  semanas  para  dias;  

•  Acesso  à  dados  históricos  com  um  clique  

•  Nivelamento  de  informações  entre  monitoração,  P&D  e  área  de  negócios  

Page 16: Splunklive! Universo Online
Page 17: Splunklive! Universo Online

17  

Splunk  @  ShoppingUOL  

   

•  Antes:  •  Time  de  P&D  sem  relatórios  gráficos  centralizados  da  saúde  da  

operação  

•  Dados  de  ROI  de  mídia  online  não  eram  em  tempo  real  

Page 18: Splunklive! Universo Online

18  

Splunk  Universal  Forwarder  

   

•  Componente  light  de  fácil  configuração  para  coletar  logs  existentes  de  aplicações  legadas  

•  Expansão  da  licença  atual  e  infra  (+  indexers)  do  Splunk  para  atender  novo  produto  ShoppingUOL  

•  Instalação  automaOzada  em  +20  máquinas  virtuais  via  puppet  

 

Page 19: Splunklive! Universo Online

19  

Splunk  Proccess  Language  

   

•  Extração  de  dados  de  logs  em  diversos  formatos  legados  

•  rex,  transacOon,  dedup  

 

Page 20: Splunklive! Universo Online

20  

Dashboards  QuanOdade  de  ofertas  coletadas  por  lojas  

Page 21: Splunklive! Universo Online

21  

Dashboards  Volume  de  documentos  indexados  e  replicados  no  índice  Solr  

Page 22: Splunklive! Universo Online

22  

Dashboards  Performance  de  aplicações  Java  com  Perf4J  

Page 23: Splunklive! Universo Online

23  

Dashboards  ROI  de  Mídia  Online  em  tempo  real  

Page 24: Splunklive! Universo Online

24  

Splunk  @  ShoppingUOL  

   

•  Depois:  •  Time  de  P&D  e  operação  com  a  mesma  visibilidade  

•  Acompanhamento  de  campanhas  de  mídia  online  em  tempo  real  +  velocidade  em  tomadas  de  decisões  de  invesOmentos  

Page 25: Splunklive! Universo Online

Upgrade  de  arquitetura  “on  the  fly”  

Page 26: Splunklive! Universo Online

26  

Upgrade  de  arquitetura  “on  the  fly”  

   

Antes:  2  servidores  com  uma  instância  de  Splunk  

NFS  Mount  

Index  cold  buckets  

Search  Head  and  Indexer  Incoming  TCP  data  

Splunk  Search  User  Access  

Page 27: Splunklive! Universo Online

27  

Upgrade  de  arquitetura  “on  the  fly”  

   

Depois:  4  servidores  com  4  instâncias  Splunk  

Search  Head  

Incoming  TCP  data  

Search  Head  

Indexer  

Indexer  

TCP  Load  Balancer   TCP  Load  Balancer  Splunk  Search  User  Access  

Page 28: Splunklive! Universo Online

Próximos  passos  

Page 29: Splunklive! Universo Online

29  

Próximos  passos  

   

•  Todas  as  novas  aplicações  sendo  criadas  com  logs  no  formato  chave/valor,  prevendo  uma  futura  convergência  no  Splunk  

•  Instalando  uma  televisão  no  andar  da  área  de  negócios  para  acompanhamento  em  tempo  real  dos  dashboards  

•  Evoluindo  a  arquitetura  do  Splunk  “corporaOvo”  para  atender  todos  os  produtos  do  UOL  em  uma  infra  centralizada  

•  Integrar  Splunk  com  os  eventos  de  processos  ITIL/CMDB  

Page 30: Splunklive! Universo Online

Obrigado!  

linkedin.com/in/mghiraldelli  twiyer.com/marciogh