ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de...

40
White paper Resumo Este white paper descreve os recursos do EMC ® VPLEX™ que são relevantes em termos de funcionalidade para o Oracle RAC (Real Application Clusters) e o Oracle Database. Também são apresentadas as práticas recomendadas de configuração do Oracle RAC estendido para que ele use o EMC VPLEX Metro da maneira ideal. Setembro de 2011 ORACLE RAC (REAL APPLICATION CLUSTERS) EM CLUSTERS DE LONGA DISTÂNCIA COM O EMC ® VPLEX™ METRO Planejamento das práticas recomendadas

Transcript of ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de...

Page 1: ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de armazenamento associada a um modelo de implementação de RAC estendido. O Oracle RAC

White paper

Resumo

Este white paper descreve os recursos do EMC® VPLEX™ que são relevantes em termos de funcionalidade para o Oracle RAC (Real Application Clusters) e o Oracle Database. Também são apresentadas as práticas recomendadas de configuração do Oracle RAC estendido para que ele use o EMC VPLEX Metro da maneira ideal. Setembro de 2011

ORACLE RAC (REAL APPLICATION CLUSTERS) EM CLUSTERS DE LONGA DISTÂNCIA COM O EMC® VPLEX™ METRO Planejamento das práticas recomendadas

Page 2: ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de armazenamento associada a um modelo de implementação de RAC estendido. O Oracle RAC

2 Oracle RAC (Real Application Clusters) em clusters de longa distância com o EMC® VPLEX™ Metro

Copyright ©2011 EMC Corporation. Todos os direitos reservados. A EMC assegura que as informações apresentadas neste documento estão corretas na data de publicação. As informações estão sujeitas a alterações sem prévio aviso. As informações nesta publicação são fornecidas no "estado em que se encontram". A EMC Corporation não garante nem representa qualquer tipo de informação contida nesta publicação e especificamente se isenta das garantias implícitas de comercialização ou uso a um propósito específico. O uso, a cópia e a distribuição de qualquer software EMC descrito nesta publicação exigem uma licença de software. Para obter uma lista mais atualizada de produtos da EMC, consulte EMC Corporation Trademarks no site brazil.emc.com. Número da peça h8930.1

Page 3: ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de armazenamento associada a um modelo de implementação de RAC estendido. O Oracle RAC

3 Oracle RAC (Real Application Clusters) em clusters de longa distância com o EMC® VPLEX™ Metro

Índice

Resumo executivo ................................................................................................... 4 Público-alvo ....................................................................................................................... 5

Introdução .............................................................................................................. 6

Visão geral dos produtos e recursos ........................................................................ 6 VPLEX ................................................................................................................................. 6

Ofertas de produtos VPLEX ............................................................................................. 7 Destaques da arquitetura VPLEX .................................................................................... 9 Consistency groups, regras de desanexação e VPLEX Witness ...................................... 11

Oracle Real Application Clusters ....................................................................................... 13 Oracle Automatic Storage Management ........................................................................ 13 Oracle RAC em clusters de longa distância ................................................................... 13

Symmetrix série VMAX™ .................................................................................................. 14 Famílias de produtos Symmetrix VMAX™ TimeFinder ................................................... 15 Symmetrix VMAX Virtual Provisioning ........................................................................... 15

Implementação do VPLEX Metro com o Oracle RAC estendido ................................. 16 Considerações sobre a implementação do Oracle RAC estendido em um ambiente VPLEX Metro ..................................................................................................................... 16

Diretrizes de implementação do Oracle RAC estendido e do VPLEX Metro ..................... 16 Proteção do Oracle RAC estendido e VPLEX Metro contra tempo de inatividade não planejado .............................................................................................................. 18

VPLEX Metro com testes e configurações do laboratório do Oracle RAC estendido ....................................................................................................... 23

Configuração e instalação do laboratório ......................................................................... 23 Ambiente físico ............................................................................................................ 23 Configuração do armazenamento e planejamento de alocação de dispositivo ............. 25 Configuração do VPLEX Metro ....................................................................................... 28 Configuração do Oracle e host ...................................................................................... 33

Testes de carga de trabalho de banco de dados OLTP ...................................................... 37 Testes de situações de falha ............................................................................................ 39

Conclusão ............................................................................................................. 39

Referências ........................................................................................................... 40

Page 4: ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de armazenamento associada a um modelo de implementação de RAC estendido. O Oracle RAC

4 Oracle RAC (Real Application Clusters) em clusters de longa distância com o EMC® VPLEX™ Metro

Resumo executivo O EMC® VPLEX™ é uma tecnologia de federação de armazenamento de classe empresarial que agrega e gerencia pools de armazenamento conectados por FC (Fibre Channel) dentro de datacenters e entre eles. O VPLEX, que reside entre os servidores e o armazenamento FC, apresenta volumes distribuídos e locais para os hosts. A agregação do armazenamento VPLEX permite upgrades e migrações on-line do armazenamento sem nenhuma mudança para LUNs de host. A tecnologia de clustering do VPLEX AccessAnywhere permite acesso de leitura/gravação a volumes distribuídos à distância nos locais em que os volumes têm exatamente a mesma identidade de LUN SCSI. Essa tecnologia permite que os hipervisores migrem VMs (virtual machines, máquinas virtuais) à distância e simplifica a implementação do Oracle RAC entre datacenters

A linha de produtos VPLEX inclui o VPLEX Local (federação SAN em local único), volumes síncronos distribuídos compatíveis com o VPLEX Metro com latência de ida e volta de até 5 ms, e volumes assíncronos distribuídos compatíveis com o VPLEX Geo com ciclo de ida e volta de até 50 ms. Este paper destaca o funcionamento do VPLEX Metro em conjunto com o Oracle RAC em clusters de longa distância (Oracle RAC estendido) para simplificar a infraestrutura SAN e reduzir parte da complexidade do gerenciamento de armazenamento associada a um modelo de implementação de RAC estendido.

O Oracle RAC permite a implementação transparente de um banco de dados único em um cluster de servidores, fornecendo tolerância a falhas, alta disponibilidade e dimensionamento. O Oracle RAC em clusters de longa distância adota um modelo de implementação no qual os servidores do cluster residem em locais fisicamente separados. O Oracle RAC em clusters de longa distância oferece uma forma de dimensionar o desempenho, utilizar recursos de servidor e armazenamento em múltiplos locais e, em comparação com as instalações do Oracle RAC em local único, fornece maior resiliência para cenários de falha em todo o local ou em operações de manutenção de datacenters sem tempo de inatividade dos aplicativos.

Principais benefícios do VPLEX Metro em um Oracle RAC estendido:

• Disponibilidade contínua do banco de dados por meio de rede, servidor, armazenamento e falhas no local.

• Arquitetura scale-out e total acesso de leitura/gravação ao mesmo banco de dados nos dois locais (sem hardware ocioso)

• Simplificação da implementação do Oracle RAC à distância:

o Os nós de cluster só precisam se conectar ao cluster VPLEX local. Não é necessário haver conexão entre os locais.

o Requisitos simplificados de infraestrutura com implementações do Oracle Voting Disk com o uso de volumes distribuídos e o VPLEX Witness.

o Consumo reduzido dos ciclos de CPU do nó de cluster Oracle e associação ao espelhamento com base em host. O RAID (Redundant Array of Independent Disks) fornecido pela VPLEX e os arrays físicos subjacentes oferecem essa função.

Page 5: ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de armazenamento associada a um modelo de implementação de RAC estendido. O Oracle RAC

5 Oracle RAC (Real Application Clusters) em clusters de longa distância com o EMC® VPLEX™ Metro

o Habilidade de criar consistency groups que protegem vários bancos de dados ou arquivos de aplicativos como uma unidade

o Os volumes VPLEX não precisam de tempo de inatividade de aplicativos nem alterações de IDs de LUNs durante atualizações e migrações de hardware para armazenamento

o Em comparação com o modelo de implementação em um local único, o modelo do Oracle RAC permite teste de recuperação de desastres e validação com base no fato de que ambos is locais podem participar ativamente da carga de trabalho

O EMC Symmetrix® série VMAX™ foi usado neste paper como o storage array por trás dos clusters VPLEX. O EMC Symmetrix série VMAX apresenta uma extensa oferta de recursos líderes do setor e funcionalidades para a próxima era de datacenters virtuais de alta disponibilidade e aplicativos de missão crítica. Com níveis avançados de proteção e replicação de dados, o sistema Symmetrix VMAX está na vanguarda da tecnologia empresarial SAN (Storage Area Network). Além disso, o Symmetrix série VMAX com a tecnologia FAST VP otimiza os níveis de armazenamento de modo transparente, aprimorando o desempenho e poupando custos sem causar interrupção nos aplicativos do host.

As organizações de TI estão procurando formas de ampliar os ambientes de bancos de dados entre datacenters para reduzir ou evitar o tempo de inatividade planejado e não planejado associado a falhas de hardware, desastres ou mesmo operações normais dos datacenters, como migrações e atualizações de hardware. Com o EMC VPLEX, essas organizações podem atingir novos níveis de flexibilidade nas mudanças da infraestrutura de armazenamento, resiliência a desastres, colaboração aprimorada e arquitetura escale-out. Por isso, o sistema EMC VPLEX é ideal para ambientes de última geração, junto com a tecnologia Oracle. Os recursos do EMC VPLEX para federar sistemas de armazenamento e apresentar dispositivos exclusivos no mundo inteiro sem limitação às fronteiras dos datacenters físicos funcionam lado a lado com os recursos do Oracle RAC para fornecer alta disponibilidade e acesso dimensionável a banco de dados. A solução Oracle RAC com o EMC VPLEX e o Symmetrix série VMAX SERIES é a escolha ideal para implementar um ambiente de computação em nuvem altamente confiável, reduzir custos de TI e, ao mesmo tempo, aumentar a eficiência da infraestrutura.

Público-alvo

Este white paper foi criado para administradores de banco de dados Oracle, administradores de armazenamento e arquitetos de TI responsáveis por projetar, criar, gerenciar e usar ambientes de TI com foco em alta disponibilidade com bancos de dados Oracle, tecnologias VPLEX e armazenamentos Symmetrix série VMAX. Este white paper parte do princípio de que os leitores têm alguma familiaridade com o Oracle RAC, a tecnologia de banco de dados Oracle, o EMC VPLEX e o storage array Symmetrix.

Page 6: ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de armazenamento associada a um modelo de implementação de RAC estendido. O Oracle RAC

6 Oracle RAC (Real Application Clusters) em clusters de longa distância com o EMC® VPLEX™ Metro

Introdução O Oracle RAC estendido permite dimensionar, utilizar recursos de servidor e armazenamento em múltiplos locais, além de oferecer maior resiliência em cenários de falha e operações de manutenção sem tempo de inatividade de aplicativos. Ele permite que as organizações eliminem o tempo de inatividade de banco de dados e continuem o processo de negócio sem interrupções, mesmo em caso de falhas totais no local.

Embora o modelo de implementação do Oracle RAC em cluster estendido permita alta disponibilidade em um banco de dados único, a prática recomendada é implementar uma solução de recuperação de desastres no caso de distâncias maiores, com o uso de tecnologias como RecoverPoint, SRDF®, Oracle Data Guard ou soluções semelhantes. Essas réplicas remotas podem ser úteis no caso de falhas de banco de dados (como exclusão por engano de LUN ou file, corrupção de block, etc.) Além disso, outra prática recomendada é implementar uma estratégia de backup em fita ou VTL (Virtual Tape Library, biblioteca de fitas virtuais), com o possível uso da tecnologia de clone/snapshot para liberar a produção do processo de backup.

Este white paper apresenta aos leitores a família EMC VPLEX, a arquitetura de cluster do VPLEX Metro, assim como os recursos e funções relevantes para uma implementação do Oracle RAC estendido. Ele também discute a resiliência da solução Oracle RAC estendido em várias situações de falha. Além disso, este white paper apresenta as etapas de provisionamento para o armazenamento do VPLEX e do Symmetrix série VMAX na plataforma Oracle RAC estendido, assim como para a execução de carga de trabalho OLTP (Online Transaction Processing, processamento de transações on-line) em um Oracle RAC estendido de quatro nós com a tecnologia VPLEX Metro e Symmetrix VMAX.

Visão geral dos produtos e recursos

VPLEX

O EMC VPLEX é uma solução de virtualização de armazenamento EMC e não EMC, como mostrado na Figura 1. O armazenamento do VPLEX é heterogêneo, com suporte para armazenamento da EMC e arrays comuns de outros fornecedores de armazenamento, como NetApp, HDS, HP e IBM.

Figura 1. EMC VPLEX Local para federar armazenamento heterogêneo

Page 7: ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de armazenamento associada a um modelo de implementação de RAC estendido. O Oracle RAC

7 Oracle RAC (Real Application Clusters) em clusters de longa distância com o EMC® VPLEX™ Metro

O VPLEX pode ser estendido em datacenters dispersos geograficamente para fornecer acesso simultâneo a dispositivos de armazenamento por meio da criação de volumes virtuais distribuídos do VPLEX. A tecnologia VPLEX permite a movimentação não disruptiva dos dados e oferece a funcionalidade de gerenciamento de volume.

Devido a esses recursos, o VPLEX fornece um valor diferenciado e exclusivo para atender a três necessidades:

• A possibilidade de movimentar aplicativos e dados entre várias infraestruturas de armazenamento e computação, seja dentro de um mesmo datacenter ou entre datacenters diferentes.

• A possibilidade de criar uma infraestrutura de computação e armazenamento de alta disponibilidade distribuída geograficamente com resiliência incomparável.

• A possibilidade de fornecer colaboração de dados eficiente em tempo real à distância.

Ofertas de produtos VPLEX

A EMC fornece o VPLEX em três configurações para atender às necessidades de alta disponibilidade e mobilidade de dados do cliente, como mostrado na Figura 2:

• VPLEX Local

• VPLEX Metro

• VPLEX Geo (não compatível com o Oracle RAC atualmente)

Figura 2. Topologias VPLEX

VPLEX Local

O VPLEX Local oferece mobilidade de dados perfeita e não disruptiva, além da possibilidade de gerenciar vários arrays heterogêneos a partir de uma interface única em um datacenter.

O VPLEX Local permite maior disponibilidade, gerenciamento simplificado e melhor utilização em arrays múltiplos.

Page 8: ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de armazenamento associada a um modelo de implementação de RAC estendido. O Oracle RAC

8 Oracle RAC (Real Application Clusters) em clusters de longa distância com o EMC® VPLEX™ Metro

EMC VPLEX Metro com AccessAnywhere

O VPLEX Metro com o AccessAnywhere oferece acesso em nível de block ativo-ativo a dados entre dois locais em distâncias síncronas com um ciclo de ida e volta de até 5 ms.

Veja a seguir dois exemplos do uso do VPLEX Metro e Oracle para mobilidade de dados e alta disponibilidade. • Mobilidade de dados e aplicativos — Sozinho, o hipervisor tem a capacidade

de movimentar máquinas virtuais sem tempo de inatividade de aplicativos entre servidores físicos. Combinados com a virtualização de servidor, os volumes distribuídos do VPLEX permitem que os usuários movimentem e realoquem, de modo transparente, máquinas virtuais e seus aplicativos e dados correspondentes à distância. Isso oferece aos usuários a capacidade exclusiva de realocar, compartilhar e balancear recursos da infraestrutura entre locais. Este white paper apresenta um exemplo de mobilidade de migração em tempo real de máquinas virtuais Oracle com o VPLEX Metro: o servidor de máquina virtual Oracle para migração em tempo real x86 com o EMC VPLEX e o Symmetrix série VMAX, como mostrado na Figura 3.

Figura 3. Migração em tempo real de máquinas virtuais Oracle com o VPLEX Metro

• Infraestrutura de alta disponibilidade — Reduz o RTO (Recovery Time Objective, objetivo de tempo de recuperação). A alta disponibilidade garante um tempo de funcionamento quase contínuo para os aplicativos essenciais e automatiza o reinício de um aplicativo quando uma falha ocorre, com o mínimo possível de intervenção humana. Um exemplo do Oracle RAC estendido com o VPLEX Metro é mostrado na Figura 4. Essa solução é o foco deste white paper.

Page 9: ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de armazenamento associada a um modelo de implementação de RAC estendido. O Oracle RAC

9 Oracle RAC (Real Application Clusters) em clusters de longa distância com o EMC® VPLEX™ Metro

Figura 4. Oracle RAC estendido com VPLEX Metro

VPLEX Geo com AccessAnywhere

O VPLEX Geo com o AccessAnywhere permite acesso ativo-ativo em nível de block aos dados entre dois locais em distâncias assíncronas com latência de ciclo de ida e volta de até 50 ms. No momento, o VPLEX Geo não é compatível com o Oracle RAC nem com o Oracle RAC estendido e não será detalhado neste documento. Para obter mais informações sobre o VPLEX Geo, visite http://Powerlink.emc.com, pesquisa de palavra-chave: VPLEX Geo.

Destaques da arquitetura VPLEX1

A família VPLEX usa uma arquitetura de clustering exclusiva para ajudar os clientes a transpor os limites do datacenter e permitir que os servidores em múltiplos datacenters tenham acesso de leitura/gravação a dispositivos de armazenamento em block compartilhado. O VPLEX Local possui um só cluster, enquanto o VPLEX Metro possui dois. Um cluster VPLEX é composto por uma, duas ou quatro engines, como mostrado na Tabela 1. Cada engine do VPLEX fornece capacidade de processamento, cache e conectividade de SAN/WAN com dois directors redundantes. Tabela 1. Componentes de hardware VPLEX

Recurso Descrição

Cluster VPLEX Uma, duas ou quatro engines

Engine do VPLEX Contém dois directors, módulos de gerenciamento, fontes de alimentação, alimentação de bateria e ventiladores

Director do VPLEX Contém alguns dos módulos de I/O, SSD, CPU e RAM

1 Os detalhes desta seção são baseados no VPLEX versão 5.1 e podem ser diferentes em outras versões. O guia do produto VPLEX fornece detalhes sobre cada versão específica.

Page 10: ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de armazenamento associada a um modelo de implementação de RAC estendido. O Oracle RAC

10 Oracle RAC (Real Application Clusters) em clusters de longa distância com o EMC® VPLEX™ Metro

O VPLEX Local usa armazenamento com gravação no cache e na memória principal (write through) e é confirmado primeiro no armazenamento por trás dos volumes VPLEX, antes da confirmação no host. Com o armazenamento EMC como o Symmetrix série VMAX™ e série VNX™, no qual a gravação só precisa ser registrada no cache persistente de armazenamento, o tempo de resposta de gravação do aplicativo é ideal. O VPLEX Metro também usa gravação no cache e na memória principal (write through), mas confirma as gravações no aplicativo apenas quando elas são registradas no armazenamento local e no remoto. Em todas as implementações VPLEX, as leituras podem se beneficiar do cache VPLEX e, no VPLEX Metro, os read hits são apresentados a partir do cache do cluster VPLEX.

Estruturas de armazenamento lógicas do VPLEX

O VPLEX encapsula os dispositivos de storage array físicos tradicionais e aplica três camadas de abstração lógica nos volumes de armazenamento, como mostrado na Figura 5. Os extents são o mecanismo usado pelo VPLEX para dividir os volumes de armazenamento. Os extents podem compor todo o volume de armazenamento subjacente ou parte dele. O EMC VPLEX agrega extents e pode aplicar a proteção do RAID na camada do dispositivo. Os dispositivos são construídos com o uso de um ou mais extents, podendo ser combinados em esquemas de RAID mais complexos e estruturas do dispositivo como desejado. Na camada superior de armazenamento VPLEX, as estruturas são volumes virtuais. Os volumes virtuais são criados a partir de dispositivos e herdam o tamanho do dispositivo subjacente. Os volumes virtuais são os elementos que o VPLEX expõe aos hosts usando suas portas front-end. O acesso aos volumes virtuais é controlado com o uso de exibições de armazenamento, que são semelhantes aos grupos de provisionamento automático no EMC Symmetrix ou aos grupos de armazenamento no EMC CLARiiON®. Eles funcionam como contêineres lógicos que determinam o acesso do iniciador do host aos volumes virtuais e às portas front-end do VPLEX.

Figura 5. Estruturas de armazenamento lógicas do EMC VPLEX

Page 11: ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de armazenamento associada a um modelo de implementação de RAC estendido. O Oracle RAC

11 Oracle RAC (Real Application Clusters) em clusters de longa distância com o EMC® VPLEX™ Metro

O VPLEX encapsula os volumes da SAN (Storage Area Network) por meio da identificação dos dispositivos de armazenamento com seus nomes virtuais. Ele os empacota em conjuntos de volumes virtuais do VPLEX com configuração definida por usuário e níveis de proteção e, em seguida, apresenta os volumes virtuais para os hosts. O VPLEX tem a capacidade de encapsular/desencapsular os dispositivos de armazenamento existentes (preservando os dados), bem como a capacidade de dividir e agregar os volumes de armazenamento existentes para uso em volumes virtuais. Além disso, o armazenamento virtual apresentado aos hosts por meio do encapsulamento VPLEX pode ser movido de modo não disruptivo dentro de storage arrays de back-end e entre eles. É recomendado que, quando o VPLEX encapsula armazenamento como a série VMAX e a série VNX, a proteção do RAID é feita no storage array. Isso simplificará o mapeamento entre o armazenamento e o VPLEX, permitindo o uso de recursos de armazenamento como a criação de snaps, clones e recuperação adicional de desastres.

Consistency groups, regras de desanexação e VPLEX Witness

Consistency groups

A partir do GeoSynchrony 5.0 para VPLEX Local e VPLEX Metro, os consistency groups são usados para organizar volumes virtuais, bem como garantir a fidelidade da ordem de gravação e o comportamento determinístico de continuação do I/O no caso de uma perda no local ou em uma partição de rede remota. Os consistency groups reúnem os volumes para fornecer um conjunto comum de propriedades para todo o grupo. Além disso, é possível mover um consistency group de cluster para outro se necessário. Os consistency groups são particularmente importantes para bancos de dados e aplicativos. Todas as LUNs de banco de dados (por exemplo, dados Oracle, arquivos de registro e controle) exigem a preservação da fidelidade de leitura e gravação para manter a integridade dos dados. Consequentemente, devem ser colocadas sempre juntas em um único consistency group. Com frequência, vários bancos de dados têm dependências de transação, por exemplo, quando links de bancos de dados são usados para conectar bancos de dados ou quando o aplicativo emite transações para múltiplos bancos de dados e espera que os bancos de dados sejam consistentes entre si. Nesses casos, o consistency group deve incluir todas as LUNs que exigem preservação da dependência do I/O (fidelidade da ordem de gravação).

No caso do Oracle RAC, apenas o VPLEX Local e o VPLEX Metro são compatíveis. O único tipo de consistency group fornecido pelo Local e pelo Metro é o síncrono, isto é, o consistency group com modo de gravação no cache e na memória principal (write through). Os consistency groups síncronos são definidos como a seguir:

Consistency groups síncronos — Oferecem uma forma prática de aplicar as mesmas regras de desanexação e outras propriedades a um grupo de volumes em uma configuração VPLEX Local ou VPLEX Metro, simplificando a configuração do sistema e a administração em sistemas grandes. Os volumes em um grupo síncrono têm visibilidade local ou global. Os consistency groups síncronos usam gravação no cache e na memória principal (write through), conhecido como modo de cache síncrono na interface do usuário VPLEX. Com o VPLEX Metro, eles têm suporte em clusters separados por até 5 ms de latência. Isso significa que o VPLEX Metro envia gravações para os volumes de armazenamento de back-end e confirma a gravação no aplicativo assim que os volumes de armazenamento de back-end em ambos os clusters confirmam a gravação.

Page 12: ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de armazenamento associada a um modelo de implementação de RAC estendido. O Oracle RAC

12 Oracle RAC (Real Application Clusters) em clusters de longa distância com o EMC® VPLEX™ Metro

Regras de desanexação

As regras de desanexação são regras predefinidas que determinam a semântica de processamento de I/O para um consistency group quando a conectividade com um cluster remoto é perdida, por exemplo, no caso de particionamento de rede ou falha de cluster remoto. Nessas situações, até que a comunicação seja restaurada, a maioria das cargas de trabalho exige conjuntos específicos de volumes virtuais para continuar o I/O em um cluster e suspender o I/O no outro.

Em uma configuração VPLEX Metro, as regras de desanexação podem representar um cluster estático preferido por meio da definição de 2 : winner:cluster-1, winner:cluster-2 ou No Automatic Winner (o último especifica que não há um cluster preferido). Quando o sistema é implementado sem o VPLEX Witness (discutido na próxima seção), os I/Os para os dispositivos do consistency group continuam no cluster preferido e são suspensos no cluster não preferido.

VPLEX Witness

O VPLEX Witness, apresentado com o GeoSynchrony 5.0, é um componente necessário para as implementações do Oracle RAC estendido. O VPLEX Witness se conecta com os dois clusters VPLEX Metro em uma rede IP de gerenciamento. Reconciliando as próprias observações com as informações relatadas periodicamente pelos clusters, o VPLEX Witness possibilita que os clusters diferenciem as falhas de partição de rede das falhas de cluster, continuando o I/O automaticamente nessas situações no local apropriado. O VPLEX Witness afeta apenas os volumes virtuais que são membros dos consistency groups síncronos em uma configuração VPLEX Metro e apenas quando as regras de anexação indicam o cluster 1 ou o cluster 2 como preferidos para o consistency group. Isso significa que o VPLEX Witness não afeta consistency groups onde a regra No Automatic Winner está em vigor.

Sem o VPLEX Witness, se dois clusters VPLEX perderem contato, as regras de desanexação do consistency group em vigor definem qual cluster continua a operação e qual suspende o I/O como explicado anteriormente. O uso de regras de desanexação apenas para controlar qual local é o vencedor pode adicionar uma complexidade desnecessária no caso de uma falha no local, porque talvez seja necessário intervir manualmente para retomar o I/O no local sobrevivente. O VPLEX Witness lida com esse evento dinâmica e automaticamente, por isso esse é um requisito absolutamente necessário para implementações do Oracle RAC. Ele possui os seguintes recursos:

• Balanceamento automático de carga entre datacenters

• Uso ativo-ativo de ambos os datacenters

• Tratamento totalmente automático na camada de armazenamento

Para que o VPLEX Witness possa distinguir corretamente entre condições de falha, ele deve ser instalado em um domínio independente de falha a partir de cada cluster com o uso de interfaces de rede diferentes para cada um. Isso eliminará a possibilidade de que uma mesma falha afete o cluster e o VPLEX Witness. Por

2 Com base nas opções da GUI (Graphical User Interface, interface gráfica do usuário). A CLI (Command Line Interface, interface de linha de comando) usa termos ligeiramente diferentes para especificar as mesmas regras.

Page 13: ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de armazenamento associada a um modelo de implementação de RAC estendido. O Oracle RAC

13 Oracle RAC (Real Application Clusters) em clusters de longa distância com o EMC® VPLEX™ Metro

exemplo, se dois clusters de uma configuração VPLEX Metro forem implementados em dois andares diferentes de um mesmo datacenter, implante o VPLEX Witness em outro andar. Da mesma forma, se os dois clusters de uma configuração VPLEX Metro forem implementados em dois datacenters diferentes, implemente o VPLEX Witness em um terceiro datacenter.

Compartimento de cache

Para evitar a perda de dados ou metadados (quando o armazenamento em cache de write-back é usado) em situações de emergência, o VPLEX usa um mecanismo chamado compartimentação de cache para proteger informações do cache em um armazenamento local persistente.

Oracle Real Application Clusters

O RAC (Oracle Real Application Clusters) é uma opção ao reconhecido Oracle Database Enterprise Edition. O Oracle RAC é um banco de dados de cluster com uma arquitetura compartilhada de cache que supera as limitações das abordagens tradicionais shared-nothing e shared-disk para fornecer soluções de banco de dados altamente dimensionáveis e disponíveis para todos os aplicativos de negócios. O Oracle RAC é compatível com os mais populares aplicativos de negócios de todos os tipos. Isso inclui o OLTP (Online Transaction Processing, processamento de transações on-line) e o DSS (Decision Support System, sistema de suporte a decisões).

Oracle Automatic Storage Management

O Oracle ASM (Automatic Storage Management) é um file system integrado e gerenciador de volumes para o banco de dados Oracle. O Oracle ASM reduz a complexidade do gerenciamento de armazenamento do banco de dados. Além de fornecer benefícios em termos de desempenho e confiabilidade, o Oracle ASM também pode aumentar a disponibilidade do banco de dados porque os discos do ASM podem ser adicionados e removidos on-line. O Oracle ASM balanceia automaticamente os dados novamente nos discos de um grupo de discos do ASM após os discos serem adicionados ou removidos.

O Oracle Database 11g Release 2, o Oracle ASM e o Oracle Clusterware foram reunidos em um pacote denominado Oracle Grid Infrastructure. Esse pacote fornece todos os serviços de armazenamento e cluster necessários para execução de um banco de dados Oracle RAC. O Oracle ASM também foi estendido para incluir o suporte ao OCR (Oracle Cluster Registry) e os voting files serem inseridos em grupos de discos do ASM.

Oracle RAC em clusters de longa distância

O Oracle RAC em clusters de longa distância é um modelo de implementação no qual os servidores do cluster residem em locais fisicamente separados. O Oracle RAC em clusters de longa distância oferece maior disponibilidade do que o Oracle RAC local. O Oracle RAC em clusters de longa distância oferece uma recuperação extremamente rápida de uma falha no local e permite que todos os servidores, em todos os locais, processem ativamente as transações como parte de um cluster de banco de dados único. Embora essa arquitetura desperte um grande interesse e tenha sido implementada com êxito, é essencial entender onde essa arquitetura é

Page 14: ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de armazenamento associada a um modelo de implementação de RAC estendido. O Oracle RAC

14 Oracle RAC (Real Application Clusters) em clusters de longa distância com o EMC® VPLEX™ Metro

mais adequada, principalmente no que diz respeito a distância, latência e grau de proteção fornecido por ela. O alto impacto da latência e, consequentemente, da distância cria algumas limitações práticas quanto ao local em que essa arquitetura pode ser implementada. Essa arquitetura é mais adequada a locais onde os dois datacenters ficam relativamente próximos e onde os custos de configuração de canais dedicados diretos entre os locais já foram pagos.

Symmetrix série VMAX™

Baseado na estratégia de armazenamento simples, inteligente e modular, o Symmetrix série VMAX incorpora uma nova interconexão Virtual Matrix™ que conecta e compartilha recursos entre todos os nós. Isso permite que o storage array cresça de maneira perfeita e econômica a partir de uma configuração de nível básico, tornando-se o maior sistema de armazenamento do mundo. Ele oferece os níveis mais altos de desempenho e disponibilidade, apresentando novos recursos de hardware, como mostrado na Figura 6.

Figura 6. O Symmetrix série VMAX

O Symmetrix® série VMAX™ fornece a mais avançada plataforma scale-out. Ele possui a capacidade de dimensionar o desempenho do front-end e back-end de modo incremental com o acréscimo de módulos de processamento (nós) e gabinetes de armazenamento. Cada módulo de processamento fornece conectividade adicional de back-end, memória e front-end.

O Symmetrix® série VMAX™ também aumenta o tamanho máximo do hyper para 240 GB (64 GB no Symmetrix DMX™). Isso facilita o planejamento de armazenamento e a alocação de dispositivo, principalmente ao usar o Virtual Provisioning™ onde o pool de armazenamento thin já está fracionado e os hypers podem ser facilmente usados.

De 2 a 16 director boards

Capacidade de até 2.1 PB utilizáveis

Até 128 portas FC FE

Até 64 portas FICON FE

Até 64 portas GigE/iSCSI FE

Até 1 TB de memória global (512 GB utilizáveis)

Page 15: ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de armazenamento associada a um modelo de implementação de RAC estendido. O Oracle RAC

15 Oracle RAC (Real Application Clusters) em clusters de longa distância com o EMC® VPLEX™ Metro

Famílias de produtos Symmetrix VMAX™ TimeFinder

A família EMC TimeFinder® de tecnologia de replicação local permite a criação de múltiplas réplicas não disruptivas baseadas em armazenamento de leitura/gravação do banco de dados e dados do aplicativo. Isso atende às necessidades de replicação de dados de uma ampla gama de clientes com velocidade, capacidade de expansão, utilização de armazenamento eficiente, e impacto de zero a mínimo sobre os aplicativos, independentemente do tamanho do banco de dados. O TimeFinder fornece uma solução para backup, reinicialização e recuperação de bancos de dados de produção e aplicativos, mesmo quando eles se distribuem entre múltiplos Symmetrix VMAX. O TimeFinder está bem integrado com outros produtos EMC, como o SRDF (Symmetrix Remote Data Facility), e permite a criação de réplicas em um destino remoto sem interrupção da replicação síncrona e assíncrona. Se for necessária uma restauração de uma réplica remota, o TimeFinder e o SRDF restaurarão os dados de modo incremental e em paralelo para atingir o nível máximo de disponibilidade e proteção. A família de produtos TimeFinder permite a criação de réplicas consistentes com a gravação dependentes por meio do uso da tecnologia de consistência EMC, e as réplicas que são válidas para operações de backup/recuperação Oracle, como descrito posteriormente nos casos de uso. Além do Timefinder, o Symmetrix série VMAX™ apresenta um divisor de gravação RecoverPoint integrado, que fornece a tecnologia RecoverPoint™ de proteção de dados remotos e locais. Informações detalhadas sobre a integração do RecoverPoint 3.5 com o Symmetrix série VMAX podem ser encontradas em http://brazil.emc.com e em http://Powerlink.EMC.com.

Symmetrix VMAX Virtual Provisioning

Os thin devices Symmetrix são dispositivos lógicos que podem ser usados de várias maneiras iguais às usadas tradicionalmente pelo Symmetrix. Ao contrário dos dispositivos Symmetrix tradicionais, os thin devices não precisam ter armazenamento físico pré-alocado no momento em que o volume é criado e apresentado a um host. Entretanto, em muitos casos, os clientes interessados somente na facilidade de gerenciamento e no striping amplo do thin-pool optam por pré-alocar totalmente os thin devices. Você só pode usar um thin device quando ele for vinculado a um thin-pool. Múltiplos thin devices podem ser vinculados a qualquer thin-pool. O thin-pool é constituído de dispositivos denominados dispositivos de dados que fornecem o armazenamento físico real para dar suporte a alocações do thin device. A tabela 2 apresenta as definições básicas sobre o Virtual Provisioning.

Tabela 2. Definições de dispositivos Virtual Provisioning

Dispositivo Descrição

Thin device Um dispositivo acessível pelo host não tem armazenamento diretamente associado a ele.

Dispositivos de dados

Dispositivos internos que quando colocados em um thin-pool fornecem capacidade de armazenamento a ser usada por thin devices.

Thin-pool Um conjunto de dispositivos de dados que fornece capacidade de armazenamento para thin devices.

Page 16: ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de armazenamento associada a um modelo de implementação de RAC estendido. O Oracle RAC

16 Oracle RAC (Real Application Clusters) em clusters de longa distância com o EMC® VPLEX™ Metro

Implementação do VPLEX Metro com o Oracle RAC estendido

Considerações sobre a implementação do Oracle RAC estendido em um ambiente VPLEX Metro

O EMC VPLEX ultrapassa as barreiras físicas dos datacenters e permite que os usuários tenham acesso simultâneo aos dados em diferentes locais geográficos. O Oracle RAC estendido com o VPLEX Metro viabiliza o compartilhamento transparente de carga de trabalho entre vários locais que acessam um banco de dados único. Ao mesmo tempo, fornece flexibilidade para migrar cargas de trabalho entre locais antes de eventos planejados como a manutenção de hardware. Além disso, no caso de um evento não planejado que cause interrupção dos serviços em um dos datacenters, as conexões do client com falha podem ser redirecionadas automaticamente com o uso do Oracle TAF (Transparent Application Failover TAF) para os nós do Oracle RAC em execução no local sobrevivente.

Diretrizes de implementação do Oracle RAC estendido e do VPLEX Metro

Os pontos a seguir descrevem algumas das principais diretrizes de implementação.

Implementação do Oracle Clusterware e do VPLEX Witness

Com frequência, as implementações do Oracle RAC estendido enfatizam a implementação de um terceiro local para um dos voting files do Oracle Clusterware (possível com base no sistema de arquivos de rede). Para não deixar dúvidas: o uso dos voting disks do Oracle Clusterware ainda é necessário para o Oracle RAC em clusters de longa distância com o VPLEX Metro. Entretanto, os voting disks do cluster residirão em volumes virtuais do VPLEX. Isso garante o alinhamento do acesso do voting disk Oracle com o comportamento do Oracle RAC e o comportamento do failover do VPLEX Metro. Com o VPLEX, é apenas o VPLEX Witness que é implementado em um domínio de falha independente (o terceiro local no caso de uma implementação em vários locais), como descrito na seção VPLEX Witness anteriormente:

• No caso de um particionamento de interconexão Oracle (não de uma falha real no local e nenhum efeito na interconexão VPLEX), o Oracle Clusterware fará a reconfiguração com base na maioria do nó e no acesso ao voting disk.

• No caso de um particionamento de interconexão VPLEX (ou de uma falha real no local), imediatamente o VPLEX permite que o I/O continue em um cluster com base na orientação do Cluster Witness e nas regras de preferência no local. Portanto, os nós de cluster do Oracle terão acesso aos voting disks apenas onde o VPLEX permite que o I/O continue, e o Oracle Clusterware fará a reconfiguração do cluster apropriadamente. Embora os voting disks ainda sejam necessários, eles não precisam ser implementados em um 3o local independente, já que o VPLEX Witness fornece proteção contra desconexão e garante o alinhamento do comportamento do Metro e do Oracle Clusterware. Além disso, já que o VPLEX Witness controla o acesso aos voting files, um comportamento consistente e determinístico é garantido em implementações do Oracle RAC independentes e aplicativos de usuários upstream dependentes.

Page 17: ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de armazenamento associada a um modelo de implementação de RAC estendido. O Oracle RAC

17 Oracle RAC (Real Application Clusters) em clusters de longa distância com o EMC® VPLEX™ Metro

Implementação do Oracle Clusterware

O Oracle Clusterware é implementado apenas em volumes distribuídos do VPLEX (não em um terceiro local) como descrito na seção anterior. Com o Oracle Database 11g Release 2, o Oracle Clusterware foi mesclado ao Oracle ASM para criar o Oracle Grid Infrastructure. Portanto, o primeiro grupo de discos do ASM é criado no momento da instalação do Oracle Grid Infrastructure.

• Quando o Oracle ASM é usado para hospedar os arquivos do Oracle Clusterware (OCR e Voting Files), a partir do Oracle Database 11g Release 2, a EMC recomenda a criação de um grupo de discos exclusivo apenas para os arquivos do Oracle Clusterware, por exemplo: +GRID (isto é, nenhum conteúdo de banco de dados, como arquivos de dados ou registros, será inserido nesse local). O grupo de discos +GRID se beneficiará do uso da redundância Normal ou Alta. Dessa forma, o Oracle criará múltiplos voting disks, em vez de apenas um, como no caso em que o grupo de discos +GRID do ASM usava redundância externa3). Como nenhum conteúdo de banco de dados é incluído, o tamanho dos dispositivos VPLEX distribuídos usados para este grupo de discos pode ser relativamente pequeno.

• A abordagem recomendada quando por trás do VPLEX é usado o armazenamento EMC, como o Symmetrix série VMAX ou série VNX, ou quando é usada a proteção VPLEX RAID, é definir todos os outros grupos de discos do ASM com redundância externa. Isso fornece a proteção adequada para os membros do ASM, com base no VPLEX ou no RAID do storage array.

• Como todos os nós de cluster Oracle exigem acesso a todos os dispositivos do banco de dados e do Oracle Clusterware, tanto o Oracle Clusterware quanto o banco de dados Oracle devem usar apenas os volumes distribuídos do VPLEX, independentemente de serem usados o ASM, dispositivos brutos ou um file system em cluster.

Notas adicionais

Na plataforma de servidor baseada em x86, verifique se as partições estão alinhadas. O VPLEX requer alinhamento com deslocamento de 4 KB. Entretanto, se o Symmetrix for usado em alinhamento com deslocamento de 64 KB (128 blocks), que é alinhado nativamente no limite de 4 KB também:

• No Windows, pode ser usado diskpar ou diskpart. No Linux, pode ser usado fdisk ou particionado.

• Um exemplo de partição de alinhamento com deslocamento de 64 KB usando fdisk é mostrado mais à frente na seção: Criar partições em dispositivos PowerPath.

3 A partir do Oracle 11g Release 2, o número de voting files do Oracle Clusterware é determinado automaticamente pelo nível de redundância do ASM. A redundância Externa, por exemplo, requer um voting disk, a redundância Normal requer três voting disks, e a redundância Alta requer cinco voting disks.

Page 18: ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de armazenamento associada a um modelo de implementação de RAC estendido. O Oracle RAC

18 Oracle RAC (Real Application Clusters) em clusters de longa distância com o EMC® VPLEX™ Metro

Proteção do Oracle RAC estendido e VPLEX Metro contra tempo de inatividade não planejado

A combinação do Oracle RAC estendido com o VPLEX Metro fornece maior disponibilidade e resiliência a muitas situações de falha e, consequentemente, aumenta a disponibilidade dos aplicativos e bancos de dados de missão crítica. Tabela 3 resume a lista de cenários de falha e as práticas recomendadas que permitirão que o banco de dados continue as operações em cada um. Observe que a lista não abrange o failover para sistemas standby (como o Oracle Data Guard, RecoverPoint, SRDF, etc.) Os Guias do Produto EMC VPLEX com o GeoSynchrony 5.0.1 e 5.1 fornecem mais informações sobre as práticas recomendadas de conectividade do VPLEX.

Tabela 3. Resumo da resiliência do VPLEX Metro, Oracle RAC e Oracle RAC estendido

Cenários de falha de resiliência no local e no host

Falha Servidor único de banco de dados Oracle (não RAC)

Oracle RAC (não estendido)

Oracle RAC estendido com VPLEX Metro

Falha na porta de HBA do host

• Cada host deve ter mais do que um caminho único para o armazenamento. Uso de múltiplas portas de HBA (iniciadores).

• Uso de software de múltiplos caminhos (como o EMC PowerPath®) para failover de caminho automático e balanceamento de carga.

• A conectividade ideal da SAN (Storage Area Network) usará switches redundantes nos quais as portas de HBA (iniciadores) se distribuirão.

Igual ao servidor único

Igual ao servidor único

Falha de hardware do host

• Tempo de inatividade implícito até o host e o aplicativo retomarem as operações.

• O Oracle RAC fornece resiliência de banco dados para falhas de N-1 (nós com N= nós no cluster) por meio da recuperação automática da instância e da presença de outros nós de cluster prontos para conexões de usuário.

• O Oracle TAF (Transparent Application Failover) pode ser usado para permitir o failover automático das sessões em um nó de cluster sobrevivente.

Igual ao Oracle RAC

Page 19: ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de armazenamento associada a um modelo de implementação de RAC estendido. O Oracle RAC

19 Oracle RAC (Real Application Clusters) em clusters de longa distância com o EMC® VPLEX™ Metro

Cenários de falha de resiliência no local e no host

Falha no local/prédio/laboratório

• Tempo de inatividade implícito até o host e o aplicativo retomarem as operações.

• Tempo de inatividade implícito até o host e o aplicativo retomarem as operações.

• Com a instalação do VPLEX Witness e clusters em domínios de falha independentes (como em outro prédio ou local), ele se torna resiliente a falhas no local, prédio ou laboratório.

• O cluster VPLEX no domínio de falha não afetado pelo desastre continuará a exibir I/Os para o aplicativo.

• Use o Oracle TAF (Transparent Application Failover) para permitir failover automático de conexão de usuário nos nós de cluster sobreviventes.

Cenários de falhas de resiliência de banco de dados/rede

Falha Servidor único de banco de dados Oracle (não RAC)

Oracle RAC (não estendido)

Oracle RAC estendido com VPLEX Metro

Falha da instância do banco de dados ou desconexão de rede pública

• Tempo de inatividade implícito até que a instância seja recuperada ou a rede pública reconectada.

• O Oracle RAC fornece resiliência de banco dados para falhas de nós N-1 (nós com N= nós no cluster) por meio da recuperação automática da instância e da presença de outros nós de cluster prontos para conexões de usuário.

• O Oracle TAF pode ser usado para permitir o failover automático das sessões nos nós de cluster sobreviventes.

Igual ao Oracle RAC

Particionamento de interconexão do Oracle RAC

• N/D • O Oracle RAC lida com esta falha de modo nativo e automático por meio da reconfiguração do cluster.

Igual ao Oracle RAC

Page 20: ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de armazenamento associada a um modelo de implementação de RAC estendido. O Oracle RAC

20 Oracle RAC (Real Application Clusters) em clusters de longa distância com o EMC® VPLEX™ Metro

Cenários de falhas de resiliência de armazenamento

Falha Servidor único de banco de dados Oracle (não RAC)

Oracle RAC (não estendido/estendido)

Oracle RAC estendido com VPLEX Metro

Falha de porta front-end • A conectividade da SAN deve incluir múltiplas portas front-end de armazenamento, preferencialmente nos directors do Symmetrix. Se estiver usando o Symmetrix com múltiplas engines, faça a conexão com portas em diferentes engines também para ter proteção ainda maior.

Igual ao servidor único

Igual ao servidor único

Falha de drive físico • Use proteção do RAID de armazenamento. O armazenamento do Symmetrix usa a proteção do RAID na qual o RAID1 e o RAID5 protegem da falha de um disco em um grupo de RAID, e o RAID6 protege de falhas de dois discos em um grupo de RAID. Em ambos os casos, o aplicativo continuará a ser executado sem problemas.

• Se um drive começar a apresentar falhas, o drive hot spare do Symmetrix copiará os dados, e o EMC Enginuity™ iniciará o Call Home para informar o suporte EMC imediatamente.

Igual ao servidor único

Igual ao servidor único

Componentes do storage array, inclusive director board (cache, I/O)

• Os componentes do Symmetrix são totalmente redundantes, inclusive o cache espelhado, que também é persistente (usa compartimentação no caso de falha de energia prolongada), fontes de alimentação e directors redundantes.

• Os dados do Symmetrix são protegidos pelo padrão T10 DIF (Data Integrity Field) desde que entram no armazenamento até saírem dele.

Igual ao servidor único

Igual ao servidor único

Page 21: ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de armazenamento associada a um modelo de implementação de RAC estendido. O Oracle RAC

21 Oracle RAC (Real Application Clusters) em clusters de longa distância com o EMC® VPLEX™ Metro

Cenários de falhas de resiliência de armazenamento

Perda de conectividade com storage array

• Tempo de inatividade implícito até que a conectividade do storage array seja retomada.

• O tempo de inatividade é implícito, a não ser que o espelhamento baseado em host (ASM) seja configurado entre arrays ou até que a conectividade do storage array seja retomada.

• O consistency group síncrono do VPLEX Metro continua a exibir I/Os nos dois locais, mesmo se um dos storage arrays não estiver disponível.

• O Oracle Clusterware não toma conhecimento da indisponibilidade do armazenamento, já que o cluster VPLEX continua a atender todos os I/Os.

Cenários de falhas de resiliência do VPLEX

Falha Servidor único de banco de dados Oracle (não RAC)

Oracle RAC (não estendido/estendido)

Oracle RAC estendido com VPLEX Metro

Porta front-end • A conectividade da SAN deve incluir múltiplas portas front-end de armazenamento, preferencialmente nos directors do Symmetrix. Se estiver usando o VPLEX com múltiplas engines, faça a conexão com portas em diferentes engines também para ter proteção ainda maior.

• Use software de múltiplos caminhos (como PowerPath) para failover de caminho automático e balanceamento de carga.

• A conectividade ideal da SAN (Storage Area Network) usa switches redundantes com a conectividade a múltiplas portas front-end do VPLEX.

Igual ao servidor único

Igual ao servidor único

Portas back-end • De forma semelhante às portas front-end, use conectividade de switch redundante com portas back-end do VPLEX também, já que elas se conectam com o storage array.

Igual ao servidor único

Igual ao servidor único

Page 22: ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de armazenamento associada a um modelo de implementação de RAC estendido. O Oracle RAC

22 Oracle RAC (Real Application Clusters) em clusters de longa distância com o EMC® VPLEX™ Metro

Cenários de falhas de resiliência do VPLEX

Componentes de hardware do VPLEX

• Os componentes do VPLEX são totalmente redundantes, inclusive o cache persistente (usa compartimentação no caso de falha de energia prolongada), fontes de alimentação e directors redundantes.

Igual ao servidor único

Igual ao servidor único

Partição de interconexão do VPLEX

N/D N/D Se os dois locais ainda estiverem disponíveis no cluster recomendado do VPLEX, as regras de desanexação determinarão qual cluster retomará os I/Os e qual será suspenso, sem tempo de inatividade para o host conectado com o cluster sobrevivente.

Cluster VPLEX indisponível

• N/D • N/D • O VPLEX Witness permitirá que o I/O reinicie no cluster VPLEX. Os nós do Oracle RAC conectados a esse cluster VPLEX continuarão as operações com RTO (Recovery Time Objective, objetivo de tempo de recuperação) 0.

• Use o Oracle TAF (Transparent Application Failover) para permitir a reconexão automática do client aos nós do Oracle RAC conectados ao cluster VPLEX sobrevivente

Embora a arquitetura do VPLEX Metro seja projetada para permitir acesso simultâneo a múltiplos locais, a versão atual do produto é compatível com uma configuração de dois locais separados por uma distância síncrona com uma latência máxima de ida e volta de 5 ms entre os dois locais. Além disso, é possível que o Oracle RAC estendido com o VPLEX Metro exija a extensão de uma VLAN (Virtual Local Area Network) para diferentes datacenters físicos para facilitar a conectividade do client com a interconexão do nó do Oracle RAC. Tecnologias como VPLS, da Brocade, e OTV (Overlay Transport Virtualization), da Cisco, podem ser usadas para esse serviço. O livro técnico EMC VPLEX Architecture and Deployment: Enabling the Journey to the Private Cloud , disponível no EMC Powerlink®, fornece mais informações sobre a configuração do EMC VPLEX Metro.

Page 23: ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de armazenamento associada a um modelo de implementação de RAC estendido. O Oracle RAC

23 Oracle RAC (Real Application Clusters) em clusters de longa distância com o EMC® VPLEX™ Metro

VPLEX Metro com testes e configurações do laboratório do Oracle RAC estendido Configuração e instalação do laboratório

A seção a seguir descreve os componentes e tecnologias usados nos casos de teste documentados neste paper.

Ambiente físico

Figura 7 ilustra a arquitetura física geral da configuração implementada do Oracle RAC estendido usada para os testes apresentados neste paper. O Oracle RAC estendido consistiu em quatro nós do Oracle RAC, dois em cada datacenter simulado (Local A e Local B).

Figura 7. Configuração do VPLEX Metro para o Oracle RAC estendido

O hardware incluiu a configuração da conectividade Fibre Channel entre os hosts, os clusters VPLEX e o armazenamento Symmetrix série VMAX para os switches redundantes. Em cada local, foi feito o zoneamento dos hosts para as portas locais front-end do cluster VPLEX e do armazenamento para as portas back-end do cluster VPLEX. Foi feito o zoneamento dos clusters VPLEX entre si (por meio do simulador de distâncias nesse caso). A interconexão do Oracle RAC entre os locais usou o mesmo simulador de distância para emular a mesma sobrecarga de latência da interconexão do VPLEX. O simulador de distância usou dois links de um GigE com compactação WAN e switches Ciena para mudança de protocolo.

Tabela 4 mostra detalhes de hardware do storage array Symmetrix, hosts e VPLEX. O hardware inclui dois clusters VPLEX de duas engines na configuração do Metro, além da tecnologia Symmetrix série VMAX de dois clusters de uma engine, fornecendo armazenamento local para cada cluster VPLEX. Os quatro nós RAC eram compostos por servidores principais duais Dell 2950 com 16 GB de cache. Os testes se concentraram em gerar uma carga de trabalho alta de I/O usando o OAST (Oracle Automated Stress Tool), em vez de usar uma grande quantidade de RAM para alcançar uma taxa alta de transações. O VPLEX Witness foi definido e conectado a cada cluster VPLEX.

Page 24: ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de armazenamento associada a um modelo de implementação de RAC estendido. O Oracle RAC

24 Oracle RAC (Real Application Clusters) em clusters de longa distância com o EMC® VPLEX™ Metro

Tabela 5 mostra o hardware de simulação de distância. Ele incluiu o Switch Fiber Ethernet Dell PowerConnect 6224F, que converte a rede IP gigabit em uma rede Fibre Channel. O gerenciador de rede Ciena CN 2000 fornece um sistema de rede óptico virtual com inputs de Fibre Channel, FICON ou GbE. Ele é compatível com compactação de dados e DBA (Dynamic Bandwidth Allocation, alocação dinâmica de largura de banda) para fornecer qualidade de serviço em nível de porta para conexões do client. O Empirix PacketSphere Network Emulador forneceu uma emulação de rede controlada para problemas de rede, como latência de rede para tráfego de rede com velocidade de cabos gigabit full-duplex.

Tabela 4. Ambiente de hardware do Oracle RAC estendido

Hardware Quantidade Versão e configuração EMC VPLEX Metro 2 VPLEX Metro com GeoSynchrony 5.0.1

Duas engines e quatro directors em cada cluster

VPLEX Witness 1 Dell R900 executando uma máquina virtual VPLEX Witness

Symmetrix série VMAX 2 Engine única VMAX com o Enginuity 5875, 112 drives FC de 450 GB e 15.000 rpm usando o Virtual Provisioning

Servidor Dell 2950 (nós RAC) 4 Dois dual-core com 16 GB RAM Emulex Express (duas portas de HBA usadas por servidor)

4

Uma das principais diretrizes durante a etapa de conectividade é maximizar a redundância de hardware usando, por exemplo, dois switches, mais de um HBA, múltiplos caminhos para failover de caminho dinâmico e balanceamento de carga.

Tabela 5. Ambiente de hardware de simulação de distância

Hardware Quantidade Versão e configuração Switch Fiber Ethernet Dell PowerConnect 6224F

1 Suporte para até quatro uplinks Fiber de 10 gigabits e dois uplinks Ethernet de cobre padrão 10GBase-T

Gerenciador de rede Ciena CN 2000

1 Gerenciador de rede Ciena ON-Center CN 2000 5.0.1

Emulador de rede Empirix PacketSphere

1 Emuladores de rede Empirix Network Emulador NE XG 1.0B8, 2 1-GbE

Servidor Dell 2950 4 Dois dual-core com 16 GB RAM

Tabela 6 descreve o software de host usado.

Tabela 6. Software de host

Software Versão SO do servidor Oracle Linux Release 5 Update 4 x86_64

EMC PowerPath Versão 5.5 para Linux x86_64

Oracle Oracle Clusterware 11g R2 (11.2.02) e Oracle Database 11g R2 (11.2.0.2) para Linux x86-64

Page 25: ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de armazenamento associada a um modelo de implementação de RAC estendido. O Oracle RAC

25 Oracle RAC (Real Application Clusters) em clusters de longa distância com o EMC® VPLEX™ Metro

Configuração do armazenamento e planejamento de alocação de dispositivo

Symmetrix VMAX Virtual Provisioning e configuração de dispositivo de armazenamento

Tabela 7 descreve a configuração do dispositivo Symmetrix VMAX com armazenamento Virtual Provisioning e layout de volume para o VPLEX Metro com um ambiente de teste Oracle RAC estendido.

Essa configuração colocou os arquivos de registro e dados Oracle em thin-pools separados, o que permitiu que cada um deles usasse uma proteção do RAID distinta. Nessa configuração, os arquivos de dados foram colocados no thin-pool protegido RAID5, e os redo logs no thin-pool protegido RAID1:

• O thin-pool protegido RAID5 do Symmetrix oferece uma boa combinação de benefícios de proteção, desempenho e utilização da capacidade para os arquivos de dados com gravações otimizadas e paridade de rotação, por isso é uma ótima escolha para arquivos de dados. Como em alguns casos o thin-pool protegido pode oferecer alguma melhoria na disponibilidade e no desempenho em relação ao RAID5, ele foi usado em arquivos de registros. O mesmo grupo de discos físicos foi compartilhado pelos dois thin-pools para permitir o compartilhamento total dos recursos físicos.

• Foi implementada uma configuração diferente, com foco na simplicidade, em vez de apenas na otimização de disponibilidade/desempenho do armazenamento, com os arquivos de registros e dados compartilhando o mesmo thin-pool e proteção do RAID (para RAID1, RAID5 ou RAID6).

Múltiplos grupos de discos do ASM foram usados na configuração:

• +GRID: como vimos anteriormente na seção Implementação do Oracle Clusterware, quando o ASM é usado para o Oracle Clusterware (a partir do Oracle Database 11g Release 2), a EMC recomenda a criação de um grupo de discos exclusivo apenas para o CRS, por exemplo, o +GRID. Essa abordagem que separa as LUNs do Clusterware do banco de dados é útil quando há planos de usar tecnologias de armazenamento como clones ou snapshots para criar cópias adicionais do banco de dados para realocação, backup e assim por diante. Essas cópias não incluirão as LUNs do Oracle Clusterware. Isso também é útil para soluções de recuperação de desastres como o RecoverPoint e o SRDF, já que os grupos de discos do ASM replicados excluem as LUNs do Oracle Clusterware e são montados em uma pilha do Oracle Clusterware já configurada no local de destino da recuperação de desastres.

• A separação dos grupos de discos do ASM +DATA, +LOG e +FRA permite que a tecnologia seja usada para descarregar backups da produção. Durante o processo de backup dinâmico, os grupos de discos +DATA e +FRA são clonados em horários diferentes. Além disso, replicações remotas, como do RecoverPoint e SRDF, criam nativamente uma réplica reiniciável do banco de dados. Réplicas reiniciáveis não acessam registros de arquivamento durante falha ou recuperação de instância, por isso os registros de arquivamento (grupo de discos +FRA) não precisam fazer parte da replicação.

• Os arquivos temporários geralmente podem ser incluídos no grupo de discos +DATA. Um grupo de discos do ASM separado foi usado nos testes com fins de monitoramento e não é uma recomendação específica para implementações.

Page 26: ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de armazenamento associada a um modelo de implementação de RAC estendido. O Oracle RAC

26 Oracle RAC (Real Application Clusters) em clusters de longa distância com o EMC® VPLEX™ Metro

Tabela 7. Configuração e atribuição de dispositivos de banco de dados e armazenamento

Thin devices (LUNs)

Dispositivos de dados

Grupo de discos do ASM e

atribuição de LUNs

Vinculação de thin-pools

Thin

devices

Instância

Grid/ASM do Oracle RAC

Grupo de discos do ASM +Grid

Redo_Pool

5 thin LUNs de 20 GB (15F:163)

56 RAID1 de 30 GB

Banco de dados: Nome: ERPFINDB Tamanho: 1 TB Núm LUNs: 38

Grupo de discos do ASM +REDO

Redo_Pool 5 thin LUNs de 20 GB (164:168)

+DATA: Grupo de discos do ASM

Data_Pool 25 thin LUNs de 60 GB (1A5:1B4)

56 RAID5 de 230 GB (3+1)

(C5:FC)

+TEMP: Grupo de discos do ASM

Temp_Pool

6 thin LUNs de 50 GB (17D:182)

56 RAID5 de 60 GB

(3+1)

(8D:C4)

+FRA: Grupo de discos do ASM

2 thin LUNs de 50 GB

VPLEX

Metadispositivos VPLEX

2 thin LUNs de 2 x 80 GB (2E5:2E8)

VPLEX Log 2 thin LUNs de 50 GB (2E9:2EA)

Provisionamento do Symmetrix série VMAX para o sistema VPLEX Metro

As etapas abaixo foram seguidas para provisionar armazenamento do sistema Symmetrix VMAX para um ambiente de armazenamento virtual VPLEX, o que é praticamente igual a provisionar armazenamento para servidores físicos ou virtuais. O processo descrito parte do pressuposto de que esta é a primeira vez que o armazenamento é provisionado a partir do Symmetrix VMAX para o sistema VPLEX Metro. Também pressupõe que foi feito o zoneamento do VPLEX para portas front-end do armazenamento Symmetrix VMAX. As ações do Symmetrix devem ser executadas a partir do host de gerenciamento conectado por meio do

Page 27: ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de armazenamento associada a um modelo de implementação de RAC estendido. O Oracle RAC

27 Oracle RAC (Real Application Clusters) em clusters de longa distância com o EMC® VPLEX™ Metro

gatekeeper ao Symmetrix ou com o uso do client Symmetrix Management Console. A lista a seguir mostra as atividades de configuração com foco na interface de linha de comando, embora também seja possível executá-las facilmente com o uso do Symmetrix Management Console.

Etapa Ação 1 Criar dispositivos Symmetrix nos arrays local e remoto com o uso do Symmetrix

Management Console ou da interface de linha de comando do Solutions Enabler.

2 Criar um grupo de execução Symmetrix com a execução da seguinte linha de comando:

symaccess –sid <symm_id> –name <group name> –type storage devs create

Por exemplo, o comando:

symaccess –sid 191 –name VPLEX1_Storage_Group –type storage devs 15F:168 create

cria o grupo de armazenamento Storage_Group_Test.

3 Criar um grupo de portas do Symmetrix. O comando: symaccess –sid 191 -name VPLEX1_Port_Group -type port –dirport <Dir>:<Port> create

Por exemplo, o comando: symaccess –sid 191 -name VPLEX1_Port_Group -type port –dirport 7E:1 create

cria o grupo de portas Port_Group_Test.

4 Criar um grupo iniciador do Symmetrix, onde os WWNs (World Wide Names, nomes mundiais) das portas back-end são os iniciadores "host" para o grupo iniciador do Symmetrix. É possível arquivar a criação do grupo iniciador Initiator_Group_Test com a execução do seguinte comando: symaccess –sid 191 –name VPLEX1_Initiator_Group –type init –wwn <WWN> create

Por exemplo, o comando: symaccess –sid 191 –name VPLEX1_Initiator_Group –type init –wwn 500014426011ee10 create

5 Criar a exibição do mascaramento do Symmetrix para reunir os grupos de iniciador, porta e armazenamento:

symaccess –sid 191 create view –name VPLEX1_View –storgrp VPLEX1_Storage_Group –portgrp VPLEX1_Port_Group –initgrp VPLEX1_Initiator_Group

6 Repetir as etapas de um a cinco para o provisionamento do armazenamento do segundo sistema VPLEX (VPLEX2) para o segundo VMAX (sid 219)

Page 28: ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de armazenamento associada a um modelo de implementação de RAC estendido. O Oracle RAC

28 Oracle RAC (Real Application Clusters) em clusters de longa distância com o EMC® VPLEX™ Metro

Configuração do VPLEX Metro

Etapas de configuração do cluster do VPLEX Metro

Figura 8 lista as principais tarefas necessárias para a configuração do VPLEX Metro.

Figura 8. Visão geral das tarefas de configuração do VPLEX Metro

Observação: é necessário configurar os dois clusters VPLEX Metro conforme a descrição. Você não pode configurar cada um separadamente e depois juntá-los.

Configuração da conectividade do cluster do VPLEX Metro Os dois principais componentes da comunicação entre os locais do VPLEX Metro são FC e IP. O VPLEX Metro pode usar tanto Fibre Channel quanto Ethernet de 10 gigabits para conectividade entre os directors de cada cluster. A conectividade entre os servidores de gerenciamento VPLEX de cada cluster é feita por meio de

Page 29: ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de armazenamento associada a um modelo de implementação de RAC estendido. O Oracle RAC

29 Oracle RAC (Real Application Clusters) em clusters de longa distância com o EMC® VPLEX™ Metro

um túnel VPN (Virtual Private Network, rede privada virtual) seguro. É necessário configurar o VPLEX Metro com redes Fibre Channel ou Ethernet de 10 gigabits completamente independentes e redundantes (dual-fabric) entre os clusters para a conexão entre os directors. Isso oferece desempenho máximo, isolamento de falhas, tolerância a falhas e disponibilidade. Figura 9 é um exemplo de zoneamento de conectividade da WAN entre clusters.

Figura 9. Exemplo de zoneamento de conectividade da WAN entre clusters do VPLEX

Verificação da conectividade do cluster

Para verificar a conectividade da WAN, faça log-in na interface de linha de comando do VPLEX e execute o seguinte comando: ll **/hardware/ports/ Um exemplo: VPlexcli:/> ll **/hardware/ports/

/engines/engine-1-1/directors/director-1-1-A/hardware/ports:

Name Address Role Port Status

------- ------------------ --------- -----------

A2-FC00 0x500014426011ee20 wan-com up

A2-FC01 0x500014426011ee21 wan-com up

A2-FC02 0x500014426011ee22 wan-com up

A2-FC03 0x500014426011ee23 wan-com up

/engines/engine-1-1/directors/director-1-1-B/hardware/ports:

Name Address Role Port Status

------- ------------------ --------- -----------

B2-FC00 0x500014427011ee20 wan-com up

B2-FC01 0x500014427011ee21 wan-com up

B2-FC02 0x500014427011ee22 wan-com up

B2-FC03 0x500014427011ee23 wan-com up

/engines/engine-2-1/directors/director-2-1-A/hardware/ports:

Name Address Role Port Status

Page 30: ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de armazenamento associada a um modelo de implementação de RAC estendido. O Oracle RAC

30 Oracle RAC (Real Application Clusters) em clusters de longa distância com o EMC® VPLEX™ Metro

------- ------------------ --------- -----------

A2-FC00 0x5000144260168220 wan-com up

A2-FC01 0x5000144260168221 wan-com up

A2-FC02 0x5000144260168222 wan-com up

A2-FC03 0x5000144260168223 wan-com up

/engines/engine-2-1/directors/director-2-1-B/hardware/ports:

Name Address Role Port Status

------- ------------------ --------- -----------

B2-FC00 0x5000144270168220 wan-com up

B2-FC01 0x5000144270168221 wan-com up

B2-FC02 0x5000144270168222 wan-com up

B2-FC03 0x5000144270168223 wan-com up

Para verificar o status do link FC MAN, execute o comando cluster summary. Um exemplo:

VPlexcli:/> cluster summary

Clusters:

Name Cluster ID Connected Expelled Operational Status Health State

--------- ---------- --------- -------- ------------------ ------------

cluster-1 1 true false ok ok

cluster-2 2 true false ok ok

Islands:

Island ID Clusters

--------- --------------------

1 cluster-1, cluster-2

Conectividade do host do VPLEX Metro

Para garantir o nível mais alto de conectividade e disponibilidade para o Oracle RAC estendido mesmo durante operações anormais de conexão dos Oracle RAC Servers com o EMC VPLEX, cada Oracle RAC Server no modelo de implementação do Oracle RAC estendido deve ter pelo menos dois HBAs físicos. E cada HBA deve estar conectado a portas front-end em directors diferentes no EMC VPLEX. Essa configuração garante a disponibilidade contínua dos nós do EMC VPLEX, mesmo se uma das portas front-end do EMC VPLEX estiver off-line para eventos de manutenção planejada ou interrupções não planejadas.

Quando a configuração de uma engine do VPLEX única estiver conectada a um nó do Oracle RAC, cada HBA deve ser conectado às portas front-end disponíveis nos directors A e B da engine do VPLEX. A conectividade com as portas front-end do VPLEX deve consistir, primeiro, na conexão de hosts exclusivos à porta 0 de cada módulo do I/O que emule os directors de front-end, antes da conexão de hosts adicionais às portas restantes no módulo do I/O. Se múltiplas engines do VPLEX estiverem disponíveis, os HBAs dos Oracle RAC Servers devem ser conectados a engines diferentes.

Page 31: ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de armazenamento associada a um modelo de implementação de RAC estendido. O Oracle RAC

31 Oracle RAC (Real Application Clusters) em clusters de longa distância com o EMC® VPLEX™ Metro

A conectividade das engines do VPLEX aos storage arrays deve seguir as práticas recomendadas para o array. Uma discussão detalhada sobre as práticas recomendadas para a conexão do armazenamento de back-end está além do escopo deste paper. O livro técnico EMC VPLEX Architecture and Deployment: Enabling the Journey to the Private Cloud fornece mais informações.

Administração do VPLEX Metro

A administração do VPLEX Metro que executa o Geosynchrony 5.1 pode ser feita por meio do EMC Unisphere™ para VPLEX Management Console. Algumas funções avançadas adicionais são fornecidas pela interface de linha de comando do VPLEX. Ao autenticar a interface gráfica do usuário segura baseada na Web, o usuário vê várias opções de configuração na tela, listadas na ordem em que foram concluídas. A ajuda on-line do EMC Unisphere para VPLEX Management Console fornece mais informações sobre cada etapa do workflow. A tabela a seguir resume as etapas que devem ser seguidas desde a detecção dos arrays até o momento em que o armazenamento fica visível para o host.

Etapa Ação 1 Detectar o armazenamento disponível

O VPLEX Metro detecta automaticamente os storage arrays que estão conectados às portas back-end. Todos os arrays conectados a cada director do cluster estão listados na exibição Storage Arrays.

2 Reivindicar volumes de armazenamento Os volumes de armazenamento devem ser reivindicados antes de serem usados no cluster (exceto o volume de metadados, que é criado a partir de um volume de armazenamento não reivindicado). Apenas após ser reivindicado é que o volume de armazenamento pode ser usado para criar extents, dispositivos e, depois disso, volumes virtuais.

3 Criar extents Crie extents para os volumes de armazenamento selecionados e especifique a capacidade.

4 Criar dispositivos a partir de extents Um dispositivo simples é criado a partir de um extent e usa armazenamento em apenas um cluster.

5 Criar um volume virtual Crie um volume virtual usando o dispositivo criado na etapa anterior.

6 Registre os iniciadores Quando os iniciadores (hosts que acessam o armazenamento) estão conectados diretamente ou por meio de um fabric Fibre Channel, o VPLEX Metro os detecta automaticamente e preenche a exibição Iniciadores. Após a detecção dos iniciadores, você deve registrá-los com o VPLEX Metro para que eles possam ser adicionados a uma exibição do armazenamento e acessar o armazenamento. O registro de um iniciador dá um nome significativo ao nome mundial da porta, que geralmente é o nome do servidor DNS, para permitir que você identifique o host com facilidade.

7 Criar uma exibição do armazenamento Para que o armazenamento fique visível para um host, primeiro é necessário criar uma exibição do armazenamento e, em seguida, adicionar volumes virtuais e portas front-end do VPLEX Metro à exibição. Os volumes virtuais só ficam visíveis para os hosts quando estão em uma exibição do armazenamento com os iniciadores e portas associados.

Page 32: ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de armazenamento associada a um modelo de implementação de RAC estendido. O Oracle RAC

32 Oracle RAC (Real Application Clusters) em clusters de longa distância com o EMC® VPLEX™ Metro

8 Criar um consistency group

Crie um consistency group nos dois sistemas VPLEX e adicione todos os volumes virtuais atribuídos a dispositivos ASM do Oracle RAC, inclusive dispositivos Grid e ASM para o Oracle Database, que exigem consistência da ordem de gravação com o consistency group.

Figura 10 mostra a Ajuda on-line do layout lógico e provisionamento de armazenamento a partir do EMC VPLEX.

Figura 10. Interface de gerenciamento do EMC Unisphere for VPLEX

A interface de gerenciamento baseada em navegador, ilustrada na Figura 10, mostra de modo esquemático os vários componentes envolvidos no processo. O armazenamento do EMC VPLEX é exposto por meio de uma construção lógica chamada “Storage View” (Exibição do armazenamento), que é a união dos objetos “Registered initiators” (Iniciadores registrados), “VPLEX ports” (Portas VPLEX) e “Virtual Volume” (Volume virtual). O objeto “Registered initiators” lista o WWPN dos iniciadores que precisam de acesso ao armazenamento. No caso de um ambiente Oracle VM Server, a entidade “Registered initiators” contém o WWPN dos HBAs nos Oracle VM Servers conectados ao EMC VPLEX. O objeto “VPLEX ports” contém as portas front-end do array VPLEX pelo qual os “Registered initiators” acessam os volumes virtuais. O objeto “Virtual Volume” é um conjunto composto pelos volumes de armazenamento fornecidos ao EMC VPLEX por meio dos storage arrays de back-end. A imagem ampliada no canto inferior esquerdo da Figura 10 mostra que um volume virtual é criado com base em um “Device” (dispositivo), que por sua vez pode ser uma combinação de diferentes dispositivos construídos sobre uma entidade abstrata chamada “Extent” (extensão). A figura também mostra que um “Extent” é criado com base no

Page 33: ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de armazenamento associada a um modelo de implementação de RAC estendido. O Oracle RAC

33 Oracle RAC (Real Application Clusters) em clusters de longa distância com o EMC® VPLEX™ Metro

“Storage Volume” (Volume de armazenamento) exposto ao EMC VPLEX. Entretanto, para aproveitar tecnologias de replicação baseada em arrays, mapeamos cada storage device a partir do VMAX (mapeamento um a um) em toda a sua configuração de passagem (capacidade do dispositivo = capacidade do extent = capacidade do volume de armazenamento) para o VPLEX, com uma geometria de dispositivo VPLEX RAID 0 (apenas extent único). Com isso, os dispositivos de armazenamento subjacentes não são tocados pelo VPLEX, e a tecnologia de replicação de LUN de array back-end, como TimeFinder/Clone e TimeFinder/Snap, continua a funcionar normalmente.

A Figura 10 também mostra, no canto inferior direito, uma imagem ampliada com as sete etapas necessárias para provisionar o armazenamento a partir do EMC VPLEX. O assistente tem um mecanismo centralizado para provisionar armazenamento para diferentes membros do cluster, no caso do EMC VPLEX Metro. A primeira etapa no processo de provisionamento de armazenamento do EMC VPLEX é a detecção dos storage arrays conectados a ele. Essa etapa raramente precisa ser executada, já que o EMC VPLEX monitora proativamente as alterações no ambiente de armazenamento. A segunda etapa do processo é a “reivindicação” do armazenamento exposto ao EMC VPLEX. O processo de reivindicar o armazenamento cria o “Storage Volume” do objeto mostrado na Figura 10. O Assistente de criação de exibição do armazenamento permite que você crie uma exibição do armazenamento e adicione iniciadores, portas e volumes virtuais a ela. Quando todos os componentes tiverem sido adicionados à exibição, ela se tornará ativa automaticamente. Quando a exibição do armazenamento estiver ativa, os hosts verão o armazenamento e começarão o I/O para os volumes virtuais. Após criar uma exibição do armazenamento, você só pode adicionar ou remover volumes virtuais por meio da interface gráfica do usuário. Para adicionar ou remover portas e iniciadores, use a interface de linha de comando. O Guia da interface de linha de comando do EMC VPLEX fornece informações completas sobre os comandos do VPLEX Metro.

VPLEX Metro com o VPLEX Witness

O VPLEX Witness é instalado como uma máquina virtual fechada implementada em um domínio de falha separado dos dois clusters VPLEX. Isso evita que uma falha única afete os clusters VPLEX e o VPLEX Witness. O VPLEX Witness é conectado a ambos os clusters VPLEX por uma rede IP de gerenciamento. Conciliando as próprias observações com as informações fornecidas periodicamente pelos clusters, o VPLEX Witness possibilita que os clusters diferenciem as falhas de partição de rede entre clusters das falhas de clusters, retomando o I/O automaticamente nessas situações.

Configuração do Oracle e host

Configuração de software com múltiplos caminhos

Como parte das práticas recomendadas para a conectividade do Oracle RAC Server com o VPLEX, cada Oracle RAC Server deve ter duas portas HBA, cada uma delas conectada a um Fibre Channel switch para maior disponibilidade. Nessa configuração, o host deve usar uma solução de múltiplos caminhos para manipular vários caminhos para o mesmo storage device, com o objetivo de fornecer alta disponibilidade, balanceamento de carga e migração em tempo real. Você pode instalar o EMC PowerPath for Oracle RAC Server como solução de múltiplos caminhos ou usar a solução de múltiplos caminhos nativa do Linux (device mapper). Para o Oracle RAC estendido em uma configuração EMC VPLEX Metro, como descrito neste paper, o EMC PowerPath 5.5 foi instalado nos quatro servidores físicos.

Page 34: ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de armazenamento associada a um modelo de implementação de RAC estendido. O Oracle RAC

34 Oracle RAC (Real Application Clusters) em clusters de longa distância com o EMC® VPLEX™ Metro

Instalar o rpm do PowerPath em cada host

[root@ RAC NODE 1: licoc039 ]rpm -i EMCpower.LINUX-5.5,0.00,00-275.RHEL5.x86_64.rpm

Talvez seja necessário reinicializar no primeiro acesso após a instalação do PowerPath para que o host registre os pseudodispositivos /dev/emcpower.

Instalar uma licença do PowerPath em cada host

[root@ RAC NODE 1: licoc039 ]emcpreg –add <key>

Configurar o PowerPath em cada host

[root@ RAC NODE 1: licoc039 ] powermt config

[root@ RAC NODE 1: licoe039 ] powermt display …

Pseudo name=emcpowerk

Invista ID=FNM00100600231

Logical device ID=6000144000000010A002636D3C679C6A

state=alive; policy=ADaptive; priority=0; queued-IOs=0

==============================================================================

---------------- Host --------------- - Stor - -- I/O Path - -- Stats ---

### HW Path I/O Paths Interf. Mode State Q-IOs Errors

==============================================================================

1 lpfc sdaq 08 active alive 0 0

2 lpfc sdbu 00 active alive 0 0

2 lpfc sdcy 08 active alive 0 0

1 lpfc sdm 00 active alive 0 0

Corresponder os nomes dos pseudodispositivos do PowerPath nos nós do Oracle RAC Server

Para fazer a correspondência entre os nomes dos pseudodispositivos do PowerPath nos nós do Oracle RAC Server, a EMC recomenda o uso do utilitário emcpadm do PowerPath. Esse utilitário permite exportar o mapeamento de um host e exportá-lo para outro. Também permite renomear um pseudodispositivo de cada vez se necessário.

<source host> emcpadm export_mapping -f <mapping_file_name>

Depois disso, copie o arquivo para os outros hosts. Encerre qualquer aplicativo que esteja usando dispositivos de armazenamento, desmonte qualquer file system ou exporte qualquer volume LVM (Logical Volume Management, gerenciamento de volumes lógicos). Em seguida, execute:

<target host> emcpadm check_mapping [-v] -f <mapping_file_name> <target host> emcpadm import_mapping -f <mapping_file_name>

Page 35: ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de armazenamento associada a um modelo de implementação de RAC estendido. O Oracle RAC

35 Oracle RAC (Real Application Clusters) em clusters de longa distância com o EMC® VPLEX™ Metro

Criar partições em dispositivos PowerPath

A EMC recomenda expressamente o alinhamento do deslocamento das partições da plataforma do servidor baseada em x86 para 64 KB quando o Symmetrix for usado. Se outro storage array for usado, é possível que os requisitos sejam diferentes, embora o tamanho deva ser sempre alinhado com deslocamento de 4 KB para corresponder ao tamanho de block do VPLEX. Figura 11 mostra o alinhamento a 64 KB para criar as partições em um dispositivo PowerPath. Basta iniciar o fdisk como mostrado a seguir e, quando as partições forem criadas, digitar “x” para entrar no modo Especialista. Digite “p” para ver (imprimir) a tabela de partição atual, inclusive o deslocamento em unidades de block. Digite “b” para mudar o deslocamento de qualquer partição. Por exemplo, mova a partição 1 do deslocamento padrão de 32 para 128 blocks. Como cada block tem 512 bytes, isso significa que 128 x 512 bytes = deslocamento de 64 KB. Se mais de uma partição for criada na LUN, verifique se o restante das partições está alinhado ou siga uma etapa semelhante para mudar o deslocamento para um número alinhado a 128 blocks (64 KB).

Figura 11. Alinhamento da partição ao limite de tamanho de rastreio do Symmetrix (64 KB)

Neste exemplo, uma partição é criada para um dispositivo PowerPath que será usado como um dispositivo Oracle ASM. [root@licoc091 ~]# fdisk /dev/emcpowerd Command (m for help): n Command action e extended p primary partition (1-4) p Partition number (1-4): 1 First cylinder (1-52218, default 1): [ENTER] Using default value 1 Last cylinder or +size or +sizeM or +sizeK (1-52218, default 52218): [ENTER] Command (m for help): p Disk /dev/emcpowerd: 54.7 GB, 54755328000 bytes 64 heads, 32 sectors/track, 52218 cylinders Units = cylinders of 2048 * 512 = 1048576 bytes Device Boot Start End Blocks Id System /dev/emcpowerd1 1 52218 53471168 83 Linux

M B R

Reservados (63 blocks)

Início padrão da

Novo início da partição

64 K 64 K

Page 36: ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de armazenamento associada a um modelo de implementação de RAC estendido. O Oracle RAC

36 Oracle RAC (Real Application Clusters) em clusters de longa distância com o EMC® VPLEX™ Metro

Alinhar partições em um limite de 64 KB (128 blocks). Command (m for help): x (going into export mode) Expert command (m for help): p (print partition table) Note that partition 1 starts at 32 blocks Disk /dev/emcpowerk: 64 heads, 32 sectors, 52218 cylinders Nr AF Hd Sec Cyl Hd Sec Cyl Start Size ID 1 00 1 1 0 63 32 1023 32 106942336 83 2 00 0 0 0 0 0 0 0 0 00 3 00 0 0 0 0 0 0 0 0 00 4 00 0 0 0 0 0 0 0 0 00 Expert command (m for help): b (move partition start) Partition number (1-4): 1 New beginning of data (32-2002943, default 32): 128 Expert command (m for help): p Disk /dev/emcpowerk: 64 heads, 32 sectors, 52218 cylinders Nr AF Hd Sec Cyl Hd Sec Cyl Start Size ID 1 00 1 1 0 63 32 1023 128 106942336 83 2 00 0 0 0 0 0 0 0 0 00 3 00 0 0 0 0 0 0 0 0 00 4 00 0 0 0 0 0 0 0 0 00 Expert command (m for help): w The partition table has been altered! Calling ioctl() to re-read partition table. Syncing disks. [root@licoc091 ~]#

Após a criação das partições, verifique se elas são reconhecidas pelos outros nós. Talvez seja necessário executar o comando fdisk em cada nó e gravar (“w”) a tabela de partições. Como alternativa, examinar o barramento SCSI ou reinicializar a partir de um dos outros nós também atualizará as informações.

Instalar o Oracle e configurar um banco de dados Oracle RAC

A tabela a seguir resume as etapas que devem ser seguidas para configurar nós de servidor Oracle para o Oracle Grid Infrastructure e a instalação do banco de dados ASM, de acordo com o Guia de Instalação do Grid Infrastructure para Linux do Oracle 11g Release 2 (11.2.0.2) e o Guia de Instalação de Banco de Dados para Linux do Oracle 11g Release 2 (11.2.0.2). O Guia de Instalação do Oracle RAC fornece mais detalhes. Os guias detalhados de instalação do Oracle estão disponíveis aqui:

http://www.oracle.com/technetwork/documentation/index.html#database

Page 37: ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de armazenamento associada a um modelo de implementação de RAC estendido. O Oracle RAC

37 Oracle RAC (Real Application Clusters) em clusters de longa distância com o EMC® VPLEX™ Metro

Etapas de alto nível:

Etapa Ação 1 Configurar rede privada de nós do servidor, arquivo /etc/hosts do SO, parâmetros do

kernel do SO, bem como editar o arquivo /etc/sysctl.conf. 2 Criar contas e grupos de usuários do Oracle para instalar e manter o Oracle 11gR2 nos

nós de cada RAC. 3 Atualizar o Boot Script (/etc/rc.d/rc.local)para definir permissões do Oracle para

dispositivos designados para o Oracle Clusterware e o Oracle ASM. 4 Configurar o SSH (Secure Shell Protocol) para usuário Oracle em cada nó do Oracle RAC.

5 Definir os limites do shell para usuário Oracle no arquivo /etc/security/limits.conf.

6 Modificar o arquivo /etc/pam.d/login e o arquivo /etc/profile corretamente.

7 Instalar qualquer pacote de SO adicional necessário para a instalação do Oracle.

8 Instalar o software Oracle 11g Release 2 (11,2.0,2) Database.

9 Criar grupos de discos adicionais do Oracle ASM para o Oracle Database.

10 Criar um banco de dados Oracle com o tamanho e os parâmetros de inicialização necessários para atender aos requisitos de desempenho e carga de trabalho de banco de dados desejada. Criar grupos de discos adicionais do Oracle ASM para o Oracle Database.

Testes de carga de trabalho de banco de dados OLTP

Usamos uma carga de trabalho padrão de OLTP (Online Transaction Processing, processamento de transações on-line), com proporção 70/30 para leitura/gravação, respectivamente. Isso demonstrou que o cluster do VPLEX Metro fornece ao Oracle RAC estendido alto desempenho e resiliência de carga de trabalho à distância metropolitana de 100 km. Como mencionado na seção de implementação deste paper, o ambiente de teste do Oracle RAC estendido com o VPLEX Metro consistiu em dois nós locais do Oracle RAC e dois nós remotos do Oracle RAC. A interconexão por rede remota entre os clusters VPLEX e os nós do Oracle RAC simulou a distância metropolitana (ciclo de ida e volta de 5 ms) usando o Empirix PacketSphere Network Emulator para a latência da rede. Como mostrado na Figura 12 e na Figura 13, uma carga de trabalho de 16 drivers foi usada em cada um dos nós do Oracle RAC. As taxas das transações da carga de trabalho OLTP (Online Transaction Processing, processamento de transações on-line), que indicam as transações por minuto, foram gravadas com cargas de trabalho de um nó, dois nós, três nós ou quatro nós. As cargas de trabalho foram aumentadas com o acréscimo de cada nó para mostrar os benefícios da capacidade de expansão do Oracle RAC. A taxa de transações aumentou proporcionalmente à medida que a carga de trabalho aumentou com o acréscimo de mais nós do Oracle RAC (16, 32, 48 e 64 drivers de carga de trabalho com um, dois, três e quatro nós, respectivamente). Aumentos semelhantes da taxa de transações foram mostrados na execução do VPLEX Metro com o Oracle RAC à distância de 0 km, assim como à distância metropolitana de 100 km. Além disso, o VPLEX Metro tem a capacidade de fornecer um alto desempenho com aproximadamente de 85 a 90% da taxa de transações para o Oracle RAC estendido à distância metropolitana de 100 km, em comparação com a linha de base, atingida à distância de 0 km. O VPLEX Metro também tem a capacidade de atingir 90% do desempenho da carga de trabalho para o Oracle RAC estendido à distância metropolitana de 50 km ou menos (dados não mostrados). Por isso, o

Page 38: ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de armazenamento associada a um modelo de implementação de RAC estendido. O Oracle RAC

38 Oracle RAC (Real Application Clusters) em clusters de longa distância com o EMC® VPLEX™ Metro

VPLEX Metro fornece ao Oracle RAC resiliência e alto desempenho de I/O para carga de trabalho OLTP (Online Transaction Processing, processamento de transações on-line) quando os dois datacenters estão localizados à distância metropolitana de 100 km. Também foram realizados testes com a distância de 500 km (ciclo de ida e volta de 5 ms) que demonstraram capacidade de expansão semelhante, embora com uma taxa de transações relativamente mais baixa devido ao aumento da latência. De um modo geral, a solução comprovou a capacidade do VPLEX e do Oracle RAC de aumentar o desempenho de aplicativo e, ao mesmo tempo, fornecer maior disponibilidade. Como o benchmark do OLTP foi completamente aleatório, não foi constatado conflito de acesso de block. Em implementações com carga de trabalho reais do cliente, o DBA deve prestar atenção (como de costume) a um possível conflito de acesso entre os nós de cluster, principalmente entre nós remotos, porque um conflito de acesso pode reduzir a taxa geral de transações.

Figura 12. Taxa de transações à distância de 0 km

Figura 13. Taxa de transações à distância de 100 km

0

5000

10000

15000

20000

25000

1 2 3 4

Taxa

de

tran

saçõ

es

Número de nós do RAC com carga de trabalho ativa

Distância: 0 km (linha de base)

0

5000

10000

15000

20000

25000

1 2 3 4 Taxa

de

tran

saçõ

es

Número de nós do RAC com carga de trabalho ativa

Distância: 100 km (ciclo de ida e volta de 1 ms)

Page 39: ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de armazenamento associada a um modelo de implementação de RAC estendido. O Oracle RAC

39 Oracle RAC (Real Application Clusters) em clusters de longa distância com o EMC® VPLEX™ Metro

Testes de situações de falha

O ambiente foi testado com sucesso em vários cenários de falha criados pela equipe de projetos, pelo E-LabTM (organização de qualidade e qualificação da EMC) e com base no plano de teste fornecido pela engenharia do Oracle RAC. Todos os testes foram concluídos com os resultados desejados. E foram realizados durante a execução da carga de trabalho (quando aplicável). Veja a seguir uma lista de apenas alguns dos testes realizados:

• Particionamento da interconexão do Oracle RAC (desconexão) com a infraestrutura do VPLEX Metro intacta.

• Particionamento da interconexão do VPLEX Metro e interconexão do Oracle RAC.

• Desconexão única do sistema de armazenamento sem tempo de inatividade de aplicativo.

• Simulação de falha no local com continuidade da execução da carga de trabalho no local sobrevivente.

• Perda de conectividade do host para diferentes nós do Oracle RAC sem afetar o restante do cluster.

• Mudanças no rebalanceamento do Oracle ASM, no armazenamento e na configuração do VPLEX, além de atualizações de software.

Conclusão O EMC VPLEX Metro, com o sistema operacional GeoSynchrony, é uma tecnologia corporativa de federação baseada em SAN que agrega e gerencia pools de storage arrays conectados por Fibre Channel que podem estar localizados em um só datacenter ou em vários datacenters separados geograficamente por distâncias metropolitanas. Além disso, com uma arquitetura exclusiva de scale-up e scale-out, a coerência de cache distribuído e armazenamento avançado em cache de dados do EMC VPLEX fornece resiliência de carga de trabalho, compartilhamento automático, bem como balanceamento e failover de domínios de armazenamento, permitindo o acesso local e remoto aos dados com níveis de serviço previsíveis. O Oracle RAC estendido distribuído em dois datacenters à distância metropolitana, com os recursos do EMC VPLEX METRO, fornece topologias de implementação simplificadas, administração de armazenamento, atualização técnica e capacidade de expansão de armazenamento não disruptiva. Além disso, o EMC VPLEX tem a capacidade de fornecer recursos para o gerenciamento de volumes e movimentação não disruptiva de dados heterogêneos em distâncias síncronas, permitindo que os clientes ofereçam serviços em nuvem econômicos e dinâmicos distribuídos por múltiplos locais físicos.

Page 40: ORACLE RAC (REAL APPLICATION CLUSTERS) … · reduzir parte da complexidade do gerenciamento de armazenamento associada a um modelo de implementação de RAC estendido. O Oracle RAC

40 Oracle RAC (Real Application Clusters) em clusters de longa distância com o EMC® VPLEX™ Metro

Referências Os documentos a seguir, que fornecem mais informações sobre o VPLEX e o Oracle RAC estendido, podem ser encontrados nos sites brazil.emc.com e docs.oracle.com, assim como no Powerlink:

• Notas técnicas de práticas recomendadas de implementação e planejamento do EMC VPLEX

• Livro técnico EMC VPLEX Metro Witness – Technology and High Availability

• Condições para suporte ao cluster estendido do host no EMC VPLEX Metro

• Guias de Produtos EMC VPLEX com GeoSynchrony 5.0 e 5.1

• http://www.oracle.com/goto/rac

• Oracle Database, 11g Release 2 (11.2)

• Guia Interativo de referência rápida do Oracle Database 11g