Logo do curso
Curso

AWS Data Lake:

processando dados com AWS EMR

Quero estudar na alura

8h

Para conclusão

368

Pessoas nesse curso

9.1

Avaliação média

Certificado

De participação

Introdução_

O que você aprenderá_

  • Construa uma pipeline para processamento de dados na AWS
  • Aprenda a construir um ETL e criar camada gold de dados
  • Conheça o AWS EMR e sua forma de cobrança
  • Saiba como provisionar a infraestrutura do AWS EMR configurando um cluster
  • Aprenda a construir um código Spark utilizando diferentes bibliotecas
  • Entenda como utilizar o AWS EMR de forma remota no Windows via Putty

Público alvo_

Pessoas Engenheiras de Dados; profissionais que desejam aprendar mais sobre AWS; pessoas que desejam construir uma pipeline de ETL e Engenharia de Dados para acrescentar ao portfólio.

Ana Hashimoto

linkedin

Ana é Administradora, Especialista em Ciência de Dados e Big Data e possui certificações AWS e Scrum. Atualmente é Coordenadora de Engenharia de Dados no Itaú Unibanco, Instrutora de Engenharia de Dados na Alura e Mentora de Carreira. Além disso, em seu tempo livre, gosta de viajar e assistir séries.

Rodrigo Fernando Dias

linkedin

Rodrigo é estatístico e especialista em Big Data com forte interesse em geoprocessamento, desenvolvimento web, web scraping, machine learning e Data Science. É instrutor e tech lead da escola de dados da Alura.

Curso atualizado em 23/05/2024

Ementa

  1. Preparando o ambiente

    • Entendendo a pipeline
    • Criação de tabela para armazenar a camada gold
  2. Criando e configurando o cluster AWS EMR

    • Conhecendo o AWS EMR e seu Pricing
    • Criação de cluster EMR - Hardware e Software
    • Criação de cluster EMR - Networking e Security
  3. Construindo script Spark

    • Construindo script PySpark - Transformação dos dados
    • Construindo script PySpark - Selecionando colunas desejadas e gravando no Data Lake
    • Adicionando step de execução no console do AWS EMR
  4. Visualizando o resultado e permissionamento

    • Executando o Job e visualizando o resultado
    • Configurando permissões para execução local (VPC e IAM)
  5. Executando o Job e conferindo

    • Executando Job Spark via CLI e visualizando resultados
    • Excluindo os recursos

Descubra se esse curso é pra você! Leia as primeiras aulas

Comece essa formação agora mesmo e capacite-se para seu próximo projeto!

Conheça os planos

Este e mais 3 cursos fazem parte das seguintes formações

Nossas formações são uma sequência de cursos e conteúdo para você se profissionalizar e se tornar quem o mercado procura!
Escola

Data Science

Trabalhe com dados. Aprofunde seu conhecimento nas principais ferramentas de uma pessoa data scientist. Descubra as diferentes possibilidades de análise de dados, do Excel ao Python, e mergulhe em frameworks e bibliotecas, como Pandas, Scikit-Learn e Seaborn.

Conheça a escola

Pessoas estudando esse curso nesse mês:

Estude com elas

e mais 73 pessoas

Faça parte da nossa comunidade no discord!

Troque conhecimentos com a comunidade da Alura

Aprenda SQL e Banco de Dados com esse e outros cursos, comece agora!

  • Plus

    Impulsione a sua carreira com os melhores cursos e faça parte da maior comunidade tech.

    R$109/mês

    1 ano de Alura

    Valor total R$1.308 em até 12x

    Matricule-se

    Assine o PLUS e garanta:

    • Acesso a TODOS os cursos por 1 ano

      Formações com mais de 1500 cursos atualizados e novos lançamentos semanais, em Programação, Inteligência Artificial, Front-end, UX & Design, Data Science, Mobile, DevOps e Inovação & Gestão.

    • Certificado

      A cada curso ou formação concluído, um novo certificado para turbinar seu currículo e LinkedIn.

    • Mentorias com especialistas

      No Discord, você tem acesso a eventos exclusivos, grupos de estudos e mentorias com especialistas de diferentes áreas.

    • Comunidade exclusiva

      Faça parte da maior comunidade Dev do país e crie conexões com mais de 120 mil pessoas no Discord.

    • Acesso ao conteúdo das Imersões

      Acesso ilimitado ao catálogo de Imersões da Alura para praticar conhecimentos em diferentes áreas.

    • App Android e iOS para estudar onde quiser

      Explore um universo de possibilidades na palma da sua mão. Baixe as aulas para assistir offline, onde e quando quiser.

  • O mais escolhido

    Pro

    Acelere o seu aprendizado com a IA da Alura e prepare-se para o mercado internacional.

    R$149/mês

    1 ano de Alura

    Valor total R$1.788 em até 12x

    Matricule-se

    Todos os benefícios do PLUS e mais vantagens exclusivas:

    • Luri , a inteligência artificial da Alura

      Luri é nossa inteligência artificial que tira dúvidas, dá exemplos práticos, corrige exercícios e ajuda a mergulhar ainda mais durante as aulas. Você pode conversar com a Luri até 100 mensagens por semana.

    • Alura Língua - Inglês e Espanhol

      Aprenda um novo idioma e expanda seus horizontes profissionais. Cursos de Inglês, Espanhol e Inglês para Devs, 100% focado em tecnologia.

  • Ultra

    Transforme a sua jornada com benefícios exclusivos e evolua ainda mais na sua carreira.

    R$209/mês

    1 ano de Alura

    Valor total R$2.508 em até 12x

    Matricule-se

    Todos os benefícios do PRO e mais vantagens exclusivas:

    • Luri , com mensagens ILIMITADAS

      Mensagens ilimitadas para estudar com a Luri, a IA da Alura, disponível 24hs para tirar suas dúvidas, dar exemplos práticos, corrigir exercícios e impulsionar seus estudos.

    • Luri Vision , a IA que enxerga suas dúvidas

      Envie imagens para a Luri e ela te ajuda a solucionar problemas, identificar erros, esclarecer gráficos, analisar design e muito mais.

    • 6 Ebooks da Casa do Código

      Escolha os ebooks da Casa do Código, a editora da Alura, que apoiarão a sua jornada de aprendizado para sempre.

Conheça os Planos para Empresas