Escolar Documentos
Profissional Documentos
Cultura Documentos
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
Tópicos
O que é Big Data
Desafios para empresas e profissionais
Para inspirar
Tendências futuras
2
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
Como você define Big Data?
3
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
Definição de Big Data
Big Data faz referência ao grande
volume, variedade e velocidade de dados
que demandam formas inovadoras e rentáveis
de processamento da informação,
para melhor percepção e tomada de decisão.
Gartner
4
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
Definição de Big Data
5
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
VOLUME
VARIEDADE
Os 3 Vs de
Big Data
VELOCIDADE
6
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
1.23 bi
VOLUME usuários
ativos/dia 80
milhões
de fotos por
Facebook dia
40
milhões Instagram
de artigos
Wikipedia 1 bilhão
usuários 4 bilhões
Visualizações
por dia
Whatsapp
Youtube 7
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
VOLUME
População mundial 6.3 bilhões 6.8 bilhões 7.2 bilhões 7.6 bilhões
Mais
dispositivos
conectados
Dispositivos por pessoa 0.8 que pessoas
1.84 3.47 6.58
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
VOLUME
VARIEDADE
80%
dos dados globais atualmente são
VELOCIDADE não-estruturados
9
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
CENÁRIO TRADICIONAL
VOLUME
Dados
transacionais
VARIEDADE
Repositório
de dados
10
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
CENÁRIO ATUAL
VOLUME
Dados Dados
transacionais transacionais
VARIEDADE
Dados Repositório Dados
transacionais de dados transacionais
VELOCIDADE
12
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
O valor dos dados é reduzido com o passar do tempo
EVENTO OCORRIDO
VALOR
DADO ARMAZENADO
INFORMAÇÃO ENTREGUE
AÇÃO TOMADA
LATÊNCIA DA
DECISÃO
VELOCIDADE TEMPO
13
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
Definição de Big Data
Big Data faz referência ao grande
volume, variedade e velocidade de dados
que demandam formas inovadoras e rentáveis
de processamento da informação,
para melhor percepção e tomada de decisão.
Gartner
14
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
Tópicos
O que é Big Data
Desafios para empresas e profissionais
Para inspirar
Tendências futuras
15
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
Desafio
Inovação no
armazenamento
dos dados
16
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
REDES SOCIAIS TRANSAÇÕES
ONDE ARMAZENAR
ESSES DADOS?
VÍDEO MOBILE
ÁUDIO
COMO ESTRUTURAR IMAGEM
ESSES DADOS?
EMAIL DOCUMENTOS
COMO CONSULTAR
MENSAGEM ESSES DADOS? GEOLOCALIZAÇÃO
17
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
Tecnologias para armazenamento de dados
18
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
NoSQL
Diferentes formas de armazenamento
19
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
NoSQL
Orientado a chave-valor Orientado a documentos
Chave Valor
{ _ID: “123”;
Chave Valor item1: “valor1”;
item2: “valor2”
Chave Valor }
“O mais simples” “O mais popular”
Inovação no
processamento
dos dados
21
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
TECNOLOGIAS DE BIG DATA
=
Novas tecnologias capazes de oferecer
escalabilidade, disponibilidade, flexibilidade e
desempenho para a manipulação de grande
volume de dados
22
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
Inovação no processamento dos dados
23
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
Hadoop
Solução open source que permite a execução de aplicações de Big Data
utilizando milhares de máquinas
Benefícios:
Redução de custo Escalabilidade
Flexibilidade Desempenho
24
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
Hadoop - Quem utiliza
25
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
Ecossistema Hadoop
26
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
Demais tecnologias
27
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
Desafio
Inovação na
análise dos
dados
28
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
Big Data Analytics
Analytics Interferência humana
DESCRITIVA
O que aconteceu?
DIAGNÓSTICA
Por que isso aconteceu?
DADOS PREDITIVA
Decisão Ação
O que pode acontecer?
(3 Vs) Suporte à decisão
PRESCRITIVA
O que deveria ser feito?
Automação da decisão
PROCESSAMENTO
APRENDIZADO DE ANÁLISE DE REDES
ESTATÍSTICA DE LINGUAGEM
MÁQUINA SOCIAIS
NATURAL
30
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
80%
do processo de análise é gasto preparando os dados
LIMPEZA FILTRAGEM
AGREGAÇÃO CONVERSÃO
NORMALIZAÇÃO TRANSFORMAÇÃO
31
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
Desafio
Encontrar
colaboradores
capacitados
32
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
Cientista de dados
33
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
Cientista de dados
34
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
Cientista de dados
Ciência da Segurança e
computação Estatística
Privacidade
Design de
Mineração de produtos
Programação dados Visualização de
front-end dados
Programação
Infraestrutura back-end
Negócios
Conhecimento Gerenciamento
do negócio de produto
Gerenciamento Machine
de dados Learning
Comunicação Matemática
35
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
Cientista de dados
PROFISSÃO DO ANO DE 2016: CIENTISTA DE DADOS
salário médio anual: US$ 128.240
36
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
Cientista de dados
UM PROJETO DE BIG DATA NÃO SE FAZ SOZINHO!
37
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
Cientista de dados
Um projeto de Big Data deve ser formado por uma equipe
multidisciplinar altamente qualificada
39
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
Tópicos
O que é Big Data
Desafios para empresas e profissionais
Para inspirar
Tendências futuras
40
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
TARGET
Objetivo: analisar hábitos de compras e prever a gravidez
de clientes
Solução: Algoritmos de mineração de dados para análise
preditiva de dados
Padrões identificados:
- Compras de loção sem cheiro: segundo trimestre
- Suplementos de cálcio e zinco: primeiras 20 semanas
- Sabonete e pacotes de algodão: está para nascer
- 25 produtos analisados, ao todo
Resultado: Campanha de marketing personalizado
Analytics
Fonte: http://www.forbes.com/sites/kashmirhill/2012/02/16/how-target-figured-out-a-teen-girl-was-pregnant-before-her-father-did/ 41
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
PIRELLI
Objetivo: acelerar a coleta de dados e garantir que as
informações necessárias para operar suas operações de
forma eficiente estivessem disponíveis para o negócio em
tempo real.
Solução: Adoção de tecnologias de processamento em
memória de grande volume de dados.
Fonte: http://business.pirelli.com/global/en-ww/how-pirelli-is-becoming-data-driven 42
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
GENERAL ELETRIC
Objetivo: visualizações do
relacionamento entre sintomas de
doenças
Solução: analisar registros de 7.2
milhões de pacientes capturados nos
equipamentos da GE
Fonte: http://senseable.mit.edu/healthinfoscape/ 43
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
EMPRESAS COM NEGÓCIOS CENTRADOS EM
DADOS
44
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
? ? ?
TOMA DECISÕES POR TRATA OS DADOS COMO EXPLORA OS DADOS
MEIO DOS DADOS UM ATIVO DA EMPRESA CAPTURADOS
? ? ? 45
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
Tópicos
O que é Big Data
Desafios para empresas e profissionais
Para inspirar
Tendências futuras
46
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
O que se falava antes... O que se fala agora...
47
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
CHAT BOTS INDÚSTRIA 4.0 SEGURANÇA DOS DADOS
O QUE ESPERAR
PARA OS
PRÓXIMOS ANOS
EM BIG DATA?
48
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
Considerações finais
49
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
DADO É O NOVO PETRÓLEO!
50
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
Para saber mais…
51
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
Para saber mais…
52
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
Para saber mais…
https://www.casadocodigo.com.br/products/livro-big-data
53
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
Considerações finais
Big Data está apenas em seu início
BIG INOVAÇÃO
BIG DATA = BIG AGILIDADE
BIG CONHECIMENTO
BIG OPORTUNIDADE
55
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
Um BIG Obrigada!
Meus dados
Email: rpereira@larc.usp.br
LinkedIn: https://br.linkedin.com/in/rosangelafpm
Twitter: hadoop_girl
Lattes: http://lattes.cnpq.br/1095618344499722
Github: rosangelapereira
56
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU
Sobre a autora
Rosangela de Fátima Pereira Marquesone é pesquisadora no
Laboratório de Arquitetura e Redes de Computadores (LARC), atuando nas áreas de
computação em nuvem e Big Data. Atua como professora em cursos de Big Data para
empresas e programas de MBA e como revisora de código no nanodegree de Analista de
Dados da rede de cursos on-line Udacity.
É autora do livro "Big Data - Técnicas e tecnologias para extração de valor de dados",
publicado pela editora Casa do Código em 2016. É mestre e doutoranda em Engenharia
de Computação pela Escola Politécnica da Universidade de São Paulo (Poli-USP).
Seus principais interesses de pesquisa são: Big Data, computação em nuvem, mineração
de dados e Internet das coisas.
Também se interessa por temas como design thinking, mulheres na tecnologia e
empreendedorismo social.
57
Todos os direitos reservados. É proibida a reprodução total ou parcial sem autorização do LASSU