SUZANA CAVALCANTE PALESTRA · FATEC DATA ENGINEER

Era da IA:
Você sabe como
funciona?

Suzana Cavalcante Data Engineer I — Bradesco

suzanacavalcante.com.br

←→ navegar

01 — COMO APRENDEMOS ERA DA IA

Você já ensinou algo para uma criança?

Existem três maneiras básicas de ensinar:

1

Erro

Aprende sozinha, sentindo a consequência do que fez.

Exemplo

Tropeça, cai… e da próxima vez olha por onde anda.

2

Correção

Alguém mostra o que está errado e explica o certo.

Exemplo

“O céu é azul porque reflete o mar.” Você explica o que de fato acontece, de um jeito lúdico.

3

Compreensão / Assimilação

Usa o que já sabe para entender algo totalmente novo.

Exemplo

Você apresenta uma zebra e ela conclui: “É um cavalo listrado!”

Inteligências Artificiais aprendem do mesmo jeito.

SOBRE MIM ERA DA IA

Quem sou eu

Suzana Cavalcante

Transformo dados brutos em decisões claras.

Formação: Engenharia de Software Universidade Anhanguera
Pós-graduação Em andamento: Data Engineer & IA Univ. Anhanguera SP Software Architecture FIAP Cybersecurity Univ. Anhanguera SP
Cargo atual: Data Engineer I Bradesco

CONTATO ERA DA IA

Redes sociais

Vamos nos conectar?

02 — DÉCADAS DE EVOLUÇÃO ERA DA IA

Um pouco de história

Muita gente acha que a IA nasceu em 2022.

Mas a história começou há mais de 80 anos.

1943 Primeiro neurônio artificial

2022 ChatGPT

02 — DÉCADAS DE EVOLUÇÃO ERA DA IA

Onde tudo começou

O que é uma rede neural?

Um modelo matemático inspirado no cérebro: neurônios artificiais conectados em camadas, que aprendem ajustando a força de cada conexão.

1
Entrada
Recebe os dados: números, pixels de uma imagem, palavras.
2
Camadas ocultas
Cada neurônio combina o que recebe, dá um peso a cada informação e passa adiante.
3
Saída
Entrega a resposta: uma previsão, uma classificação, a próxima palavra.

02 — DÉCADAS DE EVOLUÇÃO ERA DA IA

1943 · O primeiro neurônio artificial

A máquina de McCulloch-Pitts

WM

Warren McCulloch Neurocientista e psiquiatra · 1898–1969

Estudava como o cérebro produz o pensamento.

WP

Walter Pitts Lógico e matemático · 1923–1969

Autodidata, tinha só 20 anos quando os dois publicaram o artigo.

O artigo de 1943 “A Logical Calculus of the Ideas Immanent in Nervous Activity”

02 — DÉCADAS DE EVOLUÇÃO ERA DA IA

Como o neurônio decidia

Disparar ou não disparar?

1
Sinais excitatórios
Estimulam o neurônio: cada sinal ativo soma +1.
2
Limiar de disparo (threshold)
O mínimo para disparar: se a soma chega ao limiar θ, ele dispara.
3
Sinais inibitórios
Funcionam como veto: um único sinal ativo impede o disparo.
4
Ativação binária
Tudo ou nada: a saída é 0 ou 1, como um interruptor liga/desliga.

Clique nas entradas para testar

02 — DÉCADAS DE EVOLUÇÃO ERA DA IA

A grande discussão

Isso já era uma rede neural?

SIM
Imitava um neurônio de verdade
Entradas, soma, limiar e saída, como no cérebro.
SIM
Já fazia lógica
Ligados em rede, calculavam funções como E, OU e NÃO.
NÃO
O limiar era definido à mão
Os cientistas calculavam no papel até chegar a um consenso.
NÃO
Não aprendia sozinha
A cada problema novo, alguém tinha que recalcular tudo.

Veredito

Um neurônio artificial, sim. Uma rede que aprende, ainda não.

Caderno dos cientistas

Objetivo: disparar só com x₁ E x₂
θ = 1 → dispara com um sinal só ✗
θ = 3 → nunca dispara ✗
θ = 2 → funciona! ✓
Problema novo (OU)? Recalcular tudo… θ = 1

Definido à mão

02 — DÉCADAS DE EVOLUÇÃO ERA DA IA

1958 · O neurônio que aprende

O Perceptron

FR

Frank Rosenblatt Psicólogo · 1928–1971

Criou o Perceptron no Laboratório Aeronáutico de Cornell, nos EUA.

O que mudou McCulloch-Pitts Perceptron

Entradas todas valem igual cada uma tem um peso

Ajuste limiar calculado à mão pesos ajustados com exemplos

Aprende? não sim!

“Retina” de 400 fotocélulas

Classificador binário

← Esquerda

Direita →

A resposta é sempre uma entre duas.

A máquina Mark I Perceptron enxergava por uma “retina” de 20 × 20 fotocélulas. Já em 1958, numa demonstração para a Marinha dos EUA, o perceptron aprendeu a dizer se a marca de um cartão estava à esquerda ou à direita.

The New York Times, 1958 “O embrião de um computador que vai andar, falar, ver, escrever, se reproduzir e ter consciência da própria existência.”

02 — DÉCADAS DE EVOLUÇÃO ERA DA IA

1 · Estrutura básica

Cada entrada tem um peso

x
Entradas (x)
Os dados que chegam, como os pixels de uma imagem: 0 ou 1.
w
Pesos (w)
A importância de cada entrada: positivo puxa para o 1, negativo para o 0.
Σ
Soma ponderada
Cada entrada vezes o seu peso, e tudo somado.
H
Função degrau (Heaviside)
Se a soma passar de 0, a saída é 1; senão, é 0.

Clique nas entradas para testar

02 — DÉCADAS DE EVOLUÇÃO ERA DA IA

2 · Mecanismo de aprendizado

Aprender com correção

Lembra da criança? É a maneira nº 2.

1
Apresentação
O operador mostra uma imagem: um cartão com uma marca.
2
Previsão
O perceptron calcula a soma e responde: esquerda ou direita.
3
Correção
Se errou, o operador aplica a regra de ajuste e os pesos mudam.
4
Repetição
Depois de muitos exemplos, ele passa a acertar sozinho.

Cartão

Pesos

esquerda direita

Resposta

Σ = ? —

Gabarito: —

Regra de ajuste: peso novo = peso + erro × entrada

Histórico

Aprendeu!

02 — DÉCADAS DE EVOLUÇÃO ERA DA IA

A limitação

Só sabia traçar uma reta

1
Linearmente separável
Se uma reta divide as classes, como no E (AND), ele aprende.
2
O problema do XOR
No “OU exclusivo”, nenhuma reta separa os pontos: sempre sobra um erro.
3
Uma camada só
Com uma única camada de neurônios, a fronteira é sempre uma reta. O XOR precisaria de duas.

Função E (AND)OU exclusivo (XOR)

x₁	x₂	saída
0	0	00
0	1	01
1	0	01
1	1	10

Impossível com 1 reta!

Anos 1970

Começa o primeiro inverno da IA.

Em 1969, o livro “Perceptrons”, de Marvin Minsky e Seymour Papert, mostrou os limites de uma camada só. O dinheiro para pesquisar redes neurais congelou por mais de uma década.

02 — DÉCADAS DE EVOLUÇÃO ERA DA IA

1986 · Perceptron multicamadas (MLP)

Redes com camadas

Rumelhart, Hinton e Williams

Resolve problemas não linearmente separáveis, como o XOR.

1 · Estrutura de camadas ocultas
E
Camada de entrada (Input Layer)
Recebe os dados e repassa. Não calcula nada.
O
Camada oculta (Hidden Layer)
Cada neurônio traça a sua própria reta.
S
Camada de saída (Output Layer)
Combina as retas e dá a resposta final.
2 · Função de ativação
σ
Função sigmóide
Substitui o degrau (Heaviside) por uma curva suave.

02 — DÉCADAS DE EVOLUÇÃO ERA DA IA

Como a rede aprende

Backpropagation

O que é?

A retropropagação do erro: a rede compara a resposta com o gabarito e manda o erro de volta, camada por camada, para ajustar cada peso.

→
Forward pass (ida)
Os dados vão da entrada até a saída e a rede dá um palpite.
←
Backward pass (volta)
O erro volta da saída até a entrada: cada peso recebe a sua parte da culpa e é ajustado.
✉
Onde começou a ser usado
- 1974Paul Werbos descreve a ideia na sua tese, em Harvard.
- 1986Rumelhart, Hinton e Williams tornam o método famoso.
- 1989Bell Labs: lê CEPs escritos à mão nas cartas dos Correios dos EUA.

Esperado 1

Erro ?

Erro por rodada

02 — DÉCADAS DE EVOLUÇÃO ERA DA IA

Fim dos anos 1980 · anos 1990

O segundo inverno

As redes já sabiam aprender. Faltava força para calcular e exemplos para aprender.

1
Limitação de hardware
Os computadores processavam tudo só no processador (CPU). As GPUs ainda não eram usadas para isso.
2
Falta de dados
Ainda não havia redes sociais, dados públicos, textos digitalizados nem bancos de imagens.

1 · Hardware

CPU 4 contas por vez

Treinando a rede

0 de 1.000.000 contas · 0%

GPU só para jogos e gráficos Ainda não usada
para IA

2 · Dados

Ainda não existiam

Redes sociais Facebook · 2004
Dados públicos Wikipédia · 2001
Textos digitais Google Books · 2004
Imagens ImageNet · 2009

1989 CEPs do Bell Labs

9.298 imagens

2009 ImageNet

0 imagens

02 — DÉCADAS DE EVOLUÇÃO ERA DA IA

Redes Neurais Convolucionais (CNN)

Redes que enxergam

O que são?

Redes feitas para imagens: um pequeno filtro desliza pela foto procurando padrões, como bordas, curvas e formas.

Lembra dos CEPs de 1989? Aquela rede de Yann LeCun já era uma CNN.

vs
MLP × CNN
O MLP liga tudo em tudo; a CNN olha por pedaços.
C
Camada de convolução
Um filtro 3×3 desliza e marca onde achou o padrão.
A
Camada de ativação
A ReLU zera os negativos: só passa o que foi achado.
P
Camada de pooling
Guarda o maior de cada bloco 2×2 e encolhe a imagem.

Imagem

8 × 8

filtro →

Convolução

6 × 6

ReLU →

Ativação

6 × 6

máx
2×2 →

Pooling

3 × 3

MLP

Achata a imagem numa fila: cada neurônio liga em todos os 64 pixels e perde quem é vizinho de quem.

CNN

Um filtro de só 9 pesos desliza pela imagem e procura o mesmo padrão em todo lugar.

02 — DÉCADAS DE EVOLUÇÃO ERA DA IA

Redes Neurais Recorrentes (RNN)

Redes com memória

O que são?

Redes que leem uma sequência, um item de cada vez, e passam adiante um resumo do que já viram: a memória.

vs
MLP e CNN × RNN
MLP e CNN veem tudo de uma vez. A RNN lê em ordem e lembra.
✦
Para que são usadas?
NLP Séries temporais Reconhecimento de voz
!
Memória de curto prazo
A lembrança vai se apagando: numa frase longa, o começo some.

MLP / CNN

Eugostomuitodecafé

→

rede

Tudo de uma vez · tamanho fixo · sem memória

RNN

Eugostomuitodecafé

→

RNN

→

Uma palavra por vez · guarda um resumo do que já leu

Linguagem natural (NLP)

Tradução, corretor e prever a próxima palavra.

Eu gosto decafé

Séries temporais

Previsão do tempo, bolsa de valores, consumo de energia.

Reconhecimento de voz

Ditado, legendas automáticas e assistentes virtuais.

Memória da RNN

Lembrança de “Brasil”

—

02 — DÉCADAS DE EVOLUÇÃO ERA DA IA

A solução para a memória curta

LSTM e GRU

Células com portões que decidem o que guardar, o que esquecer e o que usar.

L
LSTM Long Short-Term Memory Hochreiter e Schmidhuber · 1997
Uma “esteira” de memória de longo prazo e 3 portões: esquecer, entrada e saída.
G
GRU Gated Recurrent Unit Cho e colegas · 2014
Versão simplificada, com 2 portões (atualização e reinício): mais leve e rápida.

LSTM3 portões

Memória de longo prazo

Brasil

Esquecermantém

Entradaignora

Saída—

Atualizaçãomantém

Reiníciousa o passado

Lembrança de “Brasil” RNN LSTM GRU

simulação simplificada

02 — DÉCADAS DE EVOLUÇÃO ERA DA IA

Anos 2010 · o degelo

A revolução do Deep Learning

As peças que faltavam se encaixaram, e as redes ficaram profundas: muitas camadas.

ƒ
Função ReLU
max(0, x): rápida, e o sinal do erro não some em redes com muitas camadas.
12
2012 · AlexNet
Venceu o desafio ImageNet com folga, treinada em 2 GPUs de videogame.
∞
Big Data
Redes sociais e smartphones: bilhões de fotos, textos e vídeos todos os dias.

Algoritmo Hardware Dados

Deep = muitas camadas entre a entrada e a saída

sigmóide ReLU

Sinal do erro voltando por 8 camadas

Sigmóide

ReLU

← entradasaída

ImageNet: erro do vencedor (top-5)

28,2%

2010

25,8%

2011

15,3%

2012
AlexNet

2 GPUs NVIDIA GTX 580 Agora usada
para IA!

2004Facebook
2005YouTube
2007iPhone
2010Instagram
2012Facebook passa de 1 bilhão de usuários

02 — DÉCADAS DE EVOLUÇÃO ERA DA IA

2017 · “Attention Is All You Need”

O Transformer

O que é?

Uma arquitetura que olha o texto inteiro de uma vez e descobre quais palavras importam para entender cada uma. É o “T” do ChatGPT.

+
Vantagem
Treina muito mais rápido e não esquece o começo do texto.
Funcionamento: 3 pilares
1
Self-attention
Cada palavra “presta atenção” nas que explicam o seu sentido.
2
Processamento paralelo
Todas as palavras são calculadas ao mesmo tempo, nas GPUs.
3
Estrutura encoder-decoder
Um lado entende a frase; o outro gera a resposta.

GGenerativegera texto

PPre-trainedpré-treinado

TTransformera arquitetura

RNNTransformer Leiturapalavra por palavratudo de uma vez Memóriaesquece o começovê o texto todo Treinolento, em filarápido, em paralelo

RNN · em fila

0 passos

Transformer · em paralelo

0 passos

Encoder

entende

Eugostodecafé

Decoder

gera, palavra por palavra

Ilikecoffee

02 — DÉCADAS DE EVOLUÇÃO ERA DA IA

Como a máquina entende palavras

Embeddings

O que são?

Cada palavra vira uma lista de números (um vetor), que funciona como um endereço num mapa de significados.

#
Palavra → números
A rede só entende números; o sentido fica guardado neles.
⌖
Um mapa de significados
Sentidos parecidos ficam perto: gato perto de cachorro.
±
Contas com significado
rei − homem + mulher ≈ rainha
→
No ChatGPT
É o primeiro passo: o texto vira vetores antes da atenção.

gato→

cachorro→

carro→

→

Transformer

atenção entre os vetores

02 — DÉCADAS DE EVOLUÇÃO ERA DA IA

Embeddings no dia a dia

Onde estão hoje

Comparar vetores é comparar significados. Isso move muita coisa que você usa.

1
Mecanismos de busca avançados
Acham pelo sentido, não só pelas palavras exatas.
2
Bancos de dados vetoriais RAG
Guardam documentos como vetores e entregam à IA o trecho certo para responder.
3
Sistemas de recomendação
Como no Spotify e na Netflix: você e as músicas viram pontos; o mais perto é sugerido.

Busca

RAG

Recomendação

Por palavras exatas

Como deixar o celular menos lento4 palavras iguais

Café: a história da bebida1 palavra igual

Por significado

5 dicas para suavizar o sabor do cafésemelhança 0,91

Por que o café fica amargo? Torra e águasemelhança 0,87

1Pergunta

“Quantos dias de férias eu tenho?”

→

2Vira vetor

→

3Banco vetorial

Manual do RH, p. 12

→

4IA responde

“30 dias por ano, segundo o Manual do RH.”

você ouviu sugestão outras músicas

02 — DÉCADAS DE EVOLUÇÃO ERA DA IA

Large Language Model

O que é um LLM

Em uma frase

Uma rede neural do tipo Transformer, gigante, treinada com uma montanha de texto para fazer uma coisa só: prever a próxima palavra.

1
É uma rede neural
Rede neural ⊃ Transformer ⊃ LLM: um dentro do outro.
2
Prevê a próxima palavra
Calcula a chance de cada palavra, escolhe uma e repete.
3
“Large”: a escala
Bilhões de pesos, treinados com bilhões de palavras.
4
O treino cria o LLM
Os pesos ajustados são o LLM: um “cérebro” já educado.

LLargegrande

LLanguagede linguagem

MModelmodelo

Rede neural 1943 →

Transformer 2017

LLM ex.: GPT

ChatGPTo aplicativo feito com um LLM

___

escala logarítmica: cada risquinho = ×10

Pesos aleatórios a estrutura vazia

→ texto + backpropagation
bilhões de vezes

Pesos ajustados = LLM o “cérebro” educado

02 — DÉCADAS DE EVOLUÇÃO ERA DA IA

Como o ChatGPT foi treinado

As 3 maneiras de ensinar

Lembra da criança do começo? A IA aprendeu do mesmo jeito.

1
Pré-treino = compreensão
Lê uma montanha de texto, em pedaços (tokens), prevendo a próxima palavra.
2
Ajuste fino = correção
Pessoas escrevem exemplos de boas respostas: ele aprende a ser assistente.
3
RLHF = erro e consequência
Pessoas dão notas às respostas; ele aprende com a consequência.

Compreensão→Pré-treino

Correção→Ajuste fino

Erro→RLHF

Três etapas, uma depois da outra, transformam a rede do slide anterior no ChatGPT.

0tokens lidos no treino do GPT-3

“Explique fotossíntese para uma criança.”

Só pré-treino

“Explique respiração para uma criança. Explique digestão para…”

só continua o texto

Depois do ajuste

“As plantas usam a luz do sol para fabricar o próprio alimento!”

responde como assistente

“Como eu faço um bolo simples?”

Resposta A

“Misture farinha, ovos, açúcar e leite; asse a 180 °C por 40 min.”

👍

Resposta B

“Bolos são alimentos doces muito antigos.”

👎

02 — DÉCADAS DE EVOLUÇÃO ERA DA IA

Antes de confiar

Os limites

Ele prevê o que é provável, não o que é verdadeiro.

1
Alucinação
Inventa com confiança: fatos, números e até referências.
2
Data de corte
Só sabe o que estava no texto de treino. Busca e RAG ajudam.
3
Vieses
Aprendeu com textos humanos e pode repetir os preconceitos deles.

provável ≠ verdadeiro

Me indique um livro sobre IA escrito pela Suzana Cavalcante.

Claro! “Redes Neurais na Prática” (Suzana Cavalcante, Editora Futura, 2019) é uma ótima escolha.

Inventado!

texto de treino

data de corte

ele não viu

Sem busca

“Quem ganhou o jogo de ontem?” → chuta ou diz que não sabe

Com busca / RAG

consulta uma fonte atual antes de responder

“O engenheiro chegou e ___ disse…”

ele92%

ela8%

Agora você sabe como funciona.

1943Neurônio artificial
1958Perceptron
19691º inverno
1986Backpropagation
anos 902º inverno
2012AlexNet
2017Transformer
2022ChatGPT

Obrigada!

Agora é com vocês: perguntas?

LinkedInin/suzanacavalcante
GitHubsuzanacavalcante
Instagram@prod.susu
E-mailcontato@suzanacavalcante.com.br
Portfóliosuzanacavalcante.com.br

Suzana Cavalcante · Data Engineer I — Bradesco · Palestra FATEC

Era da IA: Você sabe como funciona?

Você já ensinou algo para uma criança?

Erro

Correção

Compreensão / Assimilação

Inteligências Artificiais aprendem do mesmo jeito.

Suzana Cavalcante

Vamos nos conectar?

Muita gente acha que a IA nasceu em 2022.

Mas a história começou há mais de 80 anos.

O que é uma rede neural?

A máquina de McCulloch-Pitts

Disparar ou não disparar?

Isso já era uma rede neural?

O Perceptron

Cada entrada tem um peso

Aprender com correção

Só sabia traçar uma reta

Começa o primeiro inverno da IA.

Redes com camadas

Backpropagation

O segundo inverno

Redes que enxergam

Redes com memória

LSTM e GRU

A revolução do Deep Learning

O Transformer

Embeddings

Onde estão hoje

O que é um LLM

As 3 maneiras de ensinar

Os limites

Agora você sabe como funciona.

Obrigada!

Era da IA:
Você sabe como
funciona?