Transmissões da órbita

Ciência, dados e inteligência artificial sem caixa-preta.

Ensaios e notas técnicas por Artemisia Weyl.

RAG 101 : Fine-tuning ou RAG?

RAG 101: Fine-tuning ou RAG? Na série NLP 101, acompanhamos como as máquinas passaram da contagem de palavras aos embeddings, RNNs, Attention, Transformers e LLMs. Agora começa…

Ler artigo →

Resumão da série NLP 101

NLP (Natural Language Processing) é um campo da inteligência artificial que se concentra na compreensão e manipulação do texto em linguagem natural. Este processo envolve a…

Ler artigo →

NLP 101 (4): A invenção da Attention

Muita gente acredita que a revolução da IA começou quando saiu o paper *Attention Is All You Need* em 2017, mas o mecanismo original de Attention já existia desde 2014. E ele nasceu para resolver um problema da epoca, a

Ler artigo →

NLP 101 (3): O problema da memória

Uma das coisas mais frustrantes dos primeiros modelos de linguagem era que eles tinham memória de peixe dourado. Eles conseguiam olhar para palavras, encontrar padrões e capturar relações locais, mas frequentemente perdi

Ler artigo →

NLP 101 (6): BERT vs GPT

Depois que os Transformers surgiram em 2017, a pergunta deixou de ser \"essa arquitetura funciona?\" Ela passou a ser: Como devemos treiná-la? A resposta dividiu a pesquisa em…

Ler artigo →

O que é um gradiente, formalmente?

O conceito de gradiente surge no cálculo diferencial aplicado a funções de múltiplas variáveis [1]. Ele descreve como uma função varia localmente em relação às suas variáveis.

Ler artigo →