Bloco I · Fundamentos · Lição 2

Como pensa (e se engana) um modelo de IA

Vai perceber o que acontece por dentro desde que escreve até que ele responde: o que são os tokens, a janela de contexto e a temperatura, porque é que alguns modelos raciocinam antes de responder e porque é que às vezes inventam dados com total segurança.

Entrar no curso

O que vais ver nesta lição

  1. Da sua pergunta à resposta, token a token

    Um modelo de linguagem não procura a resposta em lado nenhum: escreve-a pedaço a pedaço, prevendo o que vem a seguir.

  2. Tokens: as peças de Lego da linguagem

    O modelo não lê letras nem palavras inteiras, mas sim tokens: pedaços frequentes de texto que encaixam como peças.

  3. Como se faz: conte os tokens do seu texto

    Cole qualquer texto no tokenizador gratuito da OpenAI e fica a saber quantos tokens ocupa antes de o enviar.

  4. Um autocompletar do telemóvel, mas gigante

    Para cada espaço, o modelo calcula a probabilidade de milhares de tokens possíveis e escolhe um dos mais prováveis.

  5. Treinar e inferir: estudar face a fazer o exame

    O modelo aprende uma vez, durante meses; sempre que lhe pergunta só aplica o que aprendeu. Isso é a inferência.

  6. A janela de contexto: a sua mesa de trabalho

    É tudo o que o modelo tem à frente ao responder. O que não está na mesa, para ele não existe.

  7. Temperatura: a pitada de sal da criatividade

    Regula quanto o modelo arrisca ao escolher o token seguinte: baixa, o mais provável; alta, opções mais variadas.

  8. Experimente: a previsão e a temperatura em direto

    O Transformer Explainer é um site gratuito que executa um modelo pequeno no seu navegador e lhe mostra as suas probabilidades.

  9. Modelos de raciocínio: pensam antes de falar

    Antes de responder escrevem um rascunho interno de raciocínio, e assim resolvem melhor os problemas de vários passos.

  10. Porque inventa coisas com tanta segurança

    Uma alucinação é um dado falso dito com convicção. Não é uma falha rara: resulta de como aprende e de como é avaliado.

  11. O que custa adivinhar: os números da OpenAI

    Num teste de perguntas factuais, o modelo que nunca dizia «não sei» acertou quase o mesmo e falhou quase o triplo.

  12. Como pedir para que invente menos

    Três frases no seu prompt mudam o que compensa ao modelo: duvidar deixa de ser uma falha.

  13. Resumo: como pensa e porque se engana

    Um modelo é um preditor de tokens muito bem treinado: perceber como funciona ajuda-o a pedir melhor e a desconfiar a tempo.

Ferramentas e conceitos

Entra com a tua conta Google e acede a esta lição e ao curso completo.

Entrar no cursoVer o programa completo

Mais lições do bloco