GeralIA
Token
Token é o pedaço de texto que a IA lê e escreve, quase sempre menor que uma palavra inteira.
AI Sales FactoryTermo geralUma palavra curta costuma ser um token, e uma longa se divide em dois ou três pedaços. É a unidade que a IA usa pra medir o tamanho do que lê e do que responde. E também a unidade pela qual ela cobra. Quanto maior a conversa e quanto mais dados você manda junto, mais tokens a IA gasta, e mais caro fica cada resposta.
Pensa no taxímetro. A corrida longa custa mais que a curta. Por isso um bom sistema de atendimento não joga tudo no modelo sem pensar, ele escolhe o que precisa ser lido em cada momento. Existe também um limite de tokens por vez, que é o tamanho da janela de contexto, a mesa de trabalho da IA.
Uma clínica percebe que a conta da IA subiu. Ao olhar, vê que cada resposta manda junto o histórico inteiro de três meses de conversa e o manual completo da clínica, milhares de tokens por mensagem. Ela passa a mandar só o que importa pra aquela pergunta, o resumo do histórico e o trecho do manual que ajuda. As respostas continuam boas, saem mais rápidas, e a conta cai.
Termos relacionados
- GeralJanela de contextoO tamanho da memória de curto prazo de uma IA, a quantidade de texto que ela consegue ler e considerar ao mesmo tempo numa resposta.
- GeralLLMA sigla de Large Language Model, que em português fica modelo de linguagem de grande porte.
- GeralModelo de linguagemUm programa treinado pra entender e produzir texto.
- GeralPromptA instrução que você manda pra uma IA.
- GeralCusto variávelA despesa que sobe e desce junto com a venda.
Quer ver a AI Sales Factory funcionando no seu negócio?
A UMIND mostra onde o seu atendimento perde leads e o que os agentes de IA fazem em cada pilar.