Mais palavras, melhor resposta? Por que o tamanho do prompt não é o que mais importa na IA

Um prompt curto basta para pedir a tradução de uma frase. Para preparar um resumo destinado à diretoria, o cenário muda. Pesquisas recentes sobre inteligência artificial ajudam a entender quando incluir mais detalhes melhora a resposta e quando o excesso atrapalha.

Aprenda a escrever prompts na prática: Pré-MBA em Inteligência Artificial da Saint Paul e EXAME, em quatro aulas práticas, online, por R$ 37

Quando o prompt de uma linha resolve

Para tarefas simples, de baixo risco e fáceis de conferir, uma linha costuma bastar. Traduzir uma frase, sugerir três títulos para um e-mail ou explicar um conceito são exemplos. Se a resposta vier fora do esperado, o ajuste pode ser feito na própria conversa, com uma nova instrução.

Quando o prompt mais longo compensa

Um estudo da Carnegie Mellon University analisou prompts com requisitos não escritos, como formato e critérios de qualidade. Os modelos conseguiram inferir 41,1% desses requisitos por conta própria, mas o comportamento se mostrou frágil: prompts subespecificados tiveram o dobro de chance de piorar quando o modelo ou o texto mudava, com quedas de precisão acima de 20% em alguns casos.

O guia de prompts da OpenAI recomenda incluir detalhes, exemplos e texto de referência. Na prática, o prompt mais longo tende a compensar em quatro situações:

• Público e formato definidos: a resposta será usada com uma diretoria, um cliente ou um prazo.
• Material próprio: a resposta deve partir de um documento enviado.
• Critérios que a IA não adivinha: tom da empresa, termos proibidos, nível de detalhe.
• Erro com custo: números publicados, contratos e comunicados.

Compare "Resuma este relatório" com "Resuma o relatório abaixo em cinco linhas para a diretoria financeira, destaque três riscos e indique a página de cada dado citado". O segundo prompt é só uma frase maior e elimina três escolhas que ficariam por conta da IA.

Se você quer sair na frente e dominar inteligência artificial de forma prática, o Pré-MBA em Inteligência Artificial da Saint Paul e EXAME é o próximo passo. São 4 aulas online por R$ 37. 

Quando o excesso atrapalha

Um estudo apresentado na conferência ACL, em 2024, isolou o efeito do tamanho do texto de entrada em tarefas de raciocínio. A precisão média dos modelos caiu de 0,92 para 0,68 com cerca de 3 mil tokens, que são os pedaços de palavras usados pela IA para ler um texto.

O teste usou, em geral, texto irrelevante como enchimento, e não instruções úteis. O trabalho mostra que localizar e combinar informações relevantes fica mais difícil quando há muito texto ao redor. A pesquisa da Carnegie Mellon também aponta que os modelos têm dificuldade com prompts que reúnem requisitos demais.

Como calibrar o tamanho

Quatro ajustes são usados na prática: separar o prompt em blocos de contexto, tarefa e formato; retirar o que não muda a resposta; dividir tarefas complexas em etapas, já que o guia da OpenAI aponta mais erros em tarefas complexas do que em simples; e comparar o resultado do prompt curto com o do longo antes de adotar um modelo de instrução.

O que vale lembrar

O tamanho do prompt, isoladamente, não aparece nos estudos como fator decisivo. O que muda o resultado é a relevância do que está escrito: requisitos que a IA não consegue deduzir ajudam, e texto sem função atrapalha. Os resultados vêm de testes com modelos específicos e podem variar conforme a ferramenta e a tarefa.

Ainda não sabe por onde começar a aprender inteligência artificial? O Pré-MBA em IA da Saint Paul e EXAME apresenta os fundamentos da tecnologia em 4 aulas online, por R$ 37. Inscreva-se.