O contexto é tudo na comunicação da IA

O contexto é tudo o que você precisa. O contexto é a única coisa que importa. É uma peça tão importante para fazer uma modelo de linguagem fazer qualquer coisa por você.

Minha posição sobre isso é que a engenharia de prompt é uma coisa muito humana. Quando queremos obter algum valor de um ser humano, fazemos essa engenharia de prompt. Tentamos nos comunicar de forma eficaz com esse ser humano para obter a melhor saída.

Lixo dentro, lixo fora. Se você fizer uma pergunta muito básica, você vai obter uma resposta muito básica. E na verdade a mesma coisa é verdadeira para os seres humanos, e você pode pensar em um ótimo exemplo disso. Quando vou a outro ser humano e pergunto: 'Como está o seu dia?' eles dizem: 'Está indo bem.'

Neste contexto, "prompts" se refere a instruções de texto dadas a modelos de linguagem de IA como o ChatGPT para concluir tarefas.

Estudos mostraram que usar prompts ruins pode fazer você chegar a 0% em um problema, e prompts bons podem fazer você subir para 90%.

Os palestrantes estão discutindo a análise manual de registros de conversas de IA ("rastros") para identificar erros, em vez de pedir a um LLM para detectar problemas automaticamente.

O que geralmente encontramos quando tentamos pedir a um LLM para fazer essa análise de erros é que ele apenas diz que o rastro parece bom, porque não tem o contexto necessário para entender se algo pode ser um mau cheiro de produto ou não.