El contexto lo es todo en la comunicación con IA

El contexto es todo lo que se necesita. El contexto es lo único que importa. Es una pieza tan importante para hacer que un modelo de lenguaje haga algo por ti.

Mi posición sobre esto es que la ingeniería de instrucciones es algo muy humano. Cuando queremos obtener algo de valor de un ser humano, hacemos esta ingeniería de instrucciones. Intentamos comunicarnos de manera efectiva con ese ser humano para obtener la mejor salida.

Basura entra, basura sale. Si haces una pregunta bastante básica, vas a obtener una respuesta bastante básica. Y de hecho lo mismo es cierto para los seres humanos, y puedes pensar en un gran ejemplo de esto. Cuando voy a otro ser humano y le pregunto: 'Cómo te va el día', dicen: 'Va bastante bien.'

En este contexto, "indicaciones" se refiere a las instrucciones de texto dadas a modelos de lenguaje de IA como ChatGPT para completar tareas.

Los estudios han demostrado que usar instrucciones deficientes puede llevarte al 0% en un problema, y las buenas instrucciones pueden impulsarte hasta el 90%.

Los oradores están discutiendo el análisis manual de los registros de conversaciones de IA ("rastros") para identificar errores, en lugar de pedirle a un LLM que detecte automáticamente problemas.

Lo que solemos encontrar cuando intentamos pedirle a un LLM que haga este análisis de errores es que simplemente dice que el rastro se ve bien porque no tiene el contexto necesario para entender si algo podría ser un olor a producto malo o no.