AI 의사소통에서는 상황 맥락이 모든 것이다

AI 의사소통에서는 상황 맥락이 모든 것이다. 맥락은 유일하게 중요한 요소이다. 언어 모델로 무언가를 해내기 위해서는 이 맥락이 매우 중요한 부분이다.

프롬프트 엔지니어링은 매우 인간적인 일이다. 우리가 인간에게서 어떤 가치를 끌어내고 싶을 때, 이 프롬프트 엔지니어링을 하게 된다. 우리는 그 인간과 효과적으로 소통하여 최선의 결과를 얻고자 한다.

쓰레기가 들어가면 쓰레기가 나온다. 아주 기본적인 질문을 하면 아주 기본적인 답변을 받게 된다. 이는 인간의 경우에도 마찬가지다. 내가 다른 사람에게 '오늘 하루 어떠세요?'라고 물어보면, 그들은 '그냥 괜찮습니다'라고 답한다.

AI 언어 모델에 주어지는 프롬프트 품질에 따라 성능이 크게 달라질 수 있습니다.

연구에 따르면, 나쁜 프롬프트를 사용하면 문제를 0%밖에 해결하지 못하지만, 좋은 프롬프트를 사용하면 90%까지 해결할 수 있다.

수동 분석을 통해 AI 대화 기록에서 오류를 찾는 것이 모델에 직접 오류 감지를 요청하는 것보다 효과적일 수 있습니다.

우리가 LLM에게 이런 오류 분석을 시도해볼 때 보통 찾게 되는 것은, 그 모델이 그저 추적 내용이 괜찮다고 말하는 것이다. 왜냐하면 그것이 나쁜 제품 냄새인지 아닌지를 이해하기 위한 맥락이 없기 때문이다.