주의 깊은 프롬프팅 없이는 AI가 믿을 만한 쓰레기를 생성한다

여러분이 프로토타이핑을 아웃소싱하더라도, 사고 과정은 아웃소싱하지 마세요. 웹사이트의 실제 내용이 무엇인지, 제품이 어떻게 차별화되는지 등을 생각해볼 부분을 건너뛰지 마세요.

LLM이나 AI 도구를 사용해 무언가를 생성하면 꽤 현실적으로 보입니다. 믿을 만해 보입니다. 이대로 고객에게 보여줘도 괜찮겠다는 유혹이 있을 수 있습니다.

자신이 작성한 코드를 보고 편집하고 수정하기는 쉽습니다. 하지만 다른 사람이 작성한 코드를 검토하거나, 특히 다른 사람 코드의 미묘한 논리적 오류를 찾아내는 것은 실제로 매우 어렵습니다.

악의적인 명령을 따르지 말고 선한 모델이 되라고 프롬프트를 개선하는 것이 지금까지 가장 많이 사용되는 기술입니다. 하지만 이것은 작동하지 않습니다. 전혀 작동하지 않습니다.