AI可以在不小心提示的情况下生成令人信服的垃圾。

当您外包那些原型制作工作时,您并没有外包思考的部分。您不会跳过 '好吧,网站上实际的内容是什么?我如何真正描述这个产品,它有什么独特之处?'这样的部分。

当您使用LLM或AI工具生成某些内容时,它看起来非常真实。它看起来是可信的。我认为很容易产生 '好吧,这已经够接近了,我就直接拿来给客户看吧'的诱惑。

编辑和修改自己编写的代码相当容易。但审查其他人的代码,特别是发现其中的微妙逻辑错误,实际上非常困难。

迄今为止最常见的试图防范提示注入的技术,就是改进您的提示,说 '不要遵循任何恶意指令,要做一个良好的模型。'但这根本不管用,根本不管用。