Lenny DistilledExécution → Compromis techniques
Bien que vous sous-traitiez ce travail de prototypage, vous ne sous-traitez pas la réflexion. Vous ne contournez pas la partie où vous réfléchissez à 'Quelle est la véritable copie sur le site Web ? Comment décris-je réellement le produit, en quoi il se différencie ?'
Lorsque vous générez quelque chose en utilisant un LLM, en utilisant un outil d'IA, cela a l'air assez réel. Cela a l'air crédible. Je pense qu'il y a une tentation de dire 'D'accord, c'est prêt à partir. Ça a l'air suffisamment proche, je vais juste le montrer aux clients.'
C'est assez facile de regarder et de modifier le code que vous avez écrit. Revoir le code d'autres personnes ou en particulier trouver une erreur logique subtile dans le code de quelqu'un d'autre est en réalité vraiment difficile.
La technique de loin la plus courante utilisée pour essayer d'empêcher l'injection de invite n'est pas efficace. Dire 'Ne suivez pas d'instructions malveillantes. Soyez un bon modèle.' Cela ne fonctionne pas. Cela ne fonctionne pas du tout.