Lenny DistilledStratégie → Politique et éthique
Je crois sincèrement que la technologie est un bénéfice net pour l'humanité, mais je pense que chaque technologie est un couteau à double tranchant. Si nous ne faisons pas la bonne chose en tant que société, en tant qu'individus, nous pouvons aussi tout faire rater.
Je pense que le devoir est de la rendre géniale et de faire le travail, de parler aux experts, de découvrir à quel point elle est vraiment bonne, où elle se casse, et de communiquer cela.
RAG (Retrieval-Augmented Generation) est une technique d'IA qui récupère les informations pertinentes dans une base de données pour aider à générer des réponses plus précises.
Et si vous alimentez des dérivés dans la partie RAG ? Générez 10 dérivés, mettez-les dans RAG, résumez-les. Ce qui se passe, c'est qu'il y a une sagesse de la foule. Vous convergerez essentiellement vers une seule opinion. Vous allez essentiellement prendre la sagesse de la foule et elle va se rétrécir et vous aurez une seule opinion sur tout, ce qui est vraiment mauvais.