您的数据准备工作比您的技术栈更重要。

简单地给它访问你的硬盘并说'在这个知识库中推理吧'是不够好的。它实际上在理解过去的重要性和给事物加权方面做得非常糟糕。你实际上需要考虑你具体想要把它用在什么背景下,以及你想让它专注于什么知识库。

RAG(Retrieval-Augmented Generation)是一种AI方法,系统首先从数据库中检索相关信息,然后生成对用户查询的响应。

在我看到的很多公司里,他们的RAG解决方案的最大性能来自于更好的数据准备,而不是为使用什么样的矢量数据库而苦恼。

LLM只能和它们被给予的数据以及这些数据的新鲜程度一样好。它们最终就像信息粉碎机一样。它们是无穷无尽的信息吞噬者。你永远无法给一个LLM提供足够的信息来真正发挥它的价值。

正确的背景和不正确的背景之间的差异,完全决定了是好的回答还是坏的回答。