科技需要负责任的管理

我确实相信技术对人类来说是利大于弊的,但每项技术都是一把双刃剑。如果我们作为社会、作为个人没有做正确的事,我们也会搞砸它。

我认为责任在于制作出优秀的产品,与专家交流,弄清它到底有多好,在哪里存在缺陷,并如实沟通。

RAG(Retrieval-Augmented Generation)是一种AI技术,它从数据库中检索相关信息,以帮助生成更准确的响应。

如果你将衍生品输入RAG系统会发生什么?生成10个衍生品,将其输入RAG,总结一下。结果就是会出现群众智慧。你实质上会收敛到一个意见。你基本上会采用群众智慧,这将缩小,你将对一切事物得出一个单一的意见,这确实很糟糕。