귀하의 데이터 준비가 기술 스택보다 더 중요하다

단순히 지식 베이스에 접근할 수 있게 하고 'let it reason all over this'라고 말하는 것은 좋지 않습니다. 실제로 과거의 중요성을 이해하고 가중치를 두는 데에는 매우 부족한 성과를 냅니다. 특정적으로 어떤 상황에서 사용하고 싶은 지식 베이스가 무엇인지 생각해보는 것이 좋습니다.

RAG(Retrieval-Augmented Generation)은 데이터베이스에서 관련 정보를 먼저 검색한 후 사용자 질의에 응답을 생성하는 AI 접근 방식입니다.

많은 회사에서 보았듯이, RAG 솔루션의 가장 큰 성능 향상은 더 나은 데이터 준비에서 비롯되며, 어떤 벡터 데이터베이스를 사용할지에 대해 고민하는 것은 아닙니다.

LLM은 제공된 데이터와 데이터의 최신성만큼만 좋을 수 있습니다. 그들은 결국 정보를 분쇄하는 존재입니다. 그들은 무한한 정보 섭취자입니다. LLM에 진정한 가치를 얻기 위해서는 제공할 수 있는 정보가 결코 부족할 수 없습니다.

적절한 맥락과 그렇지 않은 경우의 차이는 바로 좋은 답변과 나쁜 답변의 차이입니다.