"I don't use RAG, I just retrieve documents"

Why this topic matters

They say RAG is dead, but is it really? Its killer, “agentic search”, has become the hot new way to Retrieve relevant context. In this session, we’ll discuss the greatly exaggerated rumours of RAG’s demise. We will discuss (long-known) limitations of “vector search”, the vast array of existing tools, and, finally, new approaches researchers are uncovering for retrieval.

RAG is not dead

RAG visualized

Die Art und Weise wie die Information retrieved wird (Single Vector Semantic Search) ist veraltet. Es gibt jedoch sehr viele retrival tools

Ein einziger Vektor pro Chunk kann die komplexität des Inhalts nichts immer ausreichend repräsentieren. Zu viel Information Loss!

Context Window → wird immer größer. Dennoch bedeutet es nicht das Ende für RAG.