Aktiv

Lookio

RAG-Assistenten, die Sie in eine Website einbetten oder aus einem Workflow aufrufen können.

Sie erstellen einen Assistenten auf Basis Ihrer eigenen Dokumente und setzen ihn dort ein, wo Sie ihn benötigen: als Widget auf Ihrer Seite, über einen API-Aufruf in einer Automatisierung oder als öffentlicher Assistent für andere Nutzer.

Rolle: Solo: Produkt, Engineering, Marketing
Jahr: 2025 bis heute
Stack: n8n, Qdrant, Cohere rerank, hybride BM25- und semantische Suche
Besuchen: lookio.app

Drei Versionen der Architektur

Es begann als Agent mit einem Denk-Tool. Dann folgten zwei Modi: ein schneller, der in einem einzigen Aufruf mit einem Fragen-Array antwortet, und ein fortgeschrittener, der das Denken als Sub-Workflow ausführt. Schließlich wurden tiefe Abfragen komplett aus dem Agenten in einen Workflow mit einem optionalen zweiten Retrieval-Durchgang verschoben. Die effektivste Änderung war die Nutzung eines kleinen Modells für den agentischen Loop und eines großen Modells nur für die finale Antwort.

Retrieval-Arbeit

Cohere-Reranking, hybride Keyword- und semantische Suche sowie eine Zusammenfassung jedes Dokuments, die neben den Chunks gespeichert wird. Die unspektakulären Korrekturen waren am wichtigsten. Einer der größten Qualitätssprünge resultierte aus dem Entfernen der Worte "in den Dokumenten" aus einem Prompt, da diese die Ähnlichkeitswerte bei jeder Abfrage verschlechtert hatten.

Ausblick

Eine Bibliothek öffentlicher Assistenten, die programmatisch aufgerufen werden können, inklusive Umsatzbeteiligung für die Entwickler. Eher als "Context-as-a-Service" zu verstehen als ein weiteres Chat-Fenster.