Christian Häusler

Projektbeschreibung

Design und Aufbau eines Enterprise RAGs. Themen wie Richtlinien und korrekter Kontext sind entscheidend. Besonders die Punkte 3, 4 und 5 sind für ein Enterprise RAG von zentraler Bedeutung.

2. Embeddings & Vektordatenbanken

Wichtige Fragen

• Welches Embedding-Modell passt zu Ihrer Sprache und Ihrem Fachgebiet?
• Benötigen Sie mehrsprachige oder domänenspezifische Embeddings?
• Wie viel Vektorspeicher benötigen Sie und wie schnell müssen Abfragen sein?

Lösungsansatz

Hierzu setze ich auf Mistral OCR und Mistral Embeddings und/oder experimentiere mit lokalen Tools rum.

3. Retrieval-Ebene

Wichtige Fragen

• Soll die Suche rein auf semantischer Ähnlichkeit basieren oder mit Keyword-Suche kombiniert werden?
• Wie bewerten wir die Retrieval-Präzision?
• Können wir nachvollziehen, welche Quellen für jede generierte Antwort verwendet wurden?

Lösungsansatz

Hybrides Retrieval-Modell: semantische Suche + Keyword-Suche. Verwendung von Re-Ranking-Algorithmen oder BM25 + Vektorfusion, um Ergebnisse zu verfeinern. Referenzen von Dokumentenzitate den Ausgaben hinzufügen, um Nachvollziehbarkeit zu gewährleisten.

4. Generationsebene — Kann das LLM den Enterprise-Kontext einhalten?

Wichtige Fragen

• Welches LLM-Modell: öffentliche API oder On-Premise/privates Modell?
• Prompt-Vorlagen und Sicherheitsvorgaben?
• Wie können Halluzinationen und nicht-konforme Ausgaben minimiert werden?

Lösungsansatz

Einsatz eines LLMs in Prompt-Orchestrierungs-Frameworks (LangChain, LlamaIndex).

5. Sicherheit & Compliance: Wo werden sensible Daten verarbeitet?

Wichtige Fragen

• Wer kann auf welche Dokumente in der Vektordatenbank zugreifen?
• Wie werden Anmeldedaten und API-Schlüssel gesichert?
• Welche Audit-Logs beweisen die Einhaltung von Datenschutzrahmenwerken (DSGVO)?

Lösungsansatz

• Dokumentenebene-Zugriffsrichtlinien in den Retrievern

Problembeschreibung

Normale RAG-Systeme scheitern oft an unternehmensspezifischen Anforderungen: Sie bieten keine ausreichende Kontrolle über den Kontext und erfüllen nicht die strengen Compliance- und Sicherheitsanforderungen, die für sensible Unternehmensdaten notwendig sind.

Mein Lösungsansatz

Verwendete Tools

Projektbeschreibung

Entwicklung eines automatisierten Workflows zur regelmäßigen Aktualisierung von Spritpreisen in einem Tankstellensystem. Der Workflow holt aktuelle Preisdaten von verschiedenen Quellen ab und überträgt diese automatisch in das Tankstellensystem, ohne manuelles Eingreifen.

Problembeschreibung

Tankstellenbetreiber mussten Spritpreise manuell in ihr System eingeben, was zeitaufwendig und fehleranfällig war. Die Preise ändern sich mehrmals täglich, was zu veralteten Daten und verlorenen Einnahmen führen konnte. Es gab keine automatisierte Schnittstelle zwischen den Preisquellen und dem Tankstellensystem.

Mein Lösungsansatz

Ich habe einen n8n-Workflow entwickelt, der:

• Automatisch Preisdaten von verschiedenen API-Quellen abruft
• Die Daten filtert, validiert und normalisiert
• Die aktualisierten Preise über eine Text Datei via FTP in das Tankstellensystem überträgt
• Bei Fehlern wird eine E-Mail verschickt
• Viermal täglich läuft der Workflow

Verwendete Tools

Projektbeschreibung

Eine Streamlit-WebApp, die mit KI fremde oder schwierige Wörter in Texten identifiziert und deren Bedeutungen erklärt. Die Anwendung ist besonders nützlich für Buchverlage.

Problembeschreibung

Beim Lesen von Fachtexten, wissenschaftlichen Artikeln oder juristischen Dokumenten stößt man häufig auf unbekannte Fremdwörter oder Fachbegriffe. Die manuelle Suche nach jedem unbekannten Begriff ist zeitraubend und unterbricht den Lesefluss.

Mein Lösungsansatz

Ich habe eine Streamlit-WebApp für den Gmeiner Verlag entwickelt, die:

• Texte analysiert und Fremdwörter automatisch erkennt
• Kontextbasierte Definitionen liefert
• Synonyme und verwandte Begriffe vorschlägt
• Eine benutzerfreundliche Oberfläche für die Textanalyse bietet
• Ergebnisse in Echtzeit liefert
• KI-Modelle (LLMs) zur genauen Identifizierung nutzt

Verwendete Tools

Projektbeschreibung

Eine Webanwendung, die YouTube-Videos in Text transkribiert und dann mithilfe von KI automatische Zusammenfassungen sowie eine Analyse der Kommentare erstellt. Ideal für Content-Creator, Forscher und Journalisten.

Problembeschreibung

Die Analyse von YouTube-Inhalten war bisher sehr aufwendig: Videos mussten manuell transkribiert werden, und die Auswertung der oft umfangreichen Kommentarsektion war kaum machbar. Wichtige Erkenntnisse aus Videos und Community-Feedback gingen oft verloren.

Mein Lösungsansatz

Turbotube.app bietet:

• Automatische Transkription von YouTube-Videos in Text
• LLM-gestützte Zusammenfassungen der Videoinhalte
• Sentiment-Analyse der Kommentare
• Themenextraktion aus Kommentaren
• Stichwortbasierte Suche in transkribierten Inhalten
• Exportfunktionen für weitere Analyse

Verwendete Tools