AI-Engineer-Praktikum bei Geodouro · Feb. – Juni 2026
RAG- und Text-to-SQL-Chatbot — Geodouro
Ein vollständig lokal laufender Assistent für die Agrarmanagement-Plattform von Geodouro. Er beantwortet Fragen aus der Dokumentation (RAG) und aus drei PostgreSQL-Datenbanken mit über 500 Tabellen (Text-to-SQL). Eine kontrollierte Pipeline mit hybrider Suche und Schema-Pruning hob die Genauigkeit von 13 % auf 77 %.
Problem
Geodouro entwickelt SIGP, eine modulare Plattform für die Verwaltung landwirtschaftlicher Betriebe: ein Feldkalender für die Vorgaben der Gemeinsamen Agrarpolitik der EU, Vegetationsindizes (NDVI, NDRE) aus Drohnenflügen, IoT-Sensoren und ein Kellereimodul. Landwirte und Agrartechniker taten sich schwer mit der umfangreichen technischen Dokumentation, der regulatorischen Fachsprache und den eigenen Daten, die über drei PostgreSQL-Datenbanken mit über 500 Tabellen verteilt sind.
Ziel war ein Chatbot, der beide Arten von Fragen beantwortet – zur Plattform und zu den Daten – und so das Support-Team entlastet. Da die Daten sensibel sind, musste alles lokal laufen: keine Cloud-APIs, eine einzige Consumer-GPU (RTX 3070, 8 GB VRAM).
Der erste Ansatz, ein ReAct-Agent mit freiem Zugriff auf Schema-Werkzeuge, beantwortete nur 13 % der Golden-Set-Fragen des Unternehmens richtig. Er lief in Schleifen bis zum Schrittlimit, wählte irrelevante Tabellen und erfand Spaltennamen.
Lösung
- Ein schlüsselwortbasierter Router (100 % korrekt in 220 Testfällen, unter 1 ms) leitet jede Frage an RAG, SQL, beides oder eine statische Antwort weiter.
- RAG über die Plattformdokumentation mit hybrider BM25- und MMR-Suche in ChromaDB sowie Umformulierung von Folgefragen anhand des Gesprächsverlaufs.
- Eine kontrollierte SQL-Pipeline in fünf Schritten: Domänensuche, Schema-Pruning auf höchstens vier Tabellen, vorab verknüpfte (materialisierte) Views, dynamische Few-Shot-Beispiele und SQL-Generierung mit Qwen2.5 7B.
- Das erzeugte SQL wird mit sqlglot validiert und mit dem echten Schema abgeglichen; bei einem Fehler bekommt das LLM einen schema-bewussten zweiten Versuch.
- Ein LangGraph-ReAct-Agent mit fünf Werkzeugen (Tabellensuche, Schema-Abfrage, Stichproben, SQL-Ausführung, Join-Pfade über einen Fremdschlüssel-Graphen) dient nur noch als Fallback.
- FastAPI-Backend mit Token-Streaming über Server-Sent Events, Langfuse-Tracing und Nutzerfeedback.
- LLM-as-Judge-Evaluierung (Qwen2.5 14B, binäre Bewertung nach vier Kriterien), um jede Optimierung am Golden Set zu messen.
Tech-Stack
- Python
- LangChain
- LangGraph
- FastAPI
- Qwen2.5 7B
- Ollama
- ChromaDB
- PostgreSQL
- Langfuse
Ergebnisse
- Die Genauigkeit auf dem Golden Set von Geodouro stieg von 13 % auf 77 % bei 30 Fragen zur Anbaupraxis und erreichte 72 % auf allen 50 Fragen, darunter 20 bisher ungesehene Fragen zum Kellereimodul.
- Die finale 7B-Pipeline übertraf ein 14B-Referenzmodell um 40 Prozentpunkte und antwortete 10- bis 30-mal schneller (das 14B-Modell brauchte rund 150 s pro Frage).
- Median-Antwortzeit von 5,2 s bei einem Nutzer auf einer einzigen RTX 3070.
- RAG beantwortete alle 50 Dokumentationsfragen seines Golden Sets korrekt (im Schnitt 3,3 s), und der SQL-Agent erzeugte für alle 100 Testfragen in drei Schwierigkeitsstufen ausführbare Abfragen.
- Praktikum und Projekt wurden mit 20/20 bewertet (deutsche Note 1,0).