Wszystkie case studies
06 — Doświadczenie · administracja publiczna · kod niepubliczny
Asystent RAG nad dokumentami
Proof of concept asystenta, który odpowiada na pytania na podstawie dziesiątek dokumentów PDF: wyszukiwanie wektorowe, modele chmurowe i lokalne, czat ze streamingiem.
Problem
Długie regulaminy i wytyczne — dziesiątki plików PDF. Pracownicy i wnioskodawcy szukali w nich odpowiedzi ręcznie.
Co zbudowałem
- Proof of concept asystenta RAG w monorepo Turborepo: front w Next.js, API w NestJS.
- Wyszukiwanie wektorowe w Qdrant, dane aplikacji w PostgreSQL.
- Do wyboru modele chmurowe (Claude, OpenAI) i lokalne przez Ollamę.
- Czat ze streamingiem odpowiedzi.
- Wdrożenie w kontenerach.
Efekt
- Działający proof of concept zaprezentowany interesariuszom.
- Doświadczenie z doboru modeli (chmura czy lokalnie) pod wymagania dotyczące danych.
Masz podobny problem?
Opisz swój proces — odpowiem, czy i jak da się go rozwiązać.