04 — Projekt własny · w trakcie (powstaje API, interfejsu jeszcze nie ma)
Z jednego zdania do gotowego PDF — mały model decyzyjny zamiast LLM
Wypełnianie formularza na podstawie jednego zdania po polsku: mały lokalny model decyzyjny rozstrzyga zamknięte pytania, walidacja domenowa, PDF ze wzoru DOCX. Projekt w trakcie.
Problem
Wypełnianie formularzy według wzoru DOCX — na przykład wniosku o pracę w godzinach nadliczbowych — jest powtarzalne, a łatwo w nim o błąd w datach czy sposobie rozliczenia. Pełny generatywny LLM jest do tego drogi i wolny, potrafi zmyślać i zwykle wymaga wysłania danych do chmury.
Co buduję
- Zdanie po polsku jest rozkładane na zamknięte pytania wyboru: tryb pracy, sposób rozliczenia, rok, miesiąc, dzień, godziny.
- Pytania rozstrzyga równolegle mały, lokalny model decyzyjny Kev 0.8B (open source, Apache-2.0). Wybiera odpowiedź tylko z dozwolonego zbioru i zwraca jej prawdopodobieństwo.
- Gdy pewność jest poniżej progu, system dopytuje użytkownika zamiast zgadywać.
- Na końcu walidacja domenowa i PDF wygenerowany ze wzoru DOCX.
Stan i efekt
Projekt jest w trakcie: powstaje API, interfejsu jeszcze nie ma. Założenia projektu: wszystko działa lokalnie, bez generatywnego LLM, a odpowiedzi pochodzą wyłącznie z dozwolonego zbioru. Pomiary czasu odpowiedzi i trafności opublikuję, gdy projekt będzie gotowy.
Masz podobny problem?
Opisz swój proces — odpowiem, czy i jak da się go rozwiązać.