Model decyzyjny obok modelu językowego: kiedy klasyfikacja jest tańsza niż rozmowa

W większości firmowych automatyzacji z AI model językowy wykonuje pracę, której nikt nie potrzebuje. Dostaje treść maila, pisze kilka zdań analizy, a program bierze z tego jedno słowo: pilne albo niepilne. Płacicie za wygenerowany tekst, czekacie kilka sekund i dodatkowo ryzykujecie, że model odpowie w innym formacie niż wczoraj. Od września 2026 istnieje alternatywa dla tej konkretnej klasy zadań: modele, które w ogóle nie generują tekstu, tylko zwracają typowaną decyzję z prawdopodobieństwem i miarą pewności.

Dlaczego generowanie tekstu do podjęcia decyzji jest kosztowne

Model językowy tworzy odpowiedź token po tokenie i każdy z nich kosztuje oraz zajmuje czas. Jeśli decyzja brzmi „reklamacja”, to i tak zapłaciliście za całą drogę, którą model przeszedł, żeby to słowo napisać. Do tego dochodzi warstwa, o której mało kto mówi na etapie ofert: kod po stronie firmy musi tę odpowiedź rozebrać. Stąd biorą się awarie typu model zwrócił JSON w bloku kodu, model dopisał komentarz przed nawiasem, model użył innej nazwy kategorii niż w instrukcji. Każda z nich kończy się cichym błędem w procesie, który trudno wykryć, bo nic się nie wywraca, tylko sprawy wpadają do złej kolejki.

Model decyzyjny rozwiązuje ten problem od strony konstrukcji. Dostaje stan sprawy oraz zestaw pytań i zwraca odpowiedź, która z definicji mieści się w schemacie, jaki sami zdefiniowaliście. Nie ma możliwości, żeby wskazał kategorię spoza listy albo odpowiedział zdaniem. Wszystkie pytania do jednej sprawy liczone są równolegle, więc dorzucenie kolejnych prawie nie wydłuża odpowiedzi.

Trzy pytania, które pokrywają większość decyzji w firmie

Ta klasa modeli operuje trzema typami pytań i w praktyce to wystarcza do bardzo dużej części obiegu informacji.

Wybór kategorii. Wskazujecie listę możliwości i opis każdej z nich, model wybiera jedną i podaje rozkład prawdopodobieństwa po wszystkich. Tu mieści się dekretacja maila, przypisanie zgłoszenia do zespołu, rozpoznanie rodzaju dokumentu, wybór narzędzia przez agenta.

Ocena na skali. Definiujecie uporządkowane poziomy, na przykład od spokojnego po bardzo zdenerwowanego klienta albo od zgłoszenia rutynowego po krytyczne. Model zwraca wartość, która może wypaść pomiędzy poziomami, co daje sensowne sortowanie kolejki.

Rozstrzygnięcie tak albo nie. Odpowiedź to prawdopodobieństwo, że zdanie jest prawdziwe, na przykład że wiadomość zawiera żądanie zwrotu pieniędzy albo że operacja jest nieodwracalna. To jest budulec bramek bezpieczeństwa.

Przy odpowiedzi dostajecie dwie różne rzeczy i warto ich nie mylić. Rozkład prawdopodobieństwa mówi, jak model rozłożył głosy między opcjami. Pewność mówi, na ile ta konkretna odpowiedź jest wiarygodna. Płaski rozkład zwykle oznacza nie tyle zagubiony model, co źle opisane kategorie albo sprawę, która naprawdę pasuje do dwóch szufladek naraz.

Gdzie to się realnie opłaca

Reguła jest prosta: im więcej powtarzalnych rozstrzygnięć dziennie i im mniej z nich wymaga napisania czegokolwiek, tym większy sens. W polskich firmach najczęściej wygląda to tak:

Skrzynka firmowa. Setki wiadomości dziennie, z których każda ma trafić do właściwej osoby, dostać priorytet i etykietę tematu. Klasyczne zadanie dla trzech pytań naraz w jednym zapytaniu.

Zgłoszenia serwisowe i reklamacje. Rodzaj sprawy, pilność, poziom zdenerwowania klienta, podejrzenie sprawy spornej. Sortowanie kolejki przestaje zależeć od tego, kto akurat patrzy na listę.

Kwalifikacja leadów. Czy zapytanie w ogóle jest z naszej branży, czy pochodzi od firmy, czy to oferta współpracy, czy zapytanie zakupowe. Handlowiec dostaje posortowaną listę, a nie surowy strumień.

Dokumenty przychodzące. Wstępne rozpoznanie typu dokumentu i skierowanie do odpowiedniego procesu, zanim ktokolwiek zacznie go czytać.

Bramka przed działaniem agenta. Zanim asystent AI wykona operację, osobne szybkie pytanie ocenia jej ryzyko i rozstrzyga, czy wymaga potwierdzenia przez człowieka. Ta sama logika, którą znacie z trybu zatwierdzania operacji, tylko tańsza i szybsza niż pytanie o to dużego modelu.

Jak policzyć, czy się opłaca

Policzcie dwie liczby: ile decyzji dziennie podejmuje dziś Wasza automatyzacja i ile kontekstu idzie do każdej z nich. Przykład z życia: 20 000 decyzji miesięcznie po około 500 tokenów kontekstu to 10 milionów tokenów wejścia. Przy cenie rzędu czterech centów za milion tokenów mówimy o kosztach poniżej dolara miesięcznie, przy zerowym koszcie wyjścia. Te same 20 000 rozstrzygnięć przepuszczonych przez model językowy kosztuje od kilkudziesięciu do kilkuset razy więcej, bo płacicie i za wejście, i za wygenerowany tekst.

Drugi wymiar to czas. Dwadzieścia tysięcy decyzji po trzy sekundy to blisko siedemnaście godzin pracy sekwencyjnej. Te same decyzje po 300 milisekund mieszczą się w dwóch godzinach. Dla procesów nocnych to różnica między raportem gotowym na rano a raportem gotowym w południe.

Trzeci wymiar bywa najważniejszy w firmach, które kupują AI w abonamencie z limitem: każda decyzja zdjęta z dużego modelu to limit oddany na pracę, która naprawdę wymaga myślenia i pisania.

Próg pewności zamiast ślepego zaufania

Model decyzyjny zawsze zwróci odpowiedź. Nie potrafi powiedzieć „nie wiem” i przy sprawie niejednoznacznej wskaże najmniej złą opcję, sygnalizując to niską pewnością. Dlatego projekt takiego rozwiązania sprowadza się do ustawienia progów, a nie do samego podłączenia modelu.

Praktyczny układ wygląda tak: operacje bez skutków, na przykład nadanie etykiety, mogą działać przy dowolnej pewności. Kierowanie sprawy do zespołu warto puszczać automatycznie powyżej około 0,7. Wszystko, co dotyczy pieniędzy, umów albo operacji nieodwracalnych, powinno wymagać wysokiego progu i potwierdzenia przez człowieka. Poniżej 0,5 sprawa trafia do skrzynki wyjątków z adnotacją, że system nie był pewny. Progi dobiera się osobno dla każdego zastosowania, bo koszt pomyłki jest w każdym inny.

Czego taki model nie zrobi

Nie napisze odpowiedzi do klienta ani nie uzasadni swojej decyzji. Jeśli potrzebujecie zdania wyjaśniającego, na przykład do akt albo do wiadomości dla pracownika, musi je dopisać model językowy. Model decyzyjny gorzej też znosi zaśmiecony kontekst: dokładność spada, gdy do zapytania wrzuca się całą historię sprawy zamiast fragmentu istotnego dla pytania. Filtrowanie danych przed wysłaniem przestaje być optymalizacją, a staje się warunkiem jakości. Do tego dochodzą dwie rzeczy, które trzeba sprawdzić samemu: zachowanie na polskich tekstach, bo najsilniejszym językiem tych modeli pozostaje angielski, oraz miejsce przetwarzania danych, bo treść spraw wychodzi do usługi zewnętrznej i podlega tym samym regułom co każde inne powierzenie danych.

Jak wdrożyć to bez ryzyka

Najtańsza i najuczciwsza metoda to cichy test na własnych danych. Bierzecie od 200 do 500 spraw z ostatnich tygodni, które już mają nadaną kategorię przez człowieka albo przez dotychczasowy proces. Puszczacie je przez model, porównujecie wyniki i patrzycie na dwie rzeczy: ile decyzji się zgadza oraz jak zachowuje się pewność przy sprawach, w których model się pomylił. Jeśli błędy skupiają się poniżej wybranego progu, macie gotowy układ produkcyjny. Jeśli rozkładają się równomiernie, kategorie są źle opisane i trzeba poprawić instrukcje, a nie model.

Dopiero po takim teście ma sens podłączanie decyzji do procesu, i to w kolejności od najmniej ryzykownych: najpierw etykiety, potem kierowanie spraw, na końcu bramki przed operacjami. Model językowy zostaje tam, gdzie trzeba pisać i rozmawiać. Taki podział pracy jest dziś najtańszą architekturą automatyzacji, jaką można zbudować, i nie wymaga wymiany niczego, co już działa.

Jeśli chcecie sprawdzić, które procesy w Waszej firmie należą do tej kategorii i ile realnie kosztują dziś, odezwijcie się do nas. Policzymy to na Waszych liczbach, zanim cokolwiek trzeba będzie zmieniać.