Niższe koszty LLM
Rachunek za modele LLM rośnie szybciej niż ruch. W 2–3 tygodnie wchodzę w Wasz kod i obniżam koszt na zadanie bez spadku jakości: każda zmiana przechodzi przez bramkę jakości na zestawie z Waszego realnego ruchu, wchodzi za flagą i ma rollback.
Dla kogo: Dla firm z LLM na produkcji — w funkcjach produktu, agentach albo wewnętrznych pipeline'ach — które co miesiąc płacą za API realną kwotę i patrzą, jak rośnie.
Nie dla zespołów przed produkcją — tam zaczyna się od Mapy szans. Zepsute wdrożenia bierze Interwencja. Jeśli pytanie brzmi „który model do którego zadania”, odpowiada na nie Audyt wykorzystania AI.
Rachunek rośnie szybciej niż ruch.
Pierwsze wdrożenie dało najmocniejszy model do wszystkiego, bo wtedy liczyło się, żeby działało. Od tego czasu doszli agenci z pętlami ponowień, długie konteksty i RAG, który wrzuca do promptu więcej, niż zadanie potrzebuje — a faktura za API rośnie co miesiąc, choć ruch nie. Zespół boi się ruszyć konfigurację, bo nikt nie umie powiedzieć, czy tańszy wariant nie popsuje jakości. Da się to zmierzyć: najpierw zestaw ewaluacyjny z realnego ruchu i koszt na zadanie, potem zmiany, które przechodzą bramkę jakości.
Co dostajesz
- Zestaw ewaluacyjny zbudowany z Waszego realnego ruchu, z bazową jakością i kosztem na zadanie dla każdego miejsca, które woła model
- Bramka jakości: zmiana wchodzi tylko wtedy, gdy na tym zestawie wypada nie gorzej niż dziś
- Zmiany wdrożone w Waszym kodzie, za flagą i na ruchu cieniowanym, z rollbackiem: routing do tańszych modeli z eskalacją, cache promptów i odpowiedzi, krótszy kontekst, limity długości wyjścia, batch dla zadań bez pośpiechu
- Mniejszy albo dostrojony model tam, gdzie zadanie jest wąskie, a ruch duży
- Porównanie przed i po na tym samym zestawie: koszt na zadanie, jakość, opóźnienie
- Monitoring kosztu i jakości z alertami oraz spisane zasady, żeby rachunek nie wrócił
Przebieg
Warunki po Twojej stronie
Ta praca działa, jeśli masz:
Cena
od 8500 złnetto · pomiar
Wycena po pomiarze (dni 1–3), zawsze zanim ruszy pierwsza zmiana, w jednym z dwóch wariantów rozliczenia. Oba z tą samą gwarancją: jeśli po wdrożeniu koszt na zadanie na tym samym zestawie ewaluacyjnym nie spadnie o co najmniej 20% przy jakości nie gorszej niż dziś, płacisz tylko za pomiar (dni 1–3). Etap zmian jest wtedy na mój koszt.
- zamknięte w 2–3 tygodniach — nie wchodzę na miesiące
- jeśli już pomiar pokaże, że da się zdjąć mniej niż 20% kosztu na zadanie, mówię to wprost i kończymy na pomiarze — zestaw ewaluacyjny zostaje u Was
Napisz, ile płacicie miesięcznie za API modeli i do czego ich używacie. W 1–2 dni robocze odpiszę z ceną pomiaru i terminem.
Albo mailem: michal@jaskol.ski
Stan: listopad 2026
Policz to na swoich liczbach.
Weź miesięczny rachunek za API modeli i zachowawczy procent, który da się zdjąć przy tej samej jakości. Ile zostaje w firmie przez rok?
Rachunek
mniej za LLM w 12 miesięcy, przy tej samej jakości
144 000 zł — mniej za LLM w 12 miesięcy, przy tej samej jakości- mniej na rachunku za LLM miesięcznie
- 12 000 zł
- razem w 12 miesięcy
- 144 000 zł
To szacunek na liczbach, które wpisujesz. Prawdziwy procent wychodzi z pomiaru w dniach 1–3 — jeśli jest mniejszy niż 20%, kończymy na pomiarze.
Porównaj to z ceną zmian: napisz, ile płacicie za API miesięcznie.
Zanim napiszesz.
Skąd wiemy, że jakość nie spadła?
Z bramki jakości. W pierwszych trzech dniach budujemy zestaw ewaluacyjny z Waszego realnego ruchu i mierzymy na nim dzisiejszą jakość. Każda zmiana wchodzi tylko wtedy, gdy na tym samym zestawie wypada nie gorzej, a na produkcję idzie za flagą albo na ruchu cieniowanym, z rollbackiem. Na koniec dostajecie porównanie przed i po: koszt na zadanie, jakość i opóźnienie.
Czy to nie jest po prostu przejście na tańszy model?
Zamiana modelu to jedna z dźwigni i rzadko najlepsza. Zwykle więcej daje routing: tańszy model do łatwych spraw, eskalacja do mocnego tylko tam, gdzie jest potrzebny. Do tego cache promptów i odpowiedzi, krótszy kontekst i mniej fragmentów z RAG, limity długości wyjścia i ustrukturyzowane odpowiedzi, batch dla zadań bez pośpiechu, cięcie pętli ponowień w agentach. Którą dźwignię ruszyć pierwszą, pokazuje pomiar z dni 1–3.
Ile możemy zaoszczędzić?
Nie wiem, dopóki nie zmierzę — i nie ufałbym nikomu, kto podaje procent przed pomiarem. Zależy od tego, jaki ułamek Waszego ruchu to łatwe sprawy, ile kontekstu idzie w każdym wywołaniu i ile powtórzeń da się obsłużyć z cache. Dlatego pierwsze trzy dni to pomiar z szacunkiem dla każdej dźwigni, a wycena reszty idzie dopiero po nim. Jeśli do zyskania jest mniej niż 20%, mówię to i kończymy na pomiarze.
Co, jeśli oszczędność wyjdzie mniejsza?
Są dwa progi. Pierwszy po pomiarze: jeśli dźwignie dają razem mniej niż 20%, mówię to i kończymy na pomiarze. Drugi po wdrożeniu: jeśli koszt na zadanie na tym samym zestawie ewaluacyjnym nie spadł o co najmniej 20% przy jakości nie gorszej niż dziś, płacisz tylko za pomiar, a etap zmian jest na mój koszt. Przy wycenie wybierasz też sposób rozliczenia: stałą cenę za stały zakres albo niższą stałą cenę plus 20% zmierzonej miesięcznej oszczędności przez 6 miesięcy. Oszczędność liczymy jawnie: (koszt na zadanie przed − koszt po) × liczba zadań w miesiącu, z monitoringu, który zostaje u Was.
Czy uzależnimy się od jednego dostawcy?
Odwrotnie. Routing i bramka jakości działają z każdym modelem, więc zamiana dostawcy staje się zmianą konfiguracji, którą da się zmierzyć, a nie przepisaniem systemu. Tam, gdzie zadanie jest wąskie, a ruch duży, kandydatem jest mniejszy model z otwartymi wagami albo dostrojony — uruchomiony u Was albo u dostawcy, za tą samą bramką.
Czym to się różni od audytu wykorzystania AI?
Audyt odpowiada na pytanie, czy używacie AI tam, gdzie trzeba, i w najlepszym dostępnym układzie — i kończy się rankingiem ulepszeń. Tu wchodzę w kod z jednym celem: ten sam wynik za mniej. Jeśli nie wiecie, czy problemem jest koszt, czy dobór rozwiązań, zacznijcie od audytu: koszt jest w nim jednym z wejść.
Co dalej
Zespół zostaje z zestawem ewaluacyjnym, bramką jakości i monitoringiem — każdą kolejną zmianę modelu sprawdza tak samo. Naturalny następny krok to sprint wdrożeniowy: ten sam pomiar, kolejny proces.