← Wszystkie oferty
Oferta · 06

Niższe koszty LLM

Rachunek za modele LLM rośnie szybciej niż ruch. W 2–⁠3 tygodnie wchodzę w Wasz kod i obniżam koszt na zadanie bez spadku jakości: każda zmiana przechodzi przez bramkę jakości na zestawie z Waszego realnego ruchu, wchodzi za flagą i ma rollback.

Dla kogo: Dla firm z LLM na produkcji — w funkcjach produktu, agentach albo wewnętrznych pipeline'ach — które co miesiąc płacą za API realną kwotę i patrzą, jak rośnie.

Nie dla zespołów przed produkcją — tam zaczyna się od Mapy szans. Zepsute wdrożenia bierze Interwencja. Jeśli pytanie brzmi „który model do którego zadania”, odpowiada na nie Audyt wykorzystania AI.

Napisz na LinkedIn
czas
2–⁠3 tygodnie
format
praca w Waszym kodzie
wynik
niższy koszt na zadanie + bramka jakości
cena
od 8500 zł netto · pomiar
( 01 )

Rachunek rośnie szybciej niż ruch.

Pierwsze wdrożenie dało najmocniejszy model do wszystkiego, bo wtedy liczyło się, żeby działało. Od tego czasu doszli agenci z pętlami ponowień, długie konteksty i RAG, który wrzuca do promptu więcej, niż zadanie potrzebuje — a faktura za API rośnie co miesiąc, choć ruch nie. Zespół boi się ruszyć konfigurację, bo nikt nie umie powiedzieć, czy tańszy wariant nie popsuje jakości. Da się to zmierzyć: najpierw zestaw ewaluacyjny z realnego ruchu i koszt na zadanie, potem zmiany, które przechodzą bramkę jakości.

( 02 )

Co dostajesz

  • Zestaw ewaluacyjny zbudowany z Waszego realnego ruchu, z bazową jakością i kosztem na zadanie dla każdego miejsca, które woła model
  • Bramka jakości: zmiana wchodzi tylko wtedy, gdy na tym zestawie wypada nie gorzej niż dziś
  • Zmiany wdrożone w Waszym kodzie, za flagą i na ruchu cieniowanym, z rollbackiem: routing do tańszych modeli z eskalacją, cache promptów i odpowiedzi, krótszy kontekst, limity długości wyjścia, batch dla zadań bez pośpiechu
  • Mniejszy albo dostrojony model tam, gdzie zadanie jest wąskie, a ruch duży
  • Porównanie przed i po na tym samym zestawie: koszt na zadanie, jakość, opóźnienie
  • Monitoring kosztu i jakości z alertami oraz spisane zasady, żeby rachunek nie wrócił
( 03 )

Przebieg

01Dni 1–⁠3Pomiar: zestaw ewaluacyjny z realnego ruchu, bazowa jakość i koszt na zadanie, lista dźwigni z szacunkiem i wycena reszty pracy.
02Dni 4–⁠12Zmiany: dźwignia po dźwigni, w parze z Waszym inżynierem, każda za bramką jakości, flagą i z rollbackiem.
03Dni 13–⁠15Przekazanie: koszt, jakość i opóźnienie przed i po na tym samym zestawie, monitoring z alertami, spisane zasady.
( 04 )

Warunki po Twojej stronie

Ta praca działa, jeśli masz:

dostęp do kodu, rozliczeń i logów albo śladów wywołań od pierwszego dnia
jednego inżyniera z zespołu w parze przez cały czas — wiedza ma zostać u Was
próbkę realnego ruchu, z której zbudujemy zestaw ewaluacyjny
zgodę na wdrażanie za flagą i na ruchu cieniowanym albo w teście A/B
gotowość na werdykt „tu nie ma dużo do zyskania” po pomiarze
( 05 )

Cena

od 8500 złnetto · pomiar

Wycena po pomiarze (dni 1–⁠3), zawsze zanim ruszy pierwsza zmiana, w jednym z dwóch wariantów rozliczenia. Oba z tą samą gwarancją: jeśli po wdrożeniu koszt na zadanie na tym samym zestawie ewaluacyjnym nie spadnie o co najmniej 20% przy jakości nie gorszej niż dziś, płacisz tylko za pomiar (dni 1–⁠3). Etap zmian jest wtedy na mój koszt.

Stała cena · wariant domyślnyStała cena za stały zakres zmian, ustalony po pomiarze.
Niższa stała cena + udział w oszczędnościNiższa stała cena plus 20% zmierzonej miesięcznej oszczędności przez 6 miesięcy. Oszczędność to (koszt na zadanie przed − koszt po) × liczba zadań w miesiącu, odczytana z monitoringu, który zostaje u Was.
  • zamknięte w 2–⁠3 tygodniach — nie wchodzę na miesiące
  • jeśli już pomiar pokaże, że da się zdjąć mniej niż 20% kosztu na zadanie, mówię to wprost i kończymy na pomiarze — zestaw ewaluacyjny zostaje u Was

Napisz, ile płacicie miesięcznie za API modeli i do czego ich używacie. W 1–⁠2 dni robocze odpiszę z ceną pomiaru i terminem.

Stan: listopad 2026

( 06 )

Policz to na swoich liczbach.

Weź miesięczny rachunek za API modeli i zachowawczy procent, który da się zdjąć przy tej samej jakości. Ile zostaje w firmie przez rok?

Twoje liczby

zł / mies.
%

Rachunek

mniej za LLM w 12 miesięcy, przy tej samej jakości

144 000 zł — mniej za LLM w 12 miesięcy, przy tej samej jakości
mniej na rachunku za LLM miesięcznie
12 000 zł
razem w 12 miesięcy
144 000 zł

To szacunek na liczbach, które wpisujesz. Prawdziwy procent wychodzi z pomiaru w dniach 1–⁠3 — jeśli jest mniejszy niż 20%, kończymy na pomiarze.

Porównaj to z ceną zmian: napisz, ile płacicie za API miesięcznie.

( 07 )

Zanim napiszesz.

Skąd wiemy, że jakość nie spadła?

Z bramki jakości. W pierwszych trzech dniach budujemy zestaw ewaluacyjny z Waszego realnego ruchu i mierzymy na nim dzisiejszą jakość. Każda zmiana wchodzi tylko wtedy, gdy na tym samym zestawie wypada nie gorzej, a na produkcję idzie za flagą albo na ruchu cieniowanym, z rollbackiem. Na koniec dostajecie porównanie przed i po: koszt na zadanie, jakość i opóźnienie.

Czy to nie jest po prostu przejście na tańszy model?

Zamiana modelu to jedna z dźwigni i rzadko najlepsza. Zwykle więcej daje routing: tańszy model do łatwych spraw, eskalacja do mocnego tylko tam, gdzie jest potrzebny. Do tego cache promptów i odpowiedzi, krótszy kontekst i mniej fragmentów z RAG, limity długości wyjścia i ustrukturyzowane odpowiedzi, batch dla zadań bez pośpiechu, cięcie pętli ponowień w agentach. Którą dźwignię ruszyć pierwszą, pokazuje pomiar z dni 1–⁠3.

Ile możemy zaoszczędzić?

Nie wiem, dopóki nie zmierzę — i nie ufałbym nikomu, kto podaje procent przed pomiarem. Zależy od tego, jaki ułamek Waszego ruchu to łatwe sprawy, ile kontekstu idzie w każdym wywołaniu i ile powtórzeń da się obsłużyć z cache. Dlatego pierwsze trzy dni to pomiar z szacunkiem dla każdej dźwigni, a wycena reszty idzie dopiero po nim. Jeśli do zyskania jest mniej niż 20%, mówię to i kończymy na pomiarze.

Co, jeśli oszczędność wyjdzie mniejsza?

Są dwa progi. Pierwszy po pomiarze: jeśli dźwignie dają razem mniej niż 20%, mówię to i kończymy na pomiarze. Drugi po wdrożeniu: jeśli koszt na zadanie na tym samym zestawie ewaluacyjnym nie spadł o co najmniej 20% przy jakości nie gorszej niż dziś, płacisz tylko za pomiar, a etap zmian jest na mój koszt. Przy wycenie wybierasz też sposób rozliczenia: stałą cenę za stały zakres albo niższą stałą cenę plus 20% zmierzonej miesięcznej oszczędności przez 6 miesięcy. Oszczędność liczymy jawnie: (koszt na zadanie przed − koszt po) × liczba zadań w miesiącu, z monitoringu, który zostaje u Was.

Czy uzależnimy się od jednego dostawcy?

Odwrotnie. Routing i bramka jakości działają z każdym modelem, więc zamiana dostawcy staje się zmianą konfiguracji, którą da się zmierzyć, a nie przepisaniem systemu. Tam, gdzie zadanie jest wąskie, a ruch duży, kandydatem jest mniejszy model z otwartymi wagami albo dostrojony — uruchomiony u Was albo u dostawcy, za tą samą bramką.

Czym to się różni od audytu wykorzystania AI?

Audyt odpowiada na pytanie, czy używacie AI tam, gdzie trzeba, i w najlepszym dostępnym układzie — i kończy się rankingiem ulepszeń. Tu wchodzę w kod z jednym celem: ten sam wynik za mniej. Jeśli nie wiecie, czy problemem jest koszt, czy dobór rozwiązań, zacznijcie od audytu: koszt jest w nim jednym z wejść.

( 08 )

Co dalej

Zespół zostaje z zestawem ewaluacyjnym, bramką jakości i monitoringiem — każdą kolejną zmianę modelu sprawdza tak samo. Naturalny następny krok to sprint wdrożeniowy: ten sam pomiar, kolejny proces.

Rachunek za LLM rośnie szybciej niż ruch?

Odpowiadam osobiście

Napisz na LinkedIn