"Nie optymalizuj narzędzia w nieskończoność. Jeśli płatny model rozwiązuje Twój problem szybko i dobrze, niekoniecznie warto spędzać weekend na konfiguracji lokalnego odpowiednika."
Byłem ostatnio na takiej konferencji o AI (a wcześniej byłem na takiej o blockchainie). Sala mała, kawa jakaś taka słaba, a na scenie gość, który pokazywał na laptopie, jak pobierać i instalować modele do LM Studio. Ogólnie przesłanie: "Korzystajcie z darmowych modeli".
Ja siedzę w trzecim rzędzie i myślę: kurde, po co?
Budujmy własne?
Za każdym razem to samo. Suwerenność, kontrola, open source, i że nie możemy polegać na wielkich korpo. No dobra. Tylko po co właściwie?
Ja już to przerabiałem, wielokrotnie, a z AI nawet dość niedawno. Kilka miesięcy temu zainstalowałem Comfy na komputerze do generowania video ze zdjęć. Pobrałem trzy najnowsze modele open source - jakieś 150+ GB - dodałem prompta, kontekst, zdjęcia - start. Komputer wył jak odkurzacz i po pięciu, ośmiu minutach wypluł wideo ze zniekształconą twarzą. Spędziłem dwa dni na konfiguracji, żeby działało tak, jak chcę. I co? Zawsze działało gorzej niż rozwiązanie, za które płacę dwadzieścia dolarów miesięcznie i które generuje wynik w trzydzieści sekund.
Ale część osób dalej wierzy, że ten darmowy model będzie lepszy - chyba lepszy o te 20 dolarów mniej. Modele (od internautów) to pliki, które ktoś wrzucił na githuba lub huggingface o drugiej w nocy, dopisał README, dostał 47 gwiazdek i uciekł, nie dbając o support. Robią i znikają. Jak mają większą zajawkę, ciągną temat miesiącami i znikają - no chyba że support przychodzi w postaci USD, wtedy ciągną dłużej. A jak Ci się wywali produkcja? Jest issue na GitHubie...
Czy nie budujemy?
Model komercyjny? Ma budżet większy niż PKB małego kraju. Ma zespół ludzi, których jedynym zadaniem jest to, żeby nie zepsuć Ci poniedziałku.
Ale nie, ja mam budować własne modele i pobierać darmowe. Po to, żeby za trzy miesiące testować i szukać nowych, bo mój i tak będzie już stary. To jest droga donikąd. Zawsze będziesz polegał na modelach z internetu zamiast na mega mocnych modelach komercyjnych - tylko że do własnych jeszcze będziesz musiał dokładać do pieca. A do pieca najlepsza jest karta graficzna za dwadzieścia tysięcy PLN, procesor i9 i jakieś pięć terabajtów SSD. To tak jakbym budował własny samochód, żeby pojechać do Żabki po bułki.
To nie jest tylko moje zboczenie. Ten sam mechanizm działa u góry.
W lipcu 2026 Anthropic wypuściło Claude Cowork. Teraz taka sesja żyje w chmurze: zamykasz laptopa, idziesz do Żabki, a agent dalej mieli zadanie. Później OpenAI odpowiedziało ChatGPT Work na nowych modelach. I kilka godzin później zaczęła się debata: który agent jest szybszy, który mądrzejszy, czyj slajd jest bardziej schludny. Za każdym razem widzę to samo.
Najgłupsza debata? W internecie.
Claude czy ChatGPT? To tak jak z pytaniem: Ford czy Opel, jeśli masz do przejechania 500 kilometrów autostradą. Oba dojadą w podobnym czasie - jeden był wygodny, lecz głośny, a drugi lepiej się prowadził ale kłuło coś w dupę po 2 godzinach jazdy w fotelu.
Różnica w jakości zadania była niewielka. Ktokolwiek (Claude czy ChatGPT) obejmie prowadzenie w tym miesiącu, zostanie dogoniony w następnym. Tak działa wyścig dwóch firm z praktycznie nieograniczonym budżetem. Rozsądne rozwiązanie przy dwóch tak ściśle dopasowanych narzędziach jest jedno: wybrać jedno i iść dalej robić robotę.
Wybieranie co miesiąc platformy, która robi to 3% lepiej? To najmniej istotna decyzja, jaką możesz podjąć.
Prawdziwa przewaga: płynność.
Zespół, który opiera się na jednej platformie, buduje to, czego samo oprogramowanie nie zrobi: wspólne workflow, bibliotekę promptów i kontekstów, która rośnie co tydzień oraz ludzi, którzy znają wszystkie obejścia systemu. Praca idzie płynnie, bo wszyscy budują w tym samym miejscu.
Kiedy naprawdę opanujesz platformę, przestajesz z niej tylko korzystać i zaczynasz ją rozwijać. Dodajesz własne skille, wtyczki, API, itd.
A zespół, który skacze na nową platformę za każdym razem, gdy ktoś na Twitterze wrzuci nowy benchmark? Pozostaje wiecznym nowicjuszem. Ciągle się przekwalifikowuje, nigdy nie osiąga płynności, marnuje energię na ocenianie narzędzi zamiast na opanowanie jednego.
Ja też tak kiedyś robiłem. Przez pół roku miałem otwartych pięć kart: Claude, ChatGPT, Gemini, Perplexity i Mistrala. Efekt? Znałem wszystkie po trochu i żadnego na serio. Sześć miesięcy prawdziwej biegłości w jednym bije na głowę sześć miesięcy lizania po łebkach czterech. Zawsze.
Duzi przestali się bawić w elastyczność.
KPMG ogłosiło globalny sojusz z Anthropic. Wpakowali Claude do swojego Digital Gateway i dali dostęp 276 tysiącom ludzi w 138 krajach. PwC zrobiło to samo - wdrożyli Claude Code i Cowork i postawili sobie cel: 30 tysięcy certyfikowanych ludzi od Claude. Morgan Stanley od 2023 roku jedzie na modelach OpenAI. Tam ponad 98% zespołów doradztwa finansowego używa ich asystenta.
To są firmy, które żyją z doradzania innym, jak nie spieprzyć decyzji. Nie rozdzieliły się miedzy pięciu dostawców, żeby być elastycznymi. Nie wybrały opensourcowego modelu z LM Studio. Wybrały jedną platformę i zbudowały wokół niej organizację.
A co w tym czasie robisz Ty albo gość z YouTube'a, który co tydzień wrzuca poradnik "przetestowałem 10 nowych modeli - ZOBACZ, który wygrał?" Pozostaniesz elastyczny, będziesz otwarty, potestujesz po trochu wszystkiego. Spoko :)
Prywatność.
Jeśli pracujesz w banku, w szpitalu, przy danych, których z prawnego punktu widzenia nie wolno wysłać do cudzego API - tak masz rację, buduj albo hostuj lokalnie, to już wymóg regulacyjny. Ale jest jedno ALE: plany enterprise u wielkich mają Zero Data Retention i certyfikaty, których Twój serwer pod biurkiem nigdy nie dostanie.
Koszty.
Przy milionach zapytań dziennie API przestaje być tanie i własny hosting zaczyna mieć sens ekonomiczny. Niby prawda. Zauważ tylko, kiedy o tym mówimy: przy milionach zapytań dziennie. Nie wtedy, gdy generujesz trzydzieści grafik dziennie. Większość ludzi, którzy bronią własnego hostingu argumentem kosztowym, nigdy nie policzyła kosztu własnego czasu.
Trening.
Open source możesz dotrenować na własnych danych, a komercyjnego - nie. To chyba będzie najmocniejszy argument z całej listy. Tylko znowu - dotrenowany. Trenowanie od zera? Setki tysięcy PLN, klaster GPU, zespół. Zapomnij. A może mały model do konkretnej roboty? Klasyfikacja, ekstrakcja? Jasne, ale to nie będzie chatbot. Model na Twoich danych jest dobry dokładnie wtedy, kiedy Twoje dane są dobre i liczne, a Ty masz kogoś, kto umie je przygotować. Jeśli masz, to prawdopodobnie nie jesteś osobą, do której ten tekst jest pisany 😏
Optymalnie, czyli jak?
Poleganie na jednej platformie nie oznacza, że masz jej używać do wszystkiego. Tu niektórzy często przesadzają w drugą stronę. Wybierasz jedno miejsce, w którym dzieje się 80% roboty i gdzie buduje się płynność, a na koniec zostawiasz sobie 20% na świadome wyjątki.
Przyjmijmy, że standardowo jedziemy na Claude, ale obrazy lepiej wychodzą Ci w ChatGPT? Używaj go do obrazów. Jakaś specjalistyczna usługa robi wideo na poziomie, którego inne modele nawet nie dotykają? Używaj jej do wideo. KPMG i PwC też trzymają więcej niż jeden model w firmie.
Koniec końców, AI ma nam przecież oszczędzać czas, a nie tworzyć nowe etaty w dziale logistyki chaosu własnych plików.
Cześć!
Komentarze
Prześlij komentarz