Miért van értelme saját szerveren futó AI-al sz*pni? (Kaotikusan sült el a GPT-5 modell bevezetése)

Miért van értelme saját szerveren futó AI-al sz*pni?

Hát például ezért!

Ahogyan a kritóvaluták világában mondani szokás: not Your Keys, Not Your Coins 

Úgy az AI világban is ideje megtanulni: not Your Server, Not Your Ai.

(illetve még a hup generációnak: kicsit kvantáltabb, kicsit lassabb de a mienk:)

Hozzászólások

A GPT-5 megpróbálja a lehetetlent, gazdaságossá tenni az AI-t úgy, hogy megmaradjon a tudása. Az utóbbi láthatóan nem sikerült, hogy az előbbi összejön-e, még nyitott  kérdés.

Szerintem nem, de nekem már az óvodában is minusz volt a jelem.

Ha tartós rendszert építesz és okos csapatot nevelsz, akkor száz kiadásban sem érheti baj; ha csak a gépekre hagyatkozol, akkor egyszer jól jársz, máskor rosszul; de ha sem a rendszer nem bírja a terhet, sem a csapat nem tanul a hibákból, akkor minden egyes kiadás kockázat.

Nem tudnál szofisztikáltabb címet adni?

Imho nagyon nem ugyanaz a termék a gagyi B2C chatbot, az ugyanazzal a modellel dolgozó API, meg az onprem futtatott nyílt modellek.

Meg aki végtelen compute teljesítményt vár havi 20 dollárból, az sikeres ember amúgy sem lehet. :) (Mondom ezt úgy, hogy nekem is megvan a véleményem a GPT-5 release-ről)