@edzitron@edzitron is this means that renting GPUs costs 11-12$/h and one request could burn 20-30$ subscription in a minutes and AI agents even faster…?
No wonder why Token base billing is sooooooooo pricey
@prywatnik@m4rcelpl Małe modele to można na wszystkim uruchomić co ma jakieś GPU i kilka GB VRAMu.
Sama możliwość odpalenia nic nie znaczy.
Modele ważące po 20-30GB są w stanie “zjeść” wielokrotność swojej wielkości, nawet Mac Studio z 512GB RAM po pewnym czasie może nie wystarczyć.
@edzitron@edzitron is this true cost or they are just more expensive but still subsidized tokens because no one can go with full price is market is still heavy subsidized?
@marmaduke091 We need some sort of law to force companies who are living from easy $ from VC to open their books to the public. We all know AI is loosing money, we just don't know scale. They bragging about bilions revenue but still they are organize fundraisers.
@nauczymycieAI @kowalski24852 Dzis jestem spokojniejszy niż rok temu czy dwa lata temu. To zmierza do wielkiej katastrofy ale firm AI jak pokażą ile kosztuje przeładowany dziurawy kod