@prywatnik@m4rcelpl Małe modele to można na wszystkim uruchomić co ma jakieś GPU i kilka GB VRAMu.
Sama możliwość odpalenia nic nie znaczy.
Modele ważące po 20-30GB są w stanie “zjeść” wielokrotność swojej wielkości, nawet Mac Studio z 512GB RAM po pewnym czasie może nie wystarczyć.
@edzitron@edzitron is this true cost or they are just more expensive but still subsidized tokens because no one can go with full price is market is still heavy subsidized?
@marmaduke091 We need some sort of law to force companies who are living from easy $ from VC to open their books to the public. We all know AI is loosing money, we just don't know scale. They bragging about bilions revenue but still they are organize fundraisers.
@nauczymycieAI @kowalski24852 Dzis jestem spokojniejszy niż rok temu czy dwa lata temu. To zmierza do wielkiej katastrofy ale firm AI jak pokażą ile kosztuje przeładowany dziurawy kod