Tomasz Szer

startups and AIs

[Tomasz Szer @tomaszer]

@edzitron S&P 500 rejects SpaceX, also blocking entry for OpenAI and Anthropic
https://t.co/tifIy0IbSk

[Tomasz Szer @tomaszer]

@CKeruac A to jest bardzo ciekawe @swierk , na jakiej podstawie tak twierdzisz. Możesz się podzielić twoim tokiem rozumowania. Bardzo chętnie bym się z nim zapoznał, bo może coś mnie omija.

[Tomasz Szer @tomaszer]

@wolenczakowy @CKeruac A jak chcesz to zakodować?
Wymienianie listy czego nie ma LLM jest łatwe.

[Tomasz Szer @tomaszer]

@Przegaa @TheAtlantic No i oczywiście "czy AI czuje ból".

[Tomasz Szer @tomaszer]

@Przegaa @TheAtlantic Nawet jak napisane, to nie znaczy zrozumiane, przyjęte do wiadomości i zapamiętane, a tym bardziej podawane dalej. Jeszcze niejedna dyskusja się odbędzie o "świadomości" AI.

[Tomasz Szer @tomaszer]

@CKeruac Problem w tym, że oprogramowania nie da sprzedawać na kilogramy. Chociaż ktoś mi kiedyś próbował udowadniać, że soft jednak waży. Doszliśmy do poziomu elektronów.

[Tomasz Szer @tomaszer]

@KinasRemek lokalne znaczy Edge LLMs

[Tomasz Szer @tomaszer]

@KinasRemek Wydaje mi się, że są 3 powody wejścia z AI do laptopów: 1) Brakuje kasy z subskrypcji AI, bo popyt jest "wmówiony" 2) Modele lokalne na laptopie ogarną 80% zadań zwykłych naciskaczy klawiszy, nie trzeba chmury 3) Na sprzęcie można jeszcze zarobić, na tokenach już raczej nie

[Tomasz Szer @tomaszer]

@ArturKmieciak @KinasRemek @FranzAmerica @piotrsankowski To nie jest problem tańszych modeli ale całej infrastruktury i przewidywanej skali działania.

[Tomasz Szer @tomaszer]

@KinasRemek @FranzAmerica @piotrsankowski @KinasRemek
A jakie GPU są brane pod uwagę?

[Tomasz Szer @tomaszer]

@KinasRemek @FranzAmerica @piotrsankowski No i jak to często bywa nie należy zapominać o kosztach utrzymania, bo to w szacunkach gdzieś zawsze się gubi.

[Tomasz Szer @tomaszer]

@KinasRemek @FranzAmerica @piotrsankowski A czy ktoś w ramach zadęcia, że "damy radę", policzył ile trzeba hardware'u, mocy, ludzi, pieniędzy i czasu na doładowanie Bielika, by choć trochę był użyteczny w skali dla jakiej miałby działać?

[Tomasz Szer @tomaszer]

@CKeruac No nie ma reasoningu (jest raczej symulacja), generalizacji, planowania, ciągłego uczenia. Halucynacje można na siłę podciągnąć pod kreatywność. Aha, no i dostrzeganie analogii, tyle że nie wynikające z wyszukiwania wzorców z zapamiętanych danych, a raczej skoków w latent space.

[Tomasz Szer @tomaszer]

@CKeruac Ale jak długo jeszcze, choć przy tym paradygmacie AI, to jeszcze może potrwać. Ostatecznie wydaje się, że zaczynamy coraz lepiej rozumieć, jak odwzorowywać funkcjonalnie niektóre procesy (nie te fizjologiczne) w mózgu. Nie wszystkie, bo nie wszystkie procesy są konieczne.

[Tomasz Szer @tomaszer]

@KinasRemek ciekawe od jak dawna projektowali to rozwiązanie dla laptopów, bo to zajmuje trochę czasu

[Tomasz Szer @tomaszer]

@KinasRemek A może robią to, bo nie ma już komu opchnąć nowych GPU i trzeba nowych rynków szukać?

[Tomasz Szer @tomaszer]

@svpino But you do realise that models aren’t like water or electricity, and they aren’t that easy to swap out? Changing a model means a change in the quality of the responses, and all the other limitations that come with the quality of LLM, and the price per token isn’t the only factor.

[Tomasz Szer @tomaszer]

@kurasinski Poza tym to jest statystyka z OpenRouter czyli tych co mają tam konta. Ci co są na modelach z Frontier Labs tam nie występują.

[Tomasz Szer @tomaszer]

@kurasinski Kto pali ten pali, zależy do czego, bo chińskie LLMy nie dają rady w pisanie kodu.