The Outsider Dev is a newsletter that shares my perspective as a self-taught software engineer working remotely for US companies.
If you want to work for international companies or want to improve your learning process as a developer, hit subscribe 👇
https://t.co/4Iz4NUXLv9
@appariciojunior pra mim, isso tem mais a ver com o token maxxing que incentivaram
“olha que legal, estamos gastando 1B tokens por dia!!!”
se usam isso como métrica, as pessoas vão otimizar seu fluxo de trabalho pela métrica
Pessoal já comentou, mas “zero” alucinação é tipo a north star não alcançável, mesmo com citations.
Ex: tenho um RAG de transcrição de depoimentos judiciais. Uma testemunha faz uma afirmação, mas se contradiz páginas depois.
Na busca por similaridade, só vem a primeira afirmação no contexto. Na busca por texto (BM25), nada retorna sobre a contradição.
A IA entrega uma resposta confiante, mas imprecisa, mesmo com a referência de página e parágrafo específico.
Mas a IA não sabe o que não sabe, pois não tem o contexto completo, e foi instruída a responder apenas de acordo com o que recebeu.
E o pior: tem dados pra comprovar, mesmo estando errada.
Dá pra mitigar? Com certeza. Mas zero, pra mim, não vejo como possível.
@luksamuk@leastsquared_ massa. Fiquei pensando que tipo de estrutura usaria pra armazenar o bloco de thinking, considerando que nem todo raciocínio seria útil ali na frente? Às vezes é um dead end, ou uma conclusão precipitada, enfim. Trazer tudo via embedding não acaba poluindo mais que deveria?
@joaosenzi Acho que o “não posso afirmar” é uma restrição técnica, não significa que foi ensinado a dizer isso.
Ele realmente não sabe como foi treinado, não tem como saber.
Só o que ele pode saber é o que foi dito sobre seu treinamento, pela OpenAI ou qualquer outra pessoa na internet.
@brunofaggion Até pq o recorte pode ser feito como quiser
Comparar custo de vida do Brasil com outros países é simplista? Pode ser
Mas o custo de vida em SP capital também é absurdamente diferente do interior do Amazonas
Cada um vai medir pela sua própria régua, rico é quem tem mais que eu
@o_gabsferreira Tive banda por anos, já ganhei dinheiro tocando, mas acaba virando um trabalho e perde a graça mesmo.
No meu caso, o que eu gosto é daquele plateau: ter skill o suficiente pra tocar o que gosta, mas sem a pressão de ter que melhorar o tempo todo pra performar