ickas

I build with AI and write about what actually works: agents, dev tools, and Portugal's AI scene. VP of Engineering at @LayerXlab

[ickas @ickasdev]

Menos de 24 horas. Foi o tempo que tivemos entre o lançamento do AMÁLIA e pôr no ar uma interface pública e gratuita para qualquer pessoa conversar com o modelo.

E o desafio não foi só a velocidade. Foi fazê-lo bem: cuidar das partes técnicas que realmente importam para que uma coisa destas aguente utilizadores reais desde o primeiro minuto, com uma particularidade que nos orgulha, isto está a correr nas nossas próprias máquinas, com o LLM diretamente num NVIDIA Spark.

Orgulhoso do que foi entregue em tão pouco tempo. Obrigado à @TeKNoticias_ pela cobertura 👇

https://t.co/hYw7zh5qQ2

[ickas @ickasdev]

@ariange1o Esse é o número para correr com folga em produção, não o mínimo teórico, e se quantizares desce muito. Já há builds em GGUF e 4-bit a correr numa gráfica comum ou até num Mac. Pagas em qualidade, que é o trade-off de que se tem falado.

[ickas @ickasdev]

A SIC Verifica testou o Amália e a plataforma que usaram foi a que nós construímos, o amalia.layerx​.xyz. Aparecer num fact-check de televisão nacional não estava no meu bingo de 2026.

O veredicto deles: os screenshots virais não eram Photoshop. E como construí a interface, posso explicar porquê. O modelo tem 9 mil milhões de parâmetros e responde apenas com o que memorizou durante o treino: sem acesso à web, sem ir buscar factos a lado nenhum. Ministros errados e eleições inventadas não são um bug, são a data de corte dos dados de treino. E contar os R de "morango" falha pelo mesmo motivo que o ChatGPT falhava os R de "strawberry": o modelo vê tokens, não letras.

Avaliar um modelo destes como enciclopédia é o teste errado. O teste certo é o que ele foi feito para fazer: português europeu a sério, escrever, resumir, reformular. E aí porta-se bem.

[ickas @ickasdev]

@hgoliv Tens algum nome que possas dar de com quem possamos falar?

[ickas @ickasdev]

In X's open-source algorithm, being scrolled past is an explicit negative signal: the model predicts "not dwelled" and subtracts it from your score.

A weak first line doesn't just cost you a like. It actively ranks you down.

[ickas @ickasdev]

Não usamos a prompt dos scripts do GitHub, passamos uma nossa, curta, com quatro frases (persona, responder em pt-PT, ser concisa, Markdown). Como o chat template do modelo só injeta a system prompt dele quando não recebe nenhuma, ao enviarmos a nossa acabamos por substituir a default por completo, não a complementá-la. Como é o chat template a tratar disso, fiquei sem saber qual é a de referência agora: a que vem no template do HF ("O teu nome é AMALIA...") ou uma versão que alteraram e vive noutro sítio?

Quanto ao MCP, estamos em sintonia. Do lado da interface é precisamente a camada que nos faz sentido construir e é algo que já fizemos com web search de forma mais "arcaica".

Como a Amália não emite tool calls, orquestramos a pesquisa (via Tavily) do nosso lado e injetamos os resultados na system prompt. O MCP seria a versão limpa disto. Se não houver ninguém do consórcio a tratar disso, é algo em que até poderíamos pegar (?) expondo web search e outras ferramentas ao modelo sem lhe tocar nos pesos.

[ickas @ickasdev]

Concordo com o ponto da interface. Um chat convida a tratar o modelo como oráculo factual, e a 9B a memória paramétrica não aguenta essa expetativa. Era precisamente o que eu andava a defender ali na rede ao lado: o rigor factual vem do retrieval sobre fontes, não do que ficou nos pesos.

Só um dado sobre a quantização: a nossa instância serve o modelo completo em vLLM, não uma build quantizada, por isso pelo menos essa parte da qualidade não se perde. O difícil mesmo é gerir a expetativa.

Por isso o que me entusiasma é o CorEGe-PT ligado por RAG e os modelos de QA com as referências que referes. E o passo que me puxa a seguir é dar tooling ao modelo, deixá-lo usar ferramentas como web search e entrar como agente em workflows que já existem, para o rigor vir também de fontes live e não só do que está treinado. É onde deixa de ser uma caixa de chat.

[ickas @ickasdev]

Uso parecido, com uma camada extra: Sonnet 5 para o dia a dia de baixo esforço, Opus 4.8 como daily driver para coding agents, e o Fable guardado para as tarefas que justificam queimar a quota. Cada um com as suas coisas.

E sim, ter 2 ou 3 subscrições e saltar conforme os lançamentos parece ser a meta para 2026. Nenhum lab se mantém na liderança mais do que umas semanas e isso é ótimo.

[ickas @ickasdev]

Há 4 horas escrevi que a Anthropic não ia conseguir segurar o Fable 5 fora das subscrições com o GPT-5.6 Sol a $5/$30 e o Grok 4.5 a $2/$6 no mercado.

Não demorou nem uma tarde: acesso prolongado até 19 de julho em todos os planos pagos, e os rate limits semanais do Claude Code ficam 50% mais altos.

Guerra de capacidade entre labs é das melhores coisas que nos pode acontecer a quem constrói com isto.

[Claude @claudeai]

We're extending Claude Fable 5 access on all paid plans, as well as keeping Claude Code’s weekly rate limits 50% higher, through July 19.

[ickas @ickasdev]

A parte dos custos variáveis é a que mais sinto: o mesmo agente custa X hoje e 3x amanhã conforme o modelo decide pensar mais ou menos.

Limites rígidos de token por pedido resolvem o passivo financeiro mas matam os casos onde o raciocínio longo é justamente o valor. O controlo provavelmente tem de ser por tarefa, não global.

[ickas @ickasdev]

O Fable não gera imagem, só texto, mas é brutal nisso e portanto está tudo bem. Para imagens continuo no Gemini também, apesar de ultimamente ter tido por vezes melhores resultados com o GPT-image.

O truque que tem funcionado: peço ao Fable a prompt da imagem, bem detalhada, estilo e composição incluídos, e só depois levo ao Gemini/GPT. A frustração acaba por descer para metade 😅

[ickas @ickasdev]

Passei pelo mesmo. O que resolveu aqui foi tratar a skill como um contrato e não como um tutorial: gatilho explícito logo no início, regras numeradas, e principalmente exemplos do que NÃO fazer.

O acaba por quebrar entre as sessões quase nunca é a instrução, é o modelo a decidir quando a skill se pode ou não aplicar.

[ickas @ickasdev]

Já saíram os primeiros independentes. Artificial Analysis: no índice geral de inteligência o Fable continua 1 ponto acima, mas no Coding Agent Index o Sol lidera (80 pontos) com custo por tarefa ~40% mais baixo.

Portanto, basicamente a mesma fronteira, economics diferentes: https://t.co/0eOPRXoz3p

[ickas @ickasdev]

@pxxdos44 The announcement says "keeping Claude Code's weekly rate limits 50% higher". They were already raised, and the news is they stay raised through July 19 instead of dropping back. That's exactly what "ficam 50% mais altos" means: they remain.

[ickas @ickasdev]

@dvo_dvo The extension also keeps the weekly limits 50% higher through the 19th, so it's extra headroom, not just extra days. But fair point: if this week's limit is already gone, the calendar is what it is.

[ickas @ickasdev]

@CapitaoWilson Também acho dia 19 otimista, mas duvido que a razão seja revenue: a margem dos créditos avulsos é pequena ao lado do custo reputacional de tirar o flagship aos subscritores. O gargalo real é capacidade de inference, e essa não se resolve com um anúncio.

[ickas @ickasdev]

@petersaints O timing até joga a teu favor: tens o Fable incluído até dia 19 para testar a sério antes de decidires. No meu caso o Claude Code é o que segura a subscrição, é onde o Fable ainda ganha claramente no dia a dia. Mas nada como ter um setup agnóstico em que não se fica agarrado.

[ickas @ickasdev]

Nos benchmarks de coding e no preço, o Sol ganhou esta ronda (a Artificial Analysis dá-lhe a liderança no Coding Agent Index). No índice geral de inteligência, o Fable continua à frente mas por pouco.

No uso real com agentes longos ainda prefiro o Fable. Mas pela primeira vez em meses a resposta deixou de ser óbvia, e isso é o que se tira de bom desta situação toda.

[ickas @ickasdev]

@danielarpm 😄 Modelos desta dimensão são fáceis de levar para fora do guião, faz parte das limitações desta fase do projeto. Mais uma razão para o avaliar como investigação em curso e não como produto final.

[ickas @ickasdev]

O fact-check completo da SIC Verifica: https://t.co/JAf30XqSO8

[ickas @ickasdev]

@rodrigo_p_a Podes encontrar os valores aqui:
https://t.co/9mxY1MWdUS