Agentes de IA + cybersecurity · Daybreak Blue (OpenAI). O q acontece qdo o agente age no seu login. Red teaming em lab, aprendendo em público. IAgora 📩
@mindofjota Oq me irrita é a como passam isso pro RH, ai vem recrutador perguntar de finetuning se fiz em cliente grande… NAO PQ ELES NUNCA PRECISAM AKJDK
@fearwnot justamente, deveria, mas n é. Um tema muito forte disso é justamente o confused Deputy. blz, o agente pode mexer o alfabeto, mas se eu usuário posso apenas no ABC, pq o meu agente deveria editar D? deu p entender?
- Vou até fzr palestra desse assunto por aqui
@Ga_Vasques concordo, e eu colocaria uma aula a mais: o q não deixar a IA fazer por vc. ensinar a usar é ótimo, ensinar a desconfiar da resposta e a não colar dado pessoal em qq ferramenta... essa parte eu não deixaria de fora
@daminufe ler cada linha é o conselho certo, mas tem limite: qdo a IA escreve mais rápido do q vc lê, a revisão vira um ok no automático. pra quem tá começando eu somaria: deixa a IA mexer sozinha só no q é fácil de desenhar, vc faria. o resto vc lê com calma
@AkitaOnRails o fabricante vendendo a arma e o alarme no mesmo pacote ahshakhs. fora a ironia, se o risco fosse msm tão alto eu queria ver menos previsão e mais botão de desligar testado
@gabrielbuzziv converte sim, até o agente pedir teu cartão pra comprar o GTA 6 tbm Kakaksj. o limite q eu poria é esse: agente trabalhando sozinho no q é barato de desfazer, beleza. qualquer coisa q gasta dinheiro passa por vc antes
@adriano_viana a dica é boa e o "tira nome e valor" é o ponto. num chat sem ferramenta o risco é só o q vc colou. com agente lendo a caixa direto, email de fora vira instrução, e com dado privado + saída pra rede fecha a lethal trifecta do Willison
@theo keeping the secret out of chat is the right call: the model never sees it, so it can't leak it in a reply. but if the agent's commands can read the file for 24h, a prompt injection that runs a command still can. the expiry is the real win, it caps the cost of a mistake
@maykbrito o "não, assim não colega" é a parte boa hsakhsak. o perigoso é qdo cansa e começa a aprovar no automático. revisor humano cansado é só um carimbo mais lento. eu deixaria o agente fazer sozinho só o q é barato desfazer e leria com calma o resto, e talvez um outro agent triar
@emollick agree, and the gap that's left isn't capability, it's how much we let these models do without someone able to undo it. each release makes deploying an agent cheaper, and reliable. BUT rolling back what it did hasn't gotten any cheaper. that's the part I'd watch
A própria Cognition diz q isso é trabalho dos engenheiros: quais sistemas o Bot acessa, o q pode mudar e quando gasto ou release pede aprovação.
Os números são da fornecedora. Se vc desse uma meta pra um agente, qual acesso tiraria primeiro?
https://t.co/rAxXnxfZOO
Em 17/11/2026 a Cognition lançou o Devin Bots: um agente q n recebe tarefa, recebe uma meta. E guarda memória entre sessões.
No caso q eles contam, um Bot fez o app Android do Devin em 44 dias: 1.134 PRs mergeados. O humano mandou 183 mensagens.
A maioria dessas mensagens era decisão q precisava de humano, tipo PR pedindo revisão de segurança.
Esse é o ponto: um agente q trabalha semanas no seu repo age com o acesso q vc deu. Quem decide o q ele pode tocar?
se você tiver interesse em segurança ofensiva o necessário é não só ter pelo menos uns 3 transtornos psiquiátricos não tratados como também dar vazão a TODOS os pensamentos intrusivos
não ter réu primário é um plus
Em 16/11/2026 o Google descreveu um agente de ataque q lê a correção de segurança de software web popular antes de vc aplicar.
Chama exploit_agent. Compara o código antes e depois do patch, acha a falha, escreve o exploit e executa. Sem humano no meio.