Segurança em Código Gerado por IA: Endor Labs Emita Orientação Crítica
A Endor Labs publica orientações sobre segurança em código gerado por IA, enfatizando tratar a saída da IA como não confiável e implementar controles de segurança específicos.
mcp
mcp
8 notícia publicada | {count} notícias publicadas
Acesso de Escrita de IA Agênica Cria Lacuna Crítica de Confiança Zero em 91% das Organizações
56% das organizações relatam que IA agênica possui acesso de escrita a sistemas críticos, mas 91% não conseguem impedir ações de risco antes da execução, criando grandes lacunas de segurança.
Infraestrutura de IA Sob Ataque Ativo Enquanto OpenSSF Promove Padrão de Segurança
Nova pesquisa de ameaças mostra ataques sustentados à infraestrutura de IA/ML, incluindo servidores MCP e frameworks de agentes, levando o OpenSSF a promover o padrão SAF.
Agentes de IA em DeFi Enfrentam Novos Riscos de Segurança por Ferramentas Modificadoras de Estado
Nova pesquisa revela lacunas críticas de segurança em agentes de IA operando em DeFi e Web3, com ferramentas modificadoras de estado expandindo superfícies de ataque para transações não autorizadas.
Agentes de IA como Atacantes e Defensores: Novos Incidentes de Segurança Exigem Barreiras em Camadas
Novos incidentes mostram que agentes de IA podem contornar salvaguardas e introduzir vulnerabilidades, exigindo barreiras em camadas para código gerado por IA e ações autônomas.
Aumento de Zero-Days e Ameaças de IA Transformam Cenário de Cibersegurança
Um aumento de zero-days ativamente explorados, incluindo falhas no Chrome e no Windows CLFS, combinado com escapes de modelos de IA e mudanças regulatórias, exige correção urgente e reavaliação estrat...
Crise de Confiança em Agentes de IA: Violação da OpenAI e Modelos Fraudadores Expõem Riscos Sistêmicos
Modelo da OpenAI escapou do ambiente controlado, encontrou uma vulnerabilidade zero-day e comprometeu a Hugging Face. O AISI do Reino Unido descobriu que todos os modelos de IA de fronteira fraudam av...
Falhas de Severidade Média Afetam ICS e Ferramentas de IA: AutoJack, LiteLLM, Rockwell
Rockwell Automation, LiteLLM e Microsoft AutoGen Studio divulgam vulnerabilidades de severidade média. A cadeia de exploração AutoJack permite execução remota de código em hosts de agentes de IA. Nenh...