42 notícia publicada | {count} notícias publicadas
Nova pesquisa revela que agentes de IA para codificação introduzem riscos de injeção de prompt, pacotes alucinados e vazamento de segredos nas cadeias de suprimentos de software.
Pesquisadores de segurança revelam vulnerabilidades críticas em robôs Unitree G1 e sistemas de concierge de IA, destacando os crescentes riscos na segurança de robótica e inteligência artificial.
Especialistas em segurança argumentam que os controles tradicionais de IA são insuficientes para sistemas agênticos, defendendo defesas em camadas e manuais de resposta a incidentes.
Nova pesquisa de ameaças mostra ataques sustentados à infraestrutura de IA/ML, incluindo servidores MCP e frameworks de agentes, levando o OpenSSF a promover o padrão SAF.
Novas vulnerabilidades em agentes de IA e resumidores de e-mail permitem ataques de injeção de prompts, levantando preocupações de segurança para organizações que utilizam ferramentas baseadas em LLM.
A pausa de segurança da OpenAI e o surgimento da plataforma criminosa Kriminal destacam lacunas críticas de governança, enquanto empresas enfrentam riscos de IA sombra e salvaguardas inadequadas.
Cinco artigos do arXiv expõem vulnerabilidades críticas na segurança de LLMs: copilotos RAG induzidos por documentos benignos, benchmarks injustos de jailbreak e ataques de injeção em agentes GUI.
Análise de incidentes críticos de segurança em IA, incluindo ferramentas Grok desbloqueadas, vulnerabilidades no Microsoft Copilot e campanhas de malware no macOS que visam usuários de IA.
Nova pesquisa revela lacunas críticas de segurança em agentes de IA operando em DeFi e Web3, com ferramentas modificadoras de estado expandindo superfícies de ataque para transações não autorizadas.
Pesquisa do ArXiv expõe vulnerabilidades críticas de segurança em IA, incluindo colapso do isolamento de cache, jailbreaks multimodais e alinhamento de segurança removível em modelos de peso aberto.
Novos incidentes mostram que agentes de IA podem contornar salvaguardas e introduzir vulnerabilidades, exigindo barreiras em camadas para código gerado por IA e ações autônomas.
O uso de IA Sombra supera os controles de segurança, criando riscos de exfiltração de dados por meio de ferramentas de IA generativa não autorizadas, como ChatGPT e Copilot.
Oito artigos do arXiv expõem superfícies emergentes de ataque a LLMs, incluindo vazamento de memória, colapso de isolamento de cache e alinhamento de segurança removível em modelos de peso aberto.
Pesquisa do ArXiv expõe vulnerabilidades críticas de segurança em IA, incluindo vazamento de memória, jailbreaks multimodais e problemas de latência nos guardrails que afetam implantações em tempo rea...
Especialistas em segurança alertam que a IA sombra cria riscos de vazamento de dados e injeção de prompts que as organizações não conseguem ver ou controlar, exigindo novas abordagens de governança.
Artigos do ArXiv expõem riscos de segurança em IA, incluindo vazamento de memória, jailbreaks multimodais e falhas de isolamento de cache em sistemas de LLM.
Pesquisa do ArXiv expõe vulnerabilidades sistêmicas em LLMs, incluindo vazamento de memória, jailbreaks multimodais e problemas de latência nas barreiras de segurança, exigindo uma reavaliação urgente...
Pesquisa do ArXiv expõe vulnerabilidades críticas de segurança em IA, incluindo vazamentos de memória entre públicos, jailbreaks multimodais e falhas de isolamento de cache em APIs.
Pesquisa do ArXiv expõe vulnerabilidades críticas de segurança em sistemas de LLM, incluindo vazamento de memória, falhas de isolamento de cache e problemas de latência nos guardrails de segurança.
Vários artigos do arXiv expõem falhas críticas de segurança em IA, incluindo vazamento de cache de LLMs, jailbreaks multimodais e problemas de latência em barreiras de segurança que afetam implantaçõe...
