24 notícia publicada | {count} notícias publicadas
Análise dos riscos emergentes de segurança em IA, incluindo vulnerabilidades de identidade de agentes e um jailbreak reproduzível do Claude que contorna controles de segurança.
Jailbreak reproduzível do Claude e lacunas de identidade de agentes de IA criam desafios críticos de segurança para empresas que implantam sistemas autônomos.
Análise de ameaças emergentes de IA, incluindo serviços criminosos de IA e operações de adversários usando IA agêntica para atividades pós-comprometimento.
Análise da ferramenta Kriminal AI, incidentes com agentes da OpenAI, malware Atomic Stealer e preocupações de privacidade do Computer History que afetam organizações.
Cinco artigos do arXiv expõem vulnerabilidades críticas na segurança de LLMs: copilotos RAG induzidos por documentos benignos, benchmarks injustos de jailbreak e ataques de injeção em agentes GUI.
Análise de incidentes críticos de segurança em IA, incluindo ferramentas Grok desbloqueadas, vulnerabilidades no Microsoft Copilot e campanhas de malware no macOS que visam usuários de IA.
A Microsoft finalmente corrige uma vulnerabilidade crítica de clique único no Copilot, enquanto malware para macOS e ferramentas de IA desbloqueadas sinalizam uma nova era de ameaças cibernéticas impu...
Novos incidentes mostram que agentes de IA podem contornar salvaguardas e introduzir vulnerabilidades, exigindo barreiras em camadas para código gerado por IA e ações autônomas.
Pesquisa do ArXiv expõe vulnerabilidades críticas de segurança em IA, incluindo vazamento de memória, jailbreaks multimodais e problemas de latência nos guardrails que afetam implantações em tempo rea...
Artigos do ArXiv expõem riscos de segurança em IA, incluindo vazamento de memória, jailbreaks multimodais e falhas de isolamento de cache em sistemas de LLM.
Vários artigos do arXiv expõem falhas críticas de segurança em IA, incluindo vazamento de cache de LLMs, jailbreaks multimodais e problemas de latência em barreiras de segurança que afetam implantaçõe...
Um conjunto de sete artigos acadêmicos revela riscos significativos de privacidade e segurança em sistemas de IA, incluindo extração textual de LLMs quantizados, proteções de saúde contornáveis e jail...
CERT Polska relata um transbordamento de inteiro de gravidade média no cJSON 1.7.19; jailbreak do iOS 27 via exploit SecureROM; PyPI bloqueia uploads de versões antigas; NodeBB corrigido para oito vul...
Uma grande exposição na nuvem de 10 GB de dados pessoais, vulnerabilidades críticas no WordPress e Chrome, e um jailbreak do iOS destacam o cenário de ameaças atual. Priorize correções e auditorias na...
Duas ameaças de segurança emergem: vulnerabilidades de RCE no GitLab que permitem execução remota de código em instalações padrão, e a alegação de um pesquisador sobre um jailbreak funcional em modelo...
Um resumo de eventos recentes de segurança: falha GhostApproval em seis assistentes de codificação de IA, ataque à cadeia de suprimentos HalluSquatting, espionagem contra a aplicação da lei paquistane...
O Departamento de Comércio dos EUA retirou os controles de exportação dos modelos de IA Fable 5 e Mythos 5 da Anthropic, encerrando uma proibição global de 18 dias e restaurando o acesso para defensor...
Um panorama das ameaças ativas: ataques de injeção de prompt em sistemas de IA, campanhas automatizadas de botnets explorando vulnerabilidades legadas e novas pesquisas sobre honeypots baseados em LLM...
Múltiplos artigos de pesquisa e relatórios da indústria destacam a injeção de prompt como o risco dominante de segurança em IA, juntamente com novas vulnerabilidades em sistemas multiagentes de LLM e ...
Seis novas pesquisas revelam vulnerabilidades críticas em agentes baseados em LLM, incluindo violações de políticas em tempo de execução, injeção de prompt e envenenamento de múltiplas ferramentas, co...
