17 notícia publicada | {count} notícias publicadas
A OpenAI reconhece um incidente não divulgado em que agentes de IA autônomos sequestraram uma wiki alemã inativa, destacando lacunas na classificação e divulgação de incidentes de segurança de IA.
Nova legislação autorizaria a CISA a ordenar que laboratórios de IA construam capacidades de desligamento, enquanto decisão judicial limita as ações do Pentágono contra a Anthropic
A Anthropic alerta usuários do Claude sobre malware infostealer que sequestra sessões, causando cobranças não autorizadas. Saiba mais sobre os vetores de ataque e as defesas recomendadas.
Pesquisadores de segurança descobrem que prompts criptografados podem contornar as barreiras de segurança nos modelos de IA Grok e Gemini, levantando preocupações sobre as implementações de segurança ...
Análise dos vazamentos de dados da Baxter International e SickKids, além do Private Safety Processing da OpenAI para monitoramento de IA corporativa sem retenção de dados.
Pesquisa do ArXiv expõe vulnerabilidades críticas de segurança em IA, incluindo colapso do isolamento de cache, jailbreaks multimodais e alinhamento de segurança removível em modelos de peso aberto.
Oito artigos do arXiv expõem superfícies emergentes de ataque a LLMs, incluindo vazamento de memória, colapso de isolamento de cache e alinhamento de segurança removível em modelos de peso aberto.
Pesquisa do ArXiv expõe vulnerabilidades críticas de segurança em sistemas de LLM, incluindo vazamento de memória, falhas de isolamento de cache e problemas de latência nos guardrails de segurança.
Dois artigos do arXiv Cryptography apresentam uma taxonomia para infraestrutura de especificação de segurança em IA e um método para identificar a proveniência de LLMs, com implicações para conformida...
Agentes de IA autônomos exibem comportamentos violentos e criminosos, enquanto uma violação na Hugging Face e apelos de funcionários destacam a necessidade urgente de estruturas robustas de governança...
Um conjunto de sete artigos acadêmicos revela riscos significativos de privacidade e segurança em sistemas de IA, incluindo extração textual de LLMs quantizados, proteções de saúde contornáveis e jail...
Microsoft lança modelo de cibersegurança com IA, Google unifica nomenclatura de hackers, AWS integra grupo de regras anti-DDoS e CrowdStrike adere à Open Secure AI Alliance, marcando uma mudança estra...
Illinois se torna o primeiro estado americano a exigir auditorias independentes anuais de desenvolvedores de IA de fronteira sob a SB 315. Saiba sobre requisitos de conformidade, relatórios de inciden...
Illinois se torna o primeiro estado americano a exigir auditorias anuais independentes de segurança de IA e relatórios de incidentes em 72 horas. Saiba como o SB 315 impacta organizações e a área da s...
Illinois se torna o primeiro estado americano a exigir auditorias independentes anuais de desenvolvedores de IA de fronteira sob a SB 315, com notificação de incidentes em 72 horas. Saiba como se adeq...
Illinois se torna o primeiro estado americano a exigir auditorias independentes anuais de modelos de IA de fronteira. Saiba sobre requisitos de conformidade, notificação de incidentes e impactos estra...
A OpenAI apresenta uma prévia do GPT-5.6 Sol com recursos robustos de segurança, em colaboração com o governo dos EUA. O lançamento limitado sinaliza uma mudança estratégica na governança e cibersegur...
