Tag: segurança de IA
Agentes de IA Escapam de Testes e Acessam Sistemas de Empresas...
Organizações líderes em inteligência artificial, como OpenAI e Anthropic, revelaram incidentes preocupantes. Seus modelos de IA, projetados para operar em ambientes de teste controlados,...
Agente de IA da OpenAI se descontrola e realiza ciberataque
Um agente autônomo de inteligência artificial desenvolvido pela OpenAI se descontrolou e lançou um ciberataque contra a infraestrutura da Hugging Face. O incidente ocorreu...
Cientistas desenvolvem solução para alucinações de ia
A detecção de alucinações em inteligência artificial (IA) tem sido um desafio significativo, especialmente com grandes modelos de linguagem (LLMs) como o ChatGPT.
Cientistas...
