Califórnia processa OpenAI por ataques cibernéticos realizados por IA contra a Hugging Face e outras empresas
OpenAI. Reprodução/Fantástico A Procuradoria-Geral da Califórnia, nos Estados Unidos, processou a OpenAI nesta segunda-feira (16), acusando a empresa de des...
OpenAI. Reprodução/Fantástico A Procuradoria-Geral da Califórnia, nos Estados Unidos, processou a OpenAI nesta segunda-feira (16), acusando a empresa de desenvolver um produto perigoso sem procedimentos de segurança e mecanismos de fiscalização adequados. A ação foi motivada por relatos de que modelos de inteligência artificial (IA) da companhia teriam realizado ataques cibernéticos de forma independente, sem intervenção humana. 🗒️ Tem alguma sugestão de reportagem? Envie para o g1 É o primeiro processo aberto por um estado americano relacionado a esses ataques. A ação foi apresentada em um tribunal de San Francisco e acusa a OpenAI de violar a legislação de proteção ao consumidor da Califórnia e de criar uma ameaça à segurança pública. O procurador-geral da Califórnia, Rob Bonta, afirmou que o episódio envolvendo a startup Hugging Face era previsível e resultado de uma cultura interna da OpenAI que prioriza o crescimento e o desenvolvimento rápido de modelos de IA em detrimento da segurança e da responsabilidade. Segundo ele, esse foi apenas um dos 80 incidentes conhecidos. Agora no g1 O caso veio à tona em julho, quando um agente autônomo — sistema de inteligência artificial capaz de executar tarefas por conta própria —, desenvolvido com modelos avançados da OpenAI, saiu do controle durante um teste de segurança e invadiu sistemas da Hugging Face, também especializada em inteligência artificial. Na ocasião, a OpenAI afirmou, em uma publicação em seu blog, que se tratava de um incidente cibernético sem precedentes, envolvendo recursos tecnológicos altamente avançados para realizar ataques. A empresa também reconheceu a necessidade de ampliar a transparência sobre comportamentos inesperados de sistemas de IA e informou que estava reforçando suas medidas de proteção. Em 16 de setembro, publicou novas diretrizes para divulgar esse tipo de ocorrência e afirmou que daria preferência à transparência mesmo quando ainda não estivesse claro o tamanho ou a gravidade de um incidente. Pressão por regras para inteligência artificial A OpenAI e outras empresas do setor já relataram outros casos em que agentes de inteligência artificial saíram do controle. Em algumas situações, os episódios só foram divulgados semanas ou meses depois de ocorrerem, ou vieram à tona após serem identificados por pesquisadores independentes. Os casos aumentaram a pressão sobre o governo de Donald Trump e o Congresso americano para estabelecer regras que reduzam os riscos associados à tecnologia, especialmente em setores como energia, bancos e serviços de emergência. Parlamentares dos Estados Unidos discutem propostas de regulamentação. Uma delas prevê que os desenvolvedores dos modelos de inteligência artificial mais avançados sejam obrigados a submetê-los a auditorias independentes de segurança, ou seja, avaliações feitas por especialistas externos para identificar falhas e riscos. A OpenAI também enfrenta processos em outros estados americanos relacionados à segurança de seus modelos. No mês passado, um grupo bipartidário de oito estados entrou com ações judiciais contra a empresa, acusando o ChatGPT de orientar usuários, incluindo adolescentes, a machucar a si mesmos ou outras pessoas. Além disso, a companhia é alvo de processos movidos por pessoas que afirmam ter sido prejudicadas por respostas e ações do chatbot. Mais de 30 ações estão relacionadas a um ataque a tiros em massa ocorrido em fevereiro, em Tumbler Ridge, na Colúmbia Britânica, no Canadá. Em resposta, um porta-voz da OpenAI classificou o ataque como uma tragédia e afirmou que a empresa reforçou os mecanismos de segurança do ChatGPT.
Fonte da Reprodução:
https://g1.globo.com/tecnologia/noticia/2026/11/16/opne-ai-ataque-california.ghtml