'Dominar toda a internet', 'matar seres humanos': o que já disseram executivos e especialistas sobre os riscos da IA

Diversas cidades tiveram marchas contra a inteligência artificial ao longo do último ano Getty Images via BBC Nos últimos meses, executivos de grandes empres...

Diversas cidades tiveram marchas contra a inteligência artificial ao longo do último ano Getty Images via BBC Nos últimos meses, executivos de grandes empresas de tecnologia, ativistas e organizações não governamentais passaram a defender uma pausa no avanço da inteligência artificial para tornar seu desenvolvimento mais seguro. Por que empresas que aceleraram a corrida da IA agora defendem pisar no freio; entenda o que está por trás disso 'Freio' na IA? Debate leva gigantes da tecnologia ao radar dos investidores; ações operam mistas Muitas dessas falas expressam preocupação com a possibilidade de a inteligência artificial ganhar poder excessivo sobre a internet e até "matar seres humanos". Além disso, elas defendem a criação de órgãos internacionais para estabelecer regras e padrões de segurança para o desenvolvimento da tecnologia. Relembre abaixo algumas dos comentários públicos sobre os riscos da IA: Dario Amodei, CEO da Anthropic CEO da Anthropic pede que setor desacelere ritmo de desenvolvimento da IA Em artigo publicado em 12 de setembro, o CEO da Anthropic, criadora da IA Claude, pediu que as empresas de inteligência artificial moderem o ritmo de avanço das capacidades de seus modelos diante do aumento das preocupações com o uso indevido da IA. "Dada a aceleração do desenvolvimento de capacidades de IA, me preocupa que, em 6 a 12 meses, tal enxame possa ser capaz de dominar toda a internet. Se não for controlada, pode ultrapassar nossa capacidade de entender e controlar esses sistemas, e por isso seu desenvolvimento deve avançar com muito cuidado, se é que deve avançar", escreveu Amodei. 🗒️ Tem alguma sugestão de reportagem? Mande para o g1 O discurso também foi defendido por executivos de empresas que concorrem com a Anthropic, como Sam Altman, CEO da OpenAI, empresa responsável pelo ChatGPT; Elon Musk, dono do X e da empresa de IA xAI; e Demis Hassabis, presidente do Google DeepMind. Sam Altman, CEO da OpenAI Ao concordar com a declaração de Amodei, o CEO da organização que comanda o ChatGPT disse que é preciso "marcar um ritmo da fronteira" de IA. " Esse tem sido um tema principal das discussões que tivemos na OpenAI. Comprometer-se a ter avaliadores independentes com acesso semelhante ao dos funcionários é uma ótima ideia, e faremos o mesmo. Teremos mais para compartilhar em breve", escreveu Sam Altman. A empresa anunciou, no início de agosto, que estava desacelerando o desenvolvimento de seus modelos de inteligência artificial enquanto reformula seus sistemas de pesquisa e treinamento após agente em teste invadir sistemas de outra empresa. REPERCUSSÃO: Trump minimiza riscos, China vê ameaças e UE pede segurança "É o primeiro incidente de (ciber)segurança que me provocou uma reação visceral", reconheceu Altman em uma entrevista para o podcast "Invest Like The Best". "Mas, a longo prazo, surge a pergunta sobre o que fazer caso nos deparemos com um novo ritmo de avanço" da IA, explicou, em um contexto em que "poderíamos ter que desacelerar o ritmo de desenvolvimento da IA para dar tempo suficiente à sociedade para lidar com essas novas capacidades". Jacob Coxon, ex-pesquisador da OpenAI e da Anthropic Também em setembro de 2026, Jacob Coxon, pesquisador britânico de inteligência artificial de 27 anos, deixou a indústria acusando a OpenAI e a Anthropic de “brincar com as nossas vidas”. Coxon havia trocado a OpenAI pela Anthropic por considerar a empresa mais prudente. "Nenhuma das empresas está agindo de forma responsável. Elas estão correndo diretamente em direção a uma superinteligência capaz de se aprimorar sozinha e estão apostando com nossas vidas", escreveu Coxon na rede social X. "As pessoas que estão construindo a IA acreditam sinceramente que ela pode matar todos até o fim da década. Isto não é uma jogada de marketing", acrescentou Coxon. Evan Hubinger, diretor de segurança na Anthropic, deu razão a Coxon no X. "Nós realmente acreditamos que a IA pode matar seres humanos". Em caráter pessoal, ele calculou o risco em "mais de 10%" dentro da próxima década. ONU O Alto Comissário da Organização das Nações Unidas (ONU) para os Direitos Humanos alertou, no início de setembro, para a necessidade de criar rapidamente mecanismos de governança para a inteligência artificial. Segundo ele, a IA avançada pode "representar um risco existencial para a humanidade". "Uma IA que escapa de seu ambiente de teste ou que chantageia os desenvolvedores para evitar ser desativada é uma IA muito poderosa", declarou o Alto Comissário, Volker Türk, na abertura do 63º período de sessões do Conselho de Direitos Humanos, em Genebra. Türk lamentou que "um punhado de homens tenha um poder quase ilimitado sobre a IA, que nos dizem repetidamente ter uma capacidade de computação inimaginável". 'Parece lixo de IA': por que plataformas agora estão 'dedurando' conteúdos feitos com IA Bill Gates, Cofundador da Microsoft Em agosto de 2026, Gates, que vinha adotando uma visão mais otimista sobre a IA, afirmou estar preocupado com o uso da tecnologia em ataques, substituição de trabalhadores e manipulação de usuários. Ele citou testes de segurança nos quais modelos da OpenAI, Anthropic e Meta conseguiram realizar ataques contra sites reais. “Esses incidentes de segurança são chocantes e deveriam impressionar as pessoas”, disse. O bilionário também defendeu a criação de uma organização internacional para administrar questões relacionadas à inteligência artificial. Trump critica quem pede cautela O presidente dos EUA, Donald Trump, fala com repórteres antes de embarcar no Air Force One na Base Aérea Conjunta Andrews, em Maryland, em 9 de setembro de 2026. Foto de BRENDAN SMIALOWSKI/AFP O presidente dos EUA, Donald Trump, comparou, neste domingo (13), os críticos da inteligência artificial a "forças muito negativas" que estão levantando cenários que não vão acontecer. Ele também disse que quer garantir que os EUA continuem na liderança do setor. "Estamos liderando em relação à China em IA. Somos o país mais sofisticado do mundo e, francamente, quero manter assim porque quem vencer na IA, vence tudo [...] Poderíamos colocar barreiras de proteção. Podemos fazer isso e aquilo. Mas acho que há muitas forças muito negativas que estão trazendo esse assunto à tona quando não deveriam", afirmou Trump. A China, que disputa com os EUA a liderança no desenvolvimento de IA, afirmou que a tecnologia pode ameaçar a segurança nacional ao ser usada por potências estrangeiras para minar a ordem social do país. "Forças hostis" abusam de tecnologias generativas de IA para "fabricar rumores políticos e espalhar informações prejudiciais", escreveu o ministro da Segurança do Estado, Chen Yixin, em um artigo publicado online no domingo. Em seu texto, Amodei defende uma colaboração entre empresas de "países democráticos" e aconselha "não vender chips de IA potentes ou equipamentos de fabricação de semicondutores para a China". Ele diz que "as medidas aumentam a influência das democracias e tornam um acordo [com a China] mais provável no futuro". Nesta segunda-feira, o porta-voz da Comissão Europeia, Thomas Regnier, disse que o bloco é a favor do desenvolvimento da inovação em IA, mas que as empresas precisam comprovar que seus serviços são seguros. Já o primeiro-ministro britânico, Andy Burnham, vê como positivo o debate entre as principais empresas de IA sobre os riscos da tecnologia para o futuro da humanidade, afirmou seu porta-voz. Segundo ele, as decisões sobre o tema precisam se basear em evidências. O que realmente acontece com seus dados quando você clica em 'deletar'?