Um pesquisador da Anthropic, empresa de inteligência artificial, fez um alerta sério: a IA pode ter mais de 10% de chance de matar toda a humanidade até o fim desta década. Quem disse isso foi Evan Hubinger, líder de teste de alinhamento da empresa. O aviso veio em resposta a Jacob Coxon, outro pesquisador da Anthropic que anunciou sua saída na última terça-feira.

Ao deixar a empresa, Coxon publicou no X que tanto a Anthropic quanto a OpenAI não estão agindo de forma responsável diante dos riscos da inteligência artificial. Ele escreveu que as empresas "estão correndo diretamente rumo à superinteligência que se aprimora sozinha e apostando nossas vidas". Coxon falava sobre a possibilidade de sistemas de IA melhorarem suas próprias capacidades sem precisar muito de intervenção humana, um processo chamado de autoaperfeiçoamento recursivo. Esse nível de tecnologia ainda não existe, mas os laboratórios trabalham para alcançá-lo.

Hubinger respondeu ao ex-colega e concordou com a avaliação. Em sua declaração, afirmou: "Jacob está correto aqui — nós realmente acreditamos sinceramente que a IA poderia matar todos os humanos. Eu pessoalmente acho que é superior a 10% na próxima década." Ele também admitiu que a Anthropic ainda não tem um plano para resolver o alinhamento de uma eventual superinteligência. Mesmo com esses alertas, tanto a Anthropic quanto a OpenAI continuam desenvolvendo modelos mais avançados e captando grandes quantias de dinheiro, se aproximando de possíveis ofertas públicas de ações.