Mark Zuckerberg, CEO da Meta, usou o X na noite de terça-feira para criticar os apelos recentes de executivos de tecnologia que pedem a suspensão ou desaceleração do desenvolvimento da inteligência artificial. Ele afirmou que cada laboratório tem a responsabilidade e o incentivo de avançar no ritmo necessário para treinar seus modelos com segurança.

Para Zuckerberg, a própria dinâmica de mercado já cria um incentivo natural para que as empresas tornem seus sistemas mais confiáveis e alinhados às preferências dos usuários. "As pessoas não vão querer usar agentes que estejam desalinhados com elas e que não façam o que elas pedem, então os laboratórios têm um forte incentivo natural para tornar seus modelos mais alinhados", escreveu.

Ele reconheceu que existe debate sobre segurar o avanço das capacidades até que o alinhamento acompanhe, mas disse que confiança e alinhamento rapidamente se tornam os fatores mais importantes para diferenciar agentes e modelos. "Qualquer laboratório que não foque em alinhamento ficará para trás", afirmou.

Zuckerberg também destacou que os laboratórios enfrentam responsabilidade significativa caso seus modelos causem danos, o que, segundo ele, reforça o incentivo para prevenir problemas. Como exemplo concreto, citou a decisão da Meta de adiar por vários meses o lançamento do sistema Muse para priorizar segurança e proteção.

O executivo ainda defendeu o uso de avaliadores e consultores independentes como boa prática do setor, algo que a Meta Superintelligence Labs já realiza em várias áreas, e disse ser favorável a um ecossistema de avaliadores maior e mais diverso. Por fim, afirmou que direcionar a grande maioria do poder computacional para servir as pessoas, em vez de correr para o autoaprimoramento recursivo, é uma das melhores formas de garantir um desenvolvimento seguro, compromisso que a Meta já assumiu.