Dario Amodei, da Anthropic, pede freio na IA para reforçar segurança – PIRANOT

Dario Amodei, CEO da Anthropic, pediu no sábado (12) uma desaceleração do desenvolvimento de inteligência artificial para ampliar a prudência e o trabalho de alinhamento antes que os modelos atinjam capacidades críticas.

O apelo expõe uma tensão central da corrida por sistemas mais poderosos: a velocidade de lançamento pode superar a capacidade das empresas de estabelecer salvaguardas. Em ensaio divulgado no sábado, Amodei afirmou ter se convencido, nos últimos meses, de que enfrentar plenamente os riscos exige ainda mais prudência.

O executivo associou uma eventual redução de ritmo à possibilidade de obter de um a dois anos adicionais para avançar no alinhamento — área que busca fazer sistemas de IA seguirem objetivos e limites definidos por pessoas.

Um ou dois anos para avançar no alinhamento

A referência de Amodei a um intervalo extra de um a dois anos não descreve uma pausa formal, nem fixa um limite técnico para os modelos. O ponto é condicional: se reduzir o ritmo criasse esse tempo adicional e ele fosse usado para melhorar o alinhamento, o risco de algo dar seriamente errado poderia ser reduzido.

A discussão ocorre diante de preocupações de que modelos futuros possam causar danos graves em escala mundial. Isso não equivale a afirmar que esses cenários já tenham sido comprovados em sistemas atualmente disponíveis: o alerta de Amodei trata de risco e de prudência diante de capacidades futuras.

Jacob Coxon, ex-pesquisador da Anthropic, também manifestou temor sobre o ritmo de desenvolvimento e afirmou haver uma chance relevante de a IA representar uma ameaça à humanidade se seu avanço não for contido. A declaração é uma projeção sobre riscos extremos, não uma demonstração de que a IA atual tenha essa capacidade.

O chamado de Amodei não cria uma regra para o setor nem interrompe lançamentos. Ele recoloca o alinhamento e os testes de segurança no centro da disputa entre empresas que desenvolvem modelos de IA cada vez mais poderosos.