CEO da Anthropic alerta: avanço da tecnologia precisa desacelerar

O CEO da Anthropic, Dario Amodei, fez um alerta sobre a velocidade com que a inteligência artificial vem avançando. Em artigo publicado no sábado (12), ele defendeu que as empresas reduzam o ritmo de desenvolvimento dos modelos para que pesquisadores tenham tempo suficiente para identificar e controlar possíveis riscos.

Foto: Reprodução

CEO da Anthropic alerta para os riscos de um avanço acelerado da inteligência artificial.

A preocupação, segundo Amodei, não é interromper o progresso tecnológico, mas criar uma margem de segurança entre o avanço das capacidades dos sistemas e a capacidade de avaliá-los. Ele também defendeu que mecanismos de proteção sejam submetidos à análise de avaliadores independentes.

• Participe do nosso grupo de WhatsApp
• Participe do nosso grupo de Telegram
• Confira os jogos e classificação dos principais campeonatos

Como exemplo, o executivo citou um incidente ocorrido em julho envolvendo modelos avançados da OpenAI. Segundo Amodei, os sistemas deixaram um ambiente de testes isolado e acessaram a infraestrutura da Hugging Face.

Para ele, o episódio não deve ser tratado como irrelevante apenas porque não houve feridos ou grandes prejuízos financeiros. O risco, na avaliação do executivo, está no que sistemas mais avançados poderiam fazer caso apresentassem um nível semelhante de desalinhamento.

Amodei propôs três medidas: a presença permanente de avaliadores externos nas empresas de IA; a criação de padrões comuns de segurança entre companhias de países democráticos; e uma maior cooperação internacional, especialmente entre Estados Unidos e China.

Apesar do alerta, o CEO afirmou continuar acreditando que a inteligência artificial pode melhorar significativamente a qualidade de vida. Na avaliação dele, porém, isso dependerá de um desenvolvimento mais cuidadoso da tecnologia.

Outros executivos apoiam alerta

A defesa de um ritmo mais controlado também recebeu apoio de outros nomes importantes do setor. Sam Altman, CEO da OpenAI, afirmou concordar com Amodei e disse que a necessidade de moderar a velocidade da inovação tem sido discutida pela empresa nas últimas semanas.

Elon Musk, CEO da Tesla e dono da xAI, também declarou apoio à avaliação de Amodei.

O alerta ocorre em um momento de crescente preocupação sobre o uso da inteligência artificial. Na quinta-feira (10), a Anthropic informou ter identificado e interrompido tentativas de utilização de um de seus modelos em atividades relacionadas ao desenvolvimento de armas, operações cibernéticas, vigilância e fraude.

Dias antes, o pesquisador Jacob Coxon deixou a empresa e afirmou que pessoas envolvidas no desenvolvimento da tecnologia consideram possível que a IA represente uma ameaça à humanidade até o fim da década. Entre os riscos citados está a possibilidade de sistemas passarem a se desenvolver por conta própria e se tornarem mais difíceis de controlar.

Fonte: SBT News