Avanço da IA preocupa ONU, que alerta para risco à humanidade

O chefe de direitos humanos da Organização das Nações Unidas (ONU), Volker Turk, pediu nesta segunda-feira (7) a adoção de medidas de segurança para conter os riscos associados ao avanço da inteligência artificial. Segundo ele, sistemas cada vez mais sofisticados podem representar uma ameaça de grandes proporções, inclusive um risco “existencial” para a humanidade.

Foto: Reprodução

Organização discute riscos associados à inteligência artificial

Durante discurso no Conselho de Direitos Humanos da ONU, em Genebra, Turk defendeu a criação de garantias para o desenvolvimento da tecnologia e afirmou que pretende pressionar empresas do setor a ampliar mecanismos de segurança e responsabilização.

• Participe do nosso grupo de WhatsApp
• Participe do nosso grupo de Telegram
• Confira os jogos e classificação dos principais campeonatos

A preocupação, segundo seu gabinete, envolve a possibilidade de falhas em sistemas avançados provocarem interrupções em infraestruturas críticas, serviços de comunicação e instituições democráticas.

Turk também defendeu que países que desenvolvem sistemas de inteligência artificial e aqueles que participam de suas cadeias de fornecimento estabeleçam limites comuns para o uso da tecnologia.

Avanço dos sistemas

O representante da ONU citou como exemplo um episódio ocorrido em julho, relacionado a agentes de inteligência artificial desenvolvidos pela OpenAI e a uma plataforma de código aberto. Segundo o gabinete de Turk, o caso levantou questionamentos sobre comportamentos potencialmente perigosos durante o treinamento de agentes.

Para o chefe de direitos humanos, episódios desse tipo indicam que as capacidades dos sistemas de ponta podem estar avançando em ritmo superior ao desenvolvimento das medidas destinadas a controlar seus riscos.

Turk afirmou ainda que um grupo restrito de executivos concentra hoje influência significativa sobre o desenvolvimento da inteligência artificial. Entre as empresas que atuam no setor estão Meta, Anthropic, OpenAI e Google.

Outras crises

O discurso marcou a primeira participação de Turk diante do Conselho de Direitos Humanos desde sua recondução ao cargo, em julho, para um segundo mandato de quatro anos. A escolha ocorreu apesar da oposição de Estados Unidos e Rússia.

Além da inteligência artificial, o representante da ONU abordou conflitos e violações de direitos humanos em diferentes regiões. Ele pediu responsabilização pelas mortes ocorridas sob custódia de autoridades de imigração dos Estados Unidos e manifestou preocupação com planos de utilização de equipamentos de choque elétrico por agentes.

Turk também criticou a intensificação dos ataques russos contra a Ucrânia e o aumento das execuções no Irã.

Drones autônomos

O chefe de direitos humanos afirmou ter ficado “horrorizado” com relatos de que a Rússia teria utilizado drones capazes de operar de forma totalmente autônoma na Ucrânia. Segundo ele, três pessoas teriam sido mortas em agosto.

Turk defendeu a proibição de armas capazes de decidir sobre o uso da força letal sem intervenção humana. As informações sobre o emprego dos drones, entretanto, não foram verificadas de forma independente pela Reuters, e a missão diplomática russa não havia respondido ao pedido de manifestação até a publicação do relato.

O Conselho de Direitos Humanos permanecerá reunido até 7 de outubro para tratar de conflitos como as guerras no Irã e no Sudão, além de outras crises internacionais.

Fonte: CNN Brasil