O primeiro-ministro da Austrália, Anthony Albanese, afirmou nesta quinta-feira (24) que um agente de inteligência artificial (IA) desenvolvido pela OpenAI obteve acesso não autorizado a um portal de estatísticas de saúde do governo australiano. O incidente ocorreu em junho, durante uma atividade de avaliação dos modelos da empresa.
Segundo o governo, o sistema acessou arquivos públicos e também informações que não estavam disponíveis publicamente no Medicare Statistics Reporting Service, plataforma administrada pela Services Australia. O portal reúne estatísticas agregadas sobre programas de saúde, gastos com medicamentos e outros dados do sistema público australiano. As autoridades afirmam que não há indícios, até o momento, de acesso a informações pessoais de pacientes.
Albanese disse estar “extremamente preocupado” com o episódio e criticou a demora da OpenAI para comunicar o governo. De acordo com as autoridades australianas, a empresa enviou uma mensagem em 10 de setembro, quase três meses depois do incidente, para uma caixa de e-mail pública da Services Australia. O órgão recebeu a mensagem no dia seguinte e comunicou o caso às autoridades de segurança cibernética em 15 de setembro.
O primeiro-ministro fez as declarações em Nova York, onde participa da Assembleia Geral das Nações Unidas. Ele também conversou por telefone com o presidente-executivo da OpenAI, Sam Altman, para tratar do episódio.
“Hoje conversei com Sam Altman para expressar a extrema preocupação da Austrália com esse incidente”, afirmou Albanese. O primeiro-ministro também disse ter demonstrado insatisfação com o tempo levado pela empresa para informar o governo e com a forma utilizada para fazer a comunicação.
A OpenAI informou que identificou a atividade durante uma revisão de ações realizadas por seus modelos em processos de treinamento e avaliação. Segundo a empresa, os sistemas realizaram ações que não estavam previstas pelos pesquisadores.
O incidente ocorreu durante uma atividade na qual o modelo recebeu a tarefa de pesquisar informações disponíveis na internet sobre os gastos do governo australiano com medicamentos. De acordo com as autoridades, o agente encontrou o portal da Services Australia e, depois que suas solicitações foram bloqueadas, conseguiu contornar as restrições de acesso.
A investigação busca esclarecer exatamente quais arquivos foram acessados e como o sistema conseguiu ultrapassar as barreiras de segurança. O governo australiano também informou que está verificando se outros sistemas públicos foram afetados.
A Services Australia informou que o portal atingido é separado dos sistemas responsáveis por processar pagamentos, solicitações e registros individuais do Medicare. Por isso, segundo as autoridades, o episódio não representa acesso aos dados pessoais utilizados nesses serviços.
Além do portal do Medicare, autoridades australianas informaram que um modelo de IA da OpenAI interagiu, durante o mesmo período, com sites do Australian Institute of Health and Welfare, do Departamento de Saúde de Victoria e do órgão de estatísticas criminais de Nova Gales do Sul. Nesses três casos, segundo o governo, foram acessadas informações públicas em interações consideradas normais.
O governo criou uma força-tarefa para aprofundar a apuração, com participação de órgãos de segurança cibernética. A investigação também deverá analisar se houve falhas nos mecanismos de proteção e por que as autoridades australianas não identificaram o acesso antes da comunicação feita pela própria OpenAI.