IA da dona do ChatGPT invade área restrita de portal do governo da Austrália

Um agente de IA da OpenAI, empresa responsável pelo ChatGPT, obteve acesso não autorizado a áreas de um portal do governo da Austrália e chegou a acessar arquivos não públicos. O caso foi revelado nesta quinta-feira (24) pelo primeiro-ministro australiano, Anthony Albanese.

O incidente ocorreu em 18 de junho, quando uma equipe de pesquisa da OpenAI utilizava um modelo interno para buscar informações na internet sobre gastos públicos com medicamentos. Segundo Albanese, o agente encontrou bloqueios durante a pesquisa, mas buscou maneiras alternativas de obter as informações e conseguiu contorná-los.

O sistema afetado foi o Medicare Statistics Reporting Service, administrado pela Services Australia. O portal reúne estatísticas consideradas não sensíveis, incluindo informações sobre gastos com saúde.

Apesar disso, o agente conseguiu acessar arquivos públicos e não públicos e, segundo o governo australiano, também gravou arquivos em um servidor interno. Até o momento, não há evidências de que informações pessoais de cidadãos tenham sido acessadas ou de que tenha ocorrido um comprometimento mais amplo da rede da Services Australia. A investigação continua.

Agente de IA contornou bloqueios

Ao detalhar o episódio, Albanese afirmou que o sistema encontrou sucessivas barreiras enquanto buscava as informações.

Segundo o primeiro-ministro, em vez de interromper a tarefa diante das negativas, o agente tentou caminhos alternativos e acabou entrando em áreas às quais não estava autorizado a acessar.

Albanese afirmou que não há indicação de participação de um governo estrangeiro ou outro agente externo. Segundo ele, tratava-se de uma pesquisa da própria OpenAI que acabou acessando áreas que não deveria.

O primeiro-ministro chegou a sugerir que a pesquisa poderia ter motivações comerciais, por envolver informações sobre gastos com medicamentos, mas deixou claro que essa é uma suposição dele.

Governo só foi avisado meses depois

O episódio também provocou críticas pela demora na comunicação. Embora o acesso tenha ocorrido em 18 de junho, o governo australiano afirma que só recebeu uma notificação da OpenAI em 10 de setembro.

IA da OpenAI invade portal do governo da Austrália

Agente contornou bloqueios durante pesquisa sobre gastos com medicamentos e acessou arquivos não públicos; primeiro-ministro cobrou Sam Altman

Um agente de IA da OpenAI, empresa responsável pelo ChatGPT, obteve acesso não autorizado a áreas de um portal do governo da Austrália e chegou a acessar arquivos não públicos. O caso foi revelado nesta quinta-feira (24) pelo primeiro-ministro australiano, Anthony Albanese.

O incidente ocorreu em 18 de junho, quando uma equipe de pesquisa da OpenAI utilizava um modelo interno para buscar informações na internet sobre gastos públicos com medicamentos. Segundo Albanese, o agente encontrou bloqueios durante a pesquisa, mas buscou maneiras alternativas de obter as informações e conseguiu contorná-los.

O sistema afetado foi o Medicare Statistics Reporting Service, administrado pela Services Australia. O portal reúne estatísticas consideradas não sensíveis, incluindo informações sobre gastos com saúde.

Apesar disso, o agente conseguiu acessar arquivos públicos e não públicos e, segundo o governo australiano, também gravou arquivos em um servidor interno. Até o momento, não há evidências de que informações pessoais de cidadãos tenham sido acessadas ou de que tenha ocorrido um comprometimento mais amplo da rede da Services Australia. A investigação continua.

Agente de IA contornou bloqueios

Ao detalhar o episódio, Albanese afirmou que o sistema encontrou sucessivas barreiras enquanto buscava as informações.

Segundo o primeiro-ministro, em vez de interromper a tarefa diante das negativas, o agente tentou caminhos alternativos e acabou entrando em áreas às quais não estava autorizado a acessar.

Albanese afirmou que não há indicação de participação de um governo estrangeiro ou outro agente externo. Segundo ele, tratava-se de uma pesquisa da própria OpenAI que acabou acessando áreas que não deveria.

O primeiro-ministro chegou a sugerir que a pesquisa poderia ter motivações comerciais, por envolver informações sobre gastos com medicamentos, mas deixou claro que essa é uma suposição dele.

Governo só foi avisado meses depois

O episódio também provocou críticas pela demora na comunicação. Embora o acesso tenha ocorrido em 18 de junho, o governo australiano afirma que só recebeu uma notificação da OpenAI em 10 de setembro.

Segundo Albanese, a comunicação foi enviada por e-mail para uma caixa pública da Services Australia. Cinco dias depois, o órgão comunicou o caso ao Australian Cyber Security Centre.

Albanese conversou por telefone com o CEO da OpenAI, Sam Altman, e disse ter manifestado “extrema preocupação” com o episódio, além de insatisfação com a demora e a forma como a empresa comunicou o governo. Segundo o primeiro-ministro, Altman reconheceu problemas nos protocolos adotados pela companhia.

Austrália cria força-tarefa

O governo australiano anunciou a criação de uma força-tarefa para realizar uma análise urgente do episódio e verificar se os procedimentos atuais são adequados para responder a incidentes cibernéticos envolvendo inteligência artificial.

A apuração também deverá avaliar eventuais respostas policiais e legislativas. O governo buscará orientação sobre a possibilidade de alguma infração ter sido cometida e se o caso deverá ser encaminhado à Polícia Federal Australiana.

O episódio ocorre em meio ao debate internacional sobre os riscos dos chamados agentes de IA — sistemas capazes de executar sequências de ações com maior autonomia para atingir determinado objetivo.

Em julho, modelos da OpenAI já haviam contornado mecanismos de segurança durante avaliações internas de cibersegurança e comprometido partes da infraestrutura da própria empresa e da Hugging Face. A OpenAI reconheceu posteriormente que o incidente não deveria ter ocorrido e anunciou medidas adicionais de segurança.

(Com informações da Agência Brasil)