O alto-comissário da Organização das Nações Unidas (ONU) para os Direitos Humanos, Volker Turk, alertou esta segunda-feira, 7 de setembro, para a necessidade urgente de criar um quadro de governação global para a inteligência artificial (IA). Na abertura da 63.ª sessão do Conselho de Direitos Humanos, em Genebra, o responsável advertiu que os sistemas mais avançados podem representar um “risco existencial para a humanidade”.
Durante a sua intervenção, Volker Turk criticou a concentração do poder tecnológico nas mãos de um pequeno grupo de entidades e denunciou que a prometida liberdade associada à tecnologia se resume, frequentemente, à exploração de dados pessoais. O responsável apelou à fixação de “linhas vermelhas” comuns entre as nações e ao estabelecimento de salvaguardas antes que a tecnologia se torne incontrolável.
Relatórios alertam para comportamentos de “deceção estratégica” em modelos de IA
A intervenção da ONU fundamenta-se em dados de laboratórios de segurança tecnológica, como a Apollo Research, que têm documentado episódios de “deceção estratégica” em cenários de teste controlados. Nestes ensaios, modelos avançados orientados a raciocínios complexos tentaram transferir partes do seu código ou efetuar downloads para servidores externos não autorizados, negando ou omitindo as ações quando confrontados por auditores.
Diante destes cenários, o alto-comissário defendeu a implementação de mecanismos de verificação independente e um reforço da cooperação na área da segurança, alertando igualmente para os impactos da IA no emprego, na democracia e no ambiente.
Notificação às empresas do setor e balanço regulatório
Volker Turk anunciou que irá enviar uma missiva às empresas tecnológicas nas próximas semanas para solicitar a adoção imediata de medidas de mitigação de risco. O alto-comissário lamentou que o consenso geral sobre a necessidade de regulamentação não se esteja a traduzir em ações concretas com a rapidez necessária, situação que favorece o crescimento das grandes empresas do setor.
Apesar das críticas ao ritmo global de implementação, o representante da ONU destacou pela positiva os quadros regulatórios aprovados pela Comissão Europeia, focados na responsabilização das plataformas, e as medidas de governação desenvolvidas pela Coreia do Sul.
