O secretário-geral das Nações Unidas, António Guterres, anunciou, na abertura do primeiro Diálogo Global sobre a Governação da Inteligência Artificial, a proposta de um pacto internacional destinado a salvaguardar as crianças dos perigos associados à Inteligência Artificial (IA).
Guterres sublinhou a necessidade de que nenhuma criança deve ser utilizada como “cobaia” de sistemas de IA não regulamentados.
Durante o evento, o responsável da ONU delineou um pacto que se fundamenta em três princípios essenciais: primeiro, as empresas devem assegurar que os sistemas sejam seguros para os menores antes de serem lançados ao público; segundo, deve haver uma política de tolerância zero em relação à geração de imagens de natureza sexual infantil através da IA; por último, os sistemas devem ter a capacidade de encaminhar as crianças para apoio humano ao detectar sinais de alerta.
Esta reunião, que conta com a presença de representantes de diversos países, insere-se na estratégia aprovada no Pacto Digital Global de 2024, cujo objectivo é promover uma governação internacional desta tecnologia. A IA, actualmente dominada por um restrito número de empresas, em grande parte norte-americanas, é igualmente alvo de rápida inovação por parte de algumas entidades chinesas.
A proposta de Guterres surge num momento crítico, à medida que a utilização da IA continua a expandir-se, levantando preocupações sobre a segurança e o bem-estar dos mais jovens.
