Os 193 países da ONU devem concordar, neste domingo (22), com a criação de um órgão internacional para melhorar a governança sobre tecnologias digitais
Pela primeira vez, governos se unem para tentar estabelecer padrões éticos e de direitos humanos sobre o desenvolvimento da Inteligência Artificial e fechar o cerco em relação às plataformas digitais.
Negociadores confirmaram que o pacto foi concluído, depois de quatro anos de reuniões e um intenso processo de diálogo.
O acordo deve ser oficialmente anunciado neste domingo (22) e os 193 países da ONU concordarão em criar um órgão internacional para examinar o desenvolvimento da IA. Segundo diplomatas, apenas uma “surpresa” evitaria sua adoção.
O texto do acordo indica uma ofensiva inédita diante da proliferação do uso da nova tecnologia e que é considerada por muitos como a arma de uma nova era e uma ameaça para a estabilidade internacional e democracia.
O texto depende de um consenso entre os 193 países em todos os temas, inclusive reforma da ONU, clima e outros aspectos do que está sendo chamado de Pacto do Futuro.
Pelo documento, fica estabelecido a criação na ONU de um Painel Científico Internacional Independente multidisciplinar sobre IA, com representação geográfica equilibrada. Seu objetivo: “promover a compreensão científica por meio de avaliações de impacto, risco e oportunidades” da nova tecnologia.
Fica também estabelecida a criação de Diálogo Global sobre a Governança da IAenvolvendo governos, empresas e sociedade civil.
Caberá ao secretário-geral da ONU escolher os mediadores desse processo e que se desenvolva um sistema para financiar o desenvolvimento da tecnologia também nos países em desenvolvimento.
A ideia é retomar o controle do estado sobre o desenvolvimento da IA e seu impacto. No pacto, os governos se comprometem a “melhorar a governança internacional da inteligência artificial para o benefício da humanidade”.
“Reconhecemos a necessidade de uma abordagem equilibrada, inclusiva e baseada em riscos para a governança da inteligência artificial (IA), com a representação plena e igualitária de todos os países, especialmente os países em desenvolvimento, e a participação significativa de todas as partes interessadas”, diz.
“Precisamos urgentemente avaliar e abordar de forma inclusiva o impacto potencial, as oportunidades e os riscos dos sistemas de IA sobre o desenvolvimento sustentável e o bem-estar e os direitos dos indivíduos”, afirma.
O texto, portanto, prevê que os governos se comprometem a “promover abordagens equitativas e inclusivas para aproveitar os benefícios da IA e mitigar os riscos, respeitando plenamente o direito internacional, inclusive o direito internacional dos direitos humanos, e levando em conta outras estruturas relevantes”.
Pelo acordo, os governos irão avaliar as futuras direções e implicações dos sistemas de IA e participar da construção de capacidades, especialmente nos países em desenvolvimento, para acessar, desenvolver, usar e governar os sistemas de IA e direcioná-los para a busca do desenvolvimento sustentável.
A promoção da transparência é um dos pontos centrais, com a responsabilidade e a supervisão humana dos sistemas de IA em conformidade com o direito internacional.
O que prevê o acordo sobre plataformas digitais e integridade de informação
O pacto ainda demonstra uma preocupação clara dos governos em fechar o cerco contra as plataformas digitais. No acordo, os governos se comprometem a:
- Elaborar e implantar currículos de alfabetização em mídia digital e informação para garantir que todos os usuários tenham as habilidades e o conhecimento para interagir de forma segura e crítica com o conteúdo e com os provedores de informação e para aumentar a resiliência contra os impactos nocivos da desinformação.
- Promover ecossistemas de informação diversificados e resilientes, inclusive fortalecendo a mídia independente e pública e apoiando jornalistas e profissionais de mídia.
- Fornecer, promover e facilitar o acesso e a disseminação de informações independentes, baseadas em fatos, oportunas, direcionadas, claras, acessíveis, multilíngues e com base científica para combater a desinformação.
- Promover o acesso a informações relevantes, confiáveis e precisas em situações de crise, para proteger e empoderar as pessoas em situações vulneráveis.
Os governos ainda vão cobrar das empresas de tecnologia digital e plataformas de mídia social que aumentem a transparência e a responsabilidade de seus sistemas, incluindo termos de serviço, moderação de conteúdo e algoritmos de recomendação e tratamento de dados pessoais dos usuários em idiomas locais, para capacitar os usuários a fazer escolhas informadas e fornecer ou retirar o consentimento informado.
O plano é que plataformas de mídia social forneçam aos pesquisadores acesso aos dados, com salvaguardas para a privacidade do usuário, para garantir a transparência e a responsabilidade de construir uma base de evidências sobre como lidar com a desinformação e o discurso de ódio.
Por outro lado, empresas e os desenvolvedores de tecnologia digital terão de desenvolver soluções e comunicar publicamente as ações para combater possíveis danos, incluindo discurso de ódio. As medidas incluem a incorporação de salvaguardas nos processos de treinamento de modelos de IA, identificação de material gerado por IA, certificação de autenticidade de conteúdo e origens, rotulagem, marca d’água e outras técnicas.