Morning Chronicle - Desenvolvimento da IA não pode depender de 'caprichos' do mercado, alertam especialistas da ONU

O secretário-geral da ONU, António Guterres, criou em outubro do ano passado o comitê de quase 40 especialistas nas áreas de tecnologia, direito e proteção dos dados pessoais, procedentes do mundo acadêmico, dos governos e do setor privado, incluindo empresas como Microsoft, Google-Alphabet ou OpenAI.

O relatório final, publicado a poucos dias da "Cúpula do Futuro" que acontecerá em Nova York, constata a "falta de governança mundial da IA" e a exclusão dos países em desenvolvimento das discussões sobre esta questão conjuntural.

Dos 193 Estados-membros da ONU, apenas sete integram as principais iniciativas relacionadas com a IA (no âmbito da OCDE, do G20 e do Conselho da Europa), e 118 estão completamente ausentes.

No entanto, a natureza "transfronteiriça" destas tecnologias "exige uma abordagem global", insistem os especialistas.

"A IA deve servir a humanidade de forma equitativa e segura", reiterou Guterres esta semana. "Se não forem controlados, os perigos representados pela Inteligência Artificial podem ter graves implicações para a democracia, a paz e a estabilidade", completou.

- Cooperação mundial -

Neste cenário, o comitê de especialistas pede aos Estados-membros da ONU que estabeleçam ferramentas para melhorar a cooperação mundial no tema, encorajar o progresso da humanidade e evitar abusos.

"Ninguém pode prever atualmente a evolução destas tecnologias" e aqueles que tomam as decisões não são responsabilizados pelo desenvolvimento e utilização de sistemas "que não compreende", afirma o comitê.

Nestas circunstâncias, "o desenvolvimento, a implantação e a utilização destas tecnologias não podem depender apenas dos caprichos do mercado", alertam os especialistas, antes de apontar o papel "crucial" que deve ser desempenhado pelos governos e organizações regionais.

Entre as conclusões, o comitê sugere a criação de um grupo internacional de especialistas científicos em IA, inspirado no modelo de especialistas da ONU para o clima (IPCC), cujos relatórios são uma referência para a descrição do aquecimento global, seu impacto e as soluções para mitigar o problema.

Os cientistas atuariam como assessores da comunidade internacional sobre os riscos emergentes, os setores em que as pesquisas são mais necessárias e também poderiam identificar como algumas tecnologias poderiam ajudar a cumprir os objetivos de desenvolvimento sustentável (eliminação da fome e da pobreza, igualdade de gênero ou o clima, entre outros).

A ideia é parte do projeto Pacto Digital Mundial, que está sendo discutido e que analistas esperam que seja adotado no próximo domingo, durante a "Cúpula do Futuro" na ONU.

Os especialistas sugerem ainda o início de um diálogo político intergovernamental regular sobre o tema e a criação de um fundo para ajudar os países mais atrasados.

- Evitar as surpresas -

Tudo isto em uma estrutura pequena na própria secretaria da ONU, sugere o comitê.

Os especialistas, no entanto, não desejam a criação de uma entidade de governança internacional como a Agência Internacional de Energia Atômica (AIEA), como já sugeriu Guterres, a menos que os riscos se tornem "mais graves e mais concentrados".

Neste caso, "pode ser necessário que os Estados criem uma instituição internacional com poderes de vigilância, alerta, verificação e aplicação", acrescentam.

Em um setor que evolui rapidamente, os especialistas identificam vários perigos da IA, que incluem a desinformação que ameaça as democracias, os "deepfakes" (vídeos falsos) mais pessoais, em particular os sexuais, as violações dos direitos humanos, as armas autônomas e a sua utilização por grupos criminosos ou terroristas.

"Dada a velocidade, autonomia e opacidade dos sistemas de IA, esperar que uma ameaça surja pode significar que já é tarde demais para responder", admitem. O comitê defende uma avaliação científica constante e intercâmbios políticos para que "o mundo não seja tomado de surpresa".

M.Payne--MC-UK