ONU alerta para riscos do uso de IA na violência contra mulheres

O Comitê da ONU para a Eliminação da Discriminação contra as Mulheres (Cedaw) pediu que os países adotem medidas para combater estereótipos de gênero. A entidade alerta que tecnologias como a inteligência artificial (IA) podem ampliar a violência digital e reproduzir preconceitos que afetam a vida das mulheres.

Em uma nova diretriz, o comitê defende mudanças nas leis, nas plataformas digitais e nas práticas institucionais para enfrentar a discriminação em diferentes áreas da sociedade.

IA pode ampliar a violência digital

O Cedaw demonstrou preocupação com o uso de ferramentas de IA generativa e de sistemas autônomos, conhecidos como agentes de IA, para facilitar agressões na internet.

Entre os riscos estão a criação de imagens e vídeos sexualizados sem consentimento, fraudes de identidade, extorsão sexual e ataques contra mulheres em cargos de liderança. Os chamados deepfakes são imagens, vídeos ou áudios manipulados ou gerados com inteligência artificial.

Para enfrentar esses abusos, o comitê recomenda medidas que ampliem a transparência e a responsabilidade das empresas e dos governos. Entre as propostas estão:

• Estabelecer mecanismos de responsabilização pelo uso abusivo de sistemas de IA.
• Garantir supervisão independente sobre essas tecnologias.
• Assegurar revisão humana de decisões automatizadas.
• Criar procedimentos para denunciar e remover conteúdos discriminatórios nas plataformas digitais.

Preconceitos também afetam a Justiça e a saúde

Os estereótipos de gênero também podem influenciar o funcionamento das instituições. Na Justiça, por exemplo, preconceitos podem interferir na avaliação do testemunho das mulheres e nas decisões dos tribunais, contribuindo para erros judiciais.

O Cedaw defende a revisão de leis e práticas que tratam a violência como um assunto privado ou familiar, responsabilizam as vítimas pelas agressões sofridas ou justificam a violência masculina. A entidade também propõe mecanismos para responsabilizar juízes, procuradores e agentes de segurança que perpetuem práticas discriminatórias, além da revisão de decisões marcadas por preconceitos.

Na saúde, esses estereótipos podem afetar diagnósticos e decisões relacionadas à saúde reprodutiva. Por isso, o comitê defende o consentimento informado antes de procedimentos médicos, medidas contra a violência obstétrica e a descriminalização do aborto.

Divisão do trabalho de cuidado também preocupa

A desigualdade aparece ainda na distribuição das responsabilidades familiares. A ideia de que as mulheres devem assumir a maior parte dos cuidados com filhos e familiares contribui para disparidades econômicas.

Para enfrentar esse problema, o Cedaw propõe uma divisão mais equilibrada do trabalho não remunerado e políticas de licença parental. Conflitos, catástrofes climáticas e crises humanitárias podem agravar a sobrecarga de cuidados e contribuir para a normalização da violência de gênero.

A diretriz sustenta que o combate à discriminação exige mais do que medidas pontuais. Os países precisam enfrentar também as atitudes, os sistemas e as estruturas sociais que perpetuam os estereótipos.

O post ONU alerta para riscos do uso de IA na violência contra mulheres apareceu primeiro em Olhar Digital.