Novas tecnologias facilitam violência

A Cedaw está preocupada com a utilização de IA generativa e de sistemas autônomos, denominados “agentes de IA”, utilizados para facilitar a violência nos ambientes digitais.

Entre os riscos estão a criação de imagens e vídeos sexualizados sem consentimento, os “deepfakes”, a fraude de identidade, a extorsão sexual e os ataques a mulheres em cargos de liderança e decisão.

O Comitê quer que os países regulamentem a IA e as plataformas digitais, exigindo mecanismos para denunciar e remover conteúdos abusivos ou discriminatórios.

Eles deixaram um apelo à transparência, à supervisão independente e à revisão humana das decisões apoiadas por sistemas de inteligência artificial em áreas como a educação, a saúde e a administração da justiça.

Revisão das leis e práticas institucionais

Os estereótipos nos sistemas judiciais, por exemplo, podem condicionar a avaliação do testemunho das mulheres e influenciar as decisões dos tribunais, podendo mesmo conduzir a erros judiciais.