“Intelixencia artificial: Unha ferramenta para a igualdade?”
Asociación de Periodistas de Galicia (APG)
Conclusións:
Posibles efectos negativos das tecnoloxías IA:
- A tecnoloxía non é mala en si mesma, senón o mal uso que se faga dela
- A decisión algorítmica ten a capacidade de aumentar a eficiencia, ao poder procesar datos masivos en tempo real, pero tamén empezan a descubrirse os danos que pode causar cando incorpora nesgos inxustos ou estereotipos
- O gran perigo é a xeración de datos nesgados, moitas veces de xeito inconsciente, que logo utilizan os algoritmos para os sistemas de IA
- Unha IA que só pon o foco nun mundo feito por homes e nuns datos que reflicten exclusivamente as realidades masculinas, obviando á metade da poboación do mundo e as súas perspectivas, non pode ser unha boa IA; é unha intelixencia artificial parcial e nesgada
- Unha IA sen perspectiva de xénero, que bebe de datos machistas, misóxinos e mesmo violentos, reproducirá prexuízos e estereotipos, perpetuará fendas e desigualdades e ata pode ocasionar violencia
- A inmensa maioría das persoas (arredor do 85%) que entrenan e programan estas tecnoloxías IA son homes
- Dous dos grandes problemas que trouxo a IA son a discriminación por sexo ou por raza e a invisibilización, derivadas en moitos casos da falta de coidado cos datos de entrenamento ou dunha excesiva confianza no sistema de intelixencia artificial á hora de automatizar a toma de decisións
- A misoxinia online, que deriva dos estereotipos, é moi difusa, pode ser segreda e anónima, e sirve para xustificar os ataques contra as mulleres, contra a igualdade de xénero ou contra o feminismo
- Unha das variantes do dano algorítimico é a desinformación de xénero, que se dirixe contra as mulleres que ocupan o espazo público e que é consecuencia dos nesgos algorítimicos, máis os nesgos humanos, o que supón unha potente combinación
- As plataformas e os seus algoritmos teñen un papel clave na promoción da desinformación de xénero, porque dan prioridade á participación e monetarizan os datos, facendo que sexa máis viral e adictiva que a propia información
- Os estereotipos que máis se utilizan en canto á desinformación de xénero que afecta a mulleres líderes son: as mulleres son inferiores, son máis mentirosas e teñen unha tendencia á lascivia; tendendo sempre á ridiculización e ao silenciamento, mesmo ao exilio social, desas persoas
- Segundo as investigacións, un 90% das imaxes creadas por IA son de pornografía non consentida e, case a totalidade das vítimas dela, son mulleres
- Moitas nenas, mozas e mulleres vítimas dese tipo de comportamentos acaban ausentándose das redes sociais, silenciadas e illadas, perdendo polo tanto oportunidades para o seu desenvolvemento persoal e profesional, e repercutindo nas súas relacións sociais e familiares
- O Instituto Europeo para a Igualdade de Xénero cualifica as “porno- vinganzas” como violencia machista. Polo de agora é difícil combatela. A indefensión aínda é maior no caso das mulleres máis novas, que en moitos casos sofren graves consecuencias na súa saúde física e psíquica
- Xa hai traballos, como un estudo da Universidade de Carolina do Norte ou un informe da Organización Internacional do Traballo, que revelan que as mulleres se verán moito máis afectadas pola IA que os homes, en canto a perda de postos de traballo
- A Organización Internacional do Traballo (OIT) conclúe tamén nese informe que os cambios estarán en cambio máis orientados á mellora da calidade dos traballos que á destrución de emprego
Oportunidades de futuro que ofrece a IA:
- Nun mundo de datos como o actual, no que moitos ámbitos están dixitalizados, a IA pode favorecernos á hora de facer previsións e tomar decisións máis atinadas e eficaces
- A IA tamén se pode empregar para combater os problemas de discriminación e invisibilización, convertíndose nun aliado na loita pola igualde de xénero: identificando e corrixindo nesgos na toma de decisións, tanto en contornas corporativas (na selección de persoal, por exemplo), como sociais
- A IA pode ser un importante complemento da intelixencia humana á hora de monitorizar e analizar representacións de xénero nos medios de comunicación e na publicidade, proporcionando datos valiosos para elaborar estratexias, co fin de acadar un reparto informativo e publicitario máis equitativo e diverso
- É necesario aproveitar as oportunidades, xa que os algortimos da IA teñen a capacidade de detectar e axudar a eliminar contidos ou publicacións ofensivos, abusivos ou ameazantes nas redes sociais e noutras plataformas en liña
Posibles accións para paliar os efectos negativos da IA:
- En primeiro lugar debe loitarse contra a importante fenda de xénero que existe na actualidade en canto ao acceso ás propias ferramentas da IA
- E moi importante a incorporación de mulleres, coa súa visión como tales, nos proxectos desenvolvemento de ferramentas de IA, porque fomentará un uso máis igualitario e con menos problemas derivados dos nesgos
- De igual xeito é fundamental a incorporación de profesionais interdiciplinarios (filósofos, expertos en ética…) para o desenvolvemento das ferramentas IA
- É necesario incluir ás minorías femininas, todavía máis excluídas, entre os datos que se aplican nas ferramentas da IA
- Os nesgos discriminatorios e de manipulación de datos están moi estudados e xa existen ferramentas desenvolvidas a nivel internacional, a través da propia IA e abertas ao uso de calquera persoa, para detectalos
- O xornal arxentino líder La Nación é un dos primeiros xornais no mundo que emprega ferramentas, froito do traballo dun equipo interdisciplinar (xornalistas, xuristas, bibliotecarias, analistas de datos…), para detectar nesgos de xénero e corrixilos na práctica diaria do xornalismo nese medio e na cidadanía en xeral
- Esas ferramentas son: “Genie”, de uso interno para medir de xeito constante e dinámico a presencia de fontes masculinas e femininas nas informacións de producción propia e procurar a equidade nas coberturas de La Nación; e “Como lo digo”, de uso público para analizar oracións e detectar palabras que poden ser incorrectas, co fin de promover a inclusión facendo un mellor uso da linguaxe
- A Consellería de Promoción do Emprego e Igualdade da Xunta está a desenvolver accións para sensibilizar aos mozos a través das redes sociais, como #IgualdadeFollowers, desenvolvida coa APG e que acadou un grande impacto, ou a formación en perspectiva de xénero que continuarán proporcionando aos profesionais da comunicación de Galicia
- A Consellería de Promoción do Emprego e Igualdade está aberta a estudar o emprego na nosa comunidade autónoma de ferramentas como as que xa utiliza o xornal La Nación en Arxentina, tanto para o conxunto da sociedade, como para os profesionais da comunicación, que deben desenvolverse de xeito transversal con outros departamentos da Administración galega
- A Facultade de Ciencias da Comunicación da Universidade de Santiago de Compostela (USC) é a pioneira entre as facultades públicas de Comunicación españolas en actualizar os seus plans de estudos para integrar neles materias específicas de IA como unha ferramenta máis, tamén para tódalas materias, reforzando ao mesmo tempo a visión crítica e os aspectos éticos, na procura dun xornalismo de calidade e confiable que poña o centro no ser humano
- A Facultade de Ciencias da Comunicación da USC está conectada a través dos seus investigadores coa Asociación Internacional de Investigadores en Comunicación Social (IAMCR), a principal asociación internacional de académicos e investigadores en Comunicación (que ten participado no Cumio Mundial sobre a Sociedade da Información e no 18º Foro de Gobernanza de Internet, en Kioto, e contribúe nas discursións na UNESCO sobre directrices para regular as plataformas dixitais co fin de salvaguardar a liberdade de expresión e o acceso á información)
Regulación española, europea e mundial da IA:
- É necesario empezar a pensar xa na elaboración de normas para regular esta nova realidade tecnolóxica, impedindo os seus efectos perniciosos
- A UE e a ONU xa están a traballar para intentar evitar a proliferación de condutas nocivas derivadas do mal uso da IA
- A UE conta xa cun borrador de normativa continental da IA, que establece como inaceptable que un modelo desas tecnoloxías suponga un risco para as persoas e tratará de evitar que se usen técnicas subliminais que manipulen ou se aproveiten das vulnerabilidades
- Esa futura normativa, obrigará ás empresas creadoras de ferramentas con IA a ter en conta a lexislación vixente da UE e a Carta de Dereitos Fundamentais da UE, facendo especial fincapé na protección de datos e dos consumidores, e na non discriminación de xénero
- A UE está elaborando ademais a súa primeira Directiva sobre violencia ás mulleres, que estará centrada nas violacións (como agresións sexuais de todo tipo) e na ciberviolencia
- A filosofía da regulación da UE en canto á IA non pasa baixo ningún concepto por non empregar as ferramentas desa tecnoloxía, que considera unha necesidade, senón afrontar os seus posibles riscos, establecendo elementos prohibidos e un control-supervisión por parte dos humanos
- En España trabállase na renovación do Pacto de Estado contra a Violencia de Xénero para que inclúa tamén as violencias dixitais
- Sería necesario introducir no Código Penal español as “porno-vinganzas” como delicto, máis aló de que o Canal Prioritario da Axencia Española de Protección de Datos xa permita a día de hoxe a rápida retirada dese tipo de contidos das redes nos casos especialmente delicados (ao considerar que empregan partes da imaxe real da persona agraviada, como por exemplo, as caras)
- A lexislación de Galicia xa contempla a violencia dixital como unha forma de violencia contra as mulleres, pero é un caso infrecuente aínda no panorama autónómico español
- É necesario actuar tamén no eido da educación sexual dos rapaces, para que entendan que eses vídeos sen consentimento son actos de violencia machista, ao tempo que é preciso pedirlle á industria tecnolóxica un compromiso ético e moral
- En xeral, a regulación normativa neste eido por parte dos poderes lexislativos avanza máis lentamente que a realidade, porque constantemente nace unha nova forma de emprego da tecnoloxía para atacar ás mulleres. Aínda é difícil actuar de xeito preventivo e, polo de agora, só se pode actuar cando o dano xa está feito
O papel dos medios de comunicación e dos xornalistas:
- Os comunicadores teñen un papel indispensable para evitar a desinformación e os nesgos inconscientes, para a consecución dunha sociedade máis xusta e igualitaria, así como para a formación dun espírito e pensamento crítico que permita utilizar a IA con responsabilidade e perspectiva de xénero
- Os profesionais da información xogan un rol crucial á hora de detectar, analizar e corrixir os nesgos de xénero que existen e poñer o acento en impedir que a fenda de xénero continúe aumentando
- Os medios de comunicación deben apostar polo bo xornalismo (xornalismo clásico), que contrasta os datos, que busca diversidade de fontes, que denuncia, reflexivo e sosegado, que visibiliza ás mulleres e sensibiliza á sociedade, para contrarrestar os nesgos de xénero nos datos cos que se alimenta o algoritmo da IA
- Dous dos grandes inimigos dese xornalismo equilibrado e plural en canto a xénero son a urxencia informativa e as mecánicas herdadas na práctica do exercicio profesional
