reviradafeministapor Laura M. Castro
A intelixencia artificial parece terse tornado omnipresente nestes tempos… como mulleres, cómpre reflexionarmos se esta tecnoloxía nos pode “entender”.
Imaxinemos, por un momento, que quixermos deseñar un sistema informático que identifique se unha persoa é unha muller. Si, a utilidade práctica de tal sistema sería máis que discutíbel, mais gostaría de ilustrar aquí as razóns polas que, con toda probabilidade, tal proxecto remataría mal, converténdoo non só en algo inútil, senón nunha iniciativa rotundamente terríbel.
Tecnolóxica ou informaticamente falando, hai dúas maneiras de abordar este problema (ou calquera outro, realmente): se sabemos os pasos que seguir para realizar a tarefa, ou se non os sabemos. Cando coñecemos en detalle, paso a paso, o que temos que facer para acadar un obxectivo, trasladámolos, programándoos, ao software que automatiza esa secuencia de accións, que as realiza de xeito automático. Moi simplificadamente, eliximos unha linguaxe de programación e escribimos nesa linguaxe eses pasos: “faise primeiro isto, despois isto outro e, para rematar, “isto de máis aló”. O resultado é un programa que, se está ben realizado, resolverá a tarefa seguindo eses pasos cada vez que o executarmos. En xerga informática: implementamos o algoritmo que resolve esa tarefa.
En efecto, segundo o Dicionario da Real Academia Galega, a palabra algoritmo significa conxunto de regras que, ao aplicalas, permiten resolver un problema mediante un número finito de operacións ou, dito doutro xeito e segundo o Dicionario da Real Academia Española, conxunto ordenado e finito de operacións que permite atopar a solución dun problema” . Porén, todo o que escoitamos ou lemos nos últimos tempos sobre “algoritmos” non semella referirse a “regras coñecidas” ou “secuencias de operacións” que “dan solución” a problemas, senón todo o contrario: “entes” certamente “misteriosos” que producen resultados machistas, racistas, discriminatorios.
O termo “algoritmo” vén de usarse dun tempo a esta parte para se referir, paradoxalmente, ao segundo xeito de abordarmos a construción dun sistema informático para resolver un problema: o que facemos cando non coñecemos os pasos que seguir. Como podemos programar un software que resolva unha tarefa para a que non lle sabemos dicir: “faise primeiro isto, despois isto outro, e para rematar isto de máis aló”? Empregando intelixencia artificial.
A “intelixencia artificial” é un concepto paraugas que recolle diferentes metodoloxías e técnicas para lidar con estas situacións nas que, na resolución dunha tarefa, non coñecemos o algoritmo, mais temos exemplos de tarefas xa resoltas con éxito.
Volvendo ao caso de identificar se unha persoa é unha muller, podemos non saber que pasos seguir para conseguir unha resposta, mais se cadra o que podemos conseguir son exemplos de mulleres, por exemplo, en fotografías. Os sistemas de intelixencia artificial, simplificando moito novamente, son quen de “aprender” a resolver unha tarefa sen que nós lles digamos exactamente os pasos que seguir, se no seu lugar o que facemos é “adestralos” con exemplos da resposta que nos gustaría obter para cada tarefa específica. Presentados con diferentes fotografías de mulleres, o noso sistema debería ser quen de responder correctamente cando, finalizado o seu proceso de configuración, lle presentemos unha fotografía que nunca antes viu.
A razón pola que estes sistemas intelixentes son bos nestes problemas para os que non coñecemos como chegar a unha solución é porque son extremadamente bos atopando relacións, padróns, neses exemplos cos que se “adestran”, sendo en moitas ocasións relacións ou padróns dos que nós, como humanas, non somos conscientes, ou cunha complexidade que nos escapa. Agora ben, é imprescindíbel non perdermos de vista que a “intelixencia” destes sistemas se limita a iso: a identificar relacións que se deducen do seu conxunto de dados de adestramento. Se este conxunto é limitado, ou contén nesgos, o sistema atopará padróns, mais non serán universais, senón que reproducirán esas mesmas limitacións.
Imaxe 1 Titulo: Woman Fonte: https://duckduckgo.com/
Non é moi difícil imaxinar que pasaría se usamos para adestrar o noso sistema intelixente os resultados de procura na internet do termo woman [1] ou mulher [2]. A manifesta falta de diversidade neste conxunto de adestramento fará imposible que unha muller cun corpo diferente, unha cor de pel distinta, ou unha manifestación de xénero diversa sexa “correctamente identificada” como tal.
A razón pola que estes sistemas intelixentes acaban sendo malos nestes problemas é porque é extremadamente complexo deseñar ben eses chamados “conxuntos de adestramento”. Ou, dito doutro xeito, porque é extremadamente inxenuo pensar que, igual que a tecnoloxía, os datos son neutros.
As enormes cantidades de datos das que dispomos, responsables en certa medida do auxe dos sistemas intelixentes, non representan outra cousa que a realidade inxusta, discriminatoria e nesgada que os xera. Son conxuntos de datos nos que os homes están máis representados que as mulleres, as persoas brancas máis representadas cás negras, as clases altas máis representadas que as baixas, etc., etc. Aspectos profundamente humanistas, éticos, filosóficos… dos que, durante décadas, o gremio da informática aspirou a estar por riba. O muro contra o que a suposta neutralidade da tecnoloxía bate unha e outra vez: cada vez que no desenvolvemento dun sistema destas características se fallou estrepitosamente pensando que os datos representaban a realidade, cando dita realidade non era senón ideal e non a verdadeira realidade: a desigual. É o privilexio non identificado, ––non traballado, dos humanos detrás deses sistemas––, o que agroma de cada vez, reiterada e teimosamente.
Descoñezo a razón pola que se popularizou o termo “algoritmo” para falar do que é, a día de hoxe, o calcañar de Aquiles da tecnoloxía: a súa incapacidade para tratar as desigualdades e a súa perigosa potencialidade para perpetuar e magnificar as discriminacións. Cando usamos intelixencia artificial, realmente o “algoritmo” non existe e, certamente, a “intelixencia artificial”, tampouco.
Fontes:
[imaxe 1: procura “woman” en DuckDuckGo]
[imaxe da capa: procura “mulher” en DuckDuckGo]
____________________________________________________________________
Laura M. Castro
Son enxeñeira informática, profesora na Facultade de Informática da Universidade da Coruña, onde compaxino as tarefas de docencia, moi gratificantes, coa investigación, moi esixente. Desde 2017 experimento en primeira persoa a quimera da conciliación. Son firme defensora do software libre e, desde que puxen os lentes lilás, unha voz tanto crítica coma divulgadora da responsabilidade social da tecnoloxía.