Hecho por Sofía Gómez
El termino interseccionalidad está expuesto en el texto de cinco ideas sobre IA como un marco teórico y analítico que permite comprender cómo las desigualdades sociales no operan de forma aislada, sino que se entrelazan para producir formas específicas de discriminación y privilegio. Según el texto, este enfoque fue desarrollado inicialmente por feministas negras como Kimberlé Crenshaw, bell hooks y Patricia Hill Collins. En esencia, la interseccionalidad describe cómo el poder opera a través de la construcción de la diferencia (como la raza, el género, la clase, la sexualidad y la edad) en todos los niveles de la sociedad: micro, meso y macro.
En el contexto de la inteligencia artificial (IA), la interseccionalidad permite ir más allá de las visiones simplistas para identificar cómo los sistemas automatizados pueden generar daños desiguales basados en la posición social de una persona.
La importancia de aplicar una lente interseccional a la tecnología radica en que los sistemas de IA a menudo se presentan como “objetivos” o “neutrales”, cuando en realidad están construidos sobre datos humanos que están socializados, politizados e imbuidos de desigualdad. Como señalan los autores, los sociólogos críticos de la IA no solo buscan errores o sesgos individuales, sino que analizan cómo las disparidades grupales resultan en desigualdades estructurales.
Un punto clave es que la IA utiliza correlaciones en los datos para tomar decisiones sobre el futuro. Cuando estos sistemas no consideran la interseccionalidad, terminan amplificando las desigualdades preexistentes al tratar datos que reflejan racismo o sexismo histórico como si fueran hechos neutrales (por ejemplo, códigos postales que reflejan segregación racial). Así, la interseccionalidad nos ayuda a ver que la IA no solo “reproduce”, sino que a menudo amplía y profundiza las brechas sociales de raza, género y clase. Para comprender mejor cómo opera la interseccionalidad en la práctica tecnológica, se pudo evidenciar en el texto varios ejemplos contundentes:
- Software de vigilancia de exámenes (Proctoring): Durante la pandemia, muchas universidades implementaron sistemas biométricos para detectar fraudes. Estos sistemas funcionan peor con personas de piel oscura y mujeres, pero además penalizan de forma desproporcionada a “estudiantes no tradicionales”, como madres solteras que deben atender a sus hijos o estudiantes pobres que trabajan en espacios reducidos y compartidos. Aquí se cruzan el género, la clase y la situación familiar.
- Justicia Penal y algoritmos de reincidencia: Un estudio sobre el software utilizado en Florida mostró que las mujeres negras recibían puntuaciones de “riesgo” más altas y sentencias más severas que hombres blancos con historiales criminales mucho más violentos. Este es un ejemplo claro de cómo la raza y el género se intersectan para producir un resultado injusto que un análisis de una sola variable no explicaría.
- Mercado laboral tecnológico: La desigualdad en la industria no es solo de género. Las estructuras de recompensa y promoción también están influenciadas por la raza y la clase. Por ejemplo, es menos probable que las personas de color ocupen puestos de liderazgo en el diseño crítico de ingeniería, quedando relegadas a tareas menos valoradas.
La interseccionalidad es vital para entender la comunicación y la interactividad mediada por plataformas digitales. Hoy en día, nuestra interacción con el mundo (desde el consumo de noticias hasta la obtención de créditos o empleos) está moldeada por algoritmos. Si estos algoritmos no son diseñados bajo una perspectiva interseccional, la “interactividad” se convierte en una herramienta de exclusión.
Para profundizar en este concepto, se sugiere revisar los siguientes recursos externos:
- The urgency of intersectionality | Kimberlé Crenshaw (TED Talk) - Una explicación fundamental de la creadora del término. http://ted.com/talks/kimberle_crenshaw_the_urgency_of_intersectionality
- Documental: Coded Bias (disponible en plataformas como Netflix) - Explora el trabajo de Joy Buolamwini sobre cómo los algoritmos de reconocimiento facial discriminan por raza y género.
- Página Web: Just Tech (Social Science Research Council) - Una iniciativa mencionada en las fuentes que busca futuros tecnológicos más equitativos e inclusivos.https://www.ssrc.org/programs/just-tech/