Máquinas, algoritmos y los prejuicios de la IA.
Una reflexión filosófica sobre el sesgo algorítmico, la democracia y la autonomía tecnológica.
¿Puede una tecnología creada para ampliar las capacidades humanas terminar reproduciendo nuestros prejuicios o incluso escapar a nuestro control?.
Desde mi perspectiva, la inteligencia artificial enfrenta dos grandes problemáticas. La primera es el sesgo ético y moral presente en los datos y en los sistemas de información que la alimentan. Dado que la IA aprende de información producida por seres humanos, puede reproducir e incluso amplificar prejuicios sociales, culturales, económicos y raciales ya existentes. En este sentido, el problema no radica únicamente en la tecnología, sino también en los valores, intereses y limitaciones de quienes la diseñan y entrenan.
Un ejemplo significativo se presentó en Amazon entre 2014 y 2017. Según Dastin (2018), la empresa desarrolló un sistema de inteligencia artificial para apoyar los procesos de selección de personal. El algoritmo fue entrenado con hojas de vida de candidatos contratados durante aproximadamente diez años. Como la industria tecnológica había privilegiado históricamente la contratación de hombres para cargos técnicos, el sistema aprendió ese patrón y comenzó a favorecer automáticamente las solicitudes masculinas. Incluso llegó a penalizar currículos que contenían palabras asociadas con mujeres, como referencias a clubes femeninos o actividades académicas exclusivas para ellas. Aunque el sistema no había sido programado explícitamente para discriminar, terminó reproduciendo los sesgos presentes en los datos históricos utilizados para su entrenamiento.
Este caso pone de manifiesto una cuestión filosófica fundamental: la inteligencia artificial no es neutral. Aprende de la realidad que le proporcionamos y, si esa realidad contiene desigualdades o prejuicios, la IA puede transformarlos en decisiones automatizadas. Desde una perspectiva ética, el problema no se encontraba en la máquina misma, sino en los datos y en los supuestos sociales que estos reflejaban. Como afirma Ricoeur (2006), toda interpretación está mediada por un horizonte previo de comprensión; en el caso de la inteligencia artificial, ese horizonte está constituido por los datos con los que aprende.
Otro caso ampliamente debatido se presentó en el sistema judicial de Estados Unidos con el algoritmo COMPAS. De acuerdo con la investigación realizada por Angwin, Larson, Mattu y Kirchner (2016) para la revista ProPublica, el sistema tendía a clasificar con mayor frecuencia a personas afroamericanas como de alto riesgo de reincidencia, incluso cuando posteriormente no cometían nuevos delitos. En contraste, personas blancas tenían mayores probabilidades de ser clasificadas como de bajo riesgo aun cuando reincidían.
Desde una perspectiva filosófica y ética, este caso evidencia que los algoritmos pueden reproducir desigualdades históricas bajo una apariencia de objetividad matemática. En este sentido, Mbembe (2016) advierte que las sociedades contemporáneas continúan desarrollando mecanismos de clasificación y control que producen nuevas formas de exclusión. Aunque su reflexión no se refiere específicamente a la inteligencia artificial, permite comprender cómo las tecnologías digitales pueden reproducir lógicas de diferenciación y jerarquización presentes en la vida social.
Un tercer ejemplo puede encontrarse en el ámbito político. En Colombia, al igual que en muchas democracias contemporáneas, las campañas electorales han comenzado a incorporar herramientas de inteligencia artificial para analizar grandes volúmenes de datos, segmentar audiencias, identificar tendencias de opinión y diseñar mensajes dirigidos a grupos específicos de votantes. Si bien estas tecnologías pueden mejorar la comunicación entre candidatos y ciudadanos, también plantean interrogantes éticos relacionados con la manipulación de la información y la influencia sobre la opinión pública.
Al establecer un paralelo entre los casos de Amazon, COMPAS y las campañas políticas, encontramos un elemento común: en los tres escenarios la inteligencia artificial interviene en procesos que afectan directamente la vida de las personas. En Amazon influía en oportunidades laborales; en COMPAS, en decisiones relacionadas con la libertad y la justicia; y en la política, puede influir en la formación de la opinión pública y en la orientación del voto ciudadano.
La diferencia es que, mientras los dos primeros casos evidencian sesgos derivados de datos históricos, el caso político introduce además el problema de la manipulación de la información y de la construcción algorítmica de narrativas capaces de orientar comportamientos colectivos. De este modo, la inteligencia artificial deja de ser únicamente una herramienta técnica para convertirse en un actor con capacidad de incidir en las dinámicas democráticas.
Como sostiene Grosfoguel (2016), el conocimiento nunca es neutral, pues se encuentra atravesado por relaciones históricas de poder que determinan qué saberes son considerados legítimos y cuáles son marginados. Desde esta perspectiva, el desarrollo tecnológico no puede desligarse de una reflexión ética orientada por la justicia cognitiva, la responsabilidad social y el bien común.
La segunda problemática es la posibilidad de una creciente autonomía de las máquinas. Aunque actualmente la llamada «emancipación de las máquinas» pertenece más al terreno de la especulación filosófica que al de la realidad tecnológica, plantea interrogantes fundamentales sobre el futuro de la humanidad. ¿Qué ocurriría si los sistemas inteligentes alcanzaran niveles de autonomía capaces de escapar al control humano? Este escenario abre discusiones sobre la responsabilidad, el poder tecnológico y los límites éticos que deben establecerse para garantizar que la inteligencia artificial permanezca al servicio de la vida humana y no se convierta en una amenaza para ella.
En consecuencia, el reto filosófico de la inteligencia artificial no consiste solamente en corregir los sesgos de los algoritmos o en evitar una hipotética emancipación de las máquinas. También exige reflexionar sobre la relación entre tecnología, poder y democracia. Si la inteligencia artificial puede influir en nuestras decisiones laborales, judiciales y políticas, entonces la pregunta fundamental ya no es únicamente qué pueden hacer las máquinas, sino quién controla los sistemas inteligentes, con qué intereses y bajo qué principios éticos.
La historia de la tecnología demuestra que ninguna herramienta es neutral. Detrás de cada algoritmo existen decisiones humanas, valores, intereses y visiones particulares del mundo. Por ello, el futuro de la inteligencia artificial dependerá menos de la capacidad de las máquinas para aprender y más de la capacidad de los seres humanos para orientar ese aprendizaje hacia la justicia, la libertad y el bien común.
Como sugieren las reflexiones de Ricoeur, Mbembe y Grosfoguel, el verdadero desafío no es construir máquinas cada vez más inteligentes, sino construir sociedades capaces de utilizar la inteligencia artificial sin reproducir las desigualdades, exclusiones y formas de dominación que históricamente han marcado la experiencia humana. La pregunta decisiva para nuestro tiempo no es si las máquinas llegarán a pensar como nosotros, sino si nosotros seremos capaces de pensar éticamente el mundo que estamos creando con ellas.
La inteligencia artificial no hereda únicamente datos; hereda también nuestras formas de comprender el mundo. Por ello, el desafío filosófico contemporáneo consiste en garantizar que los algoritmos no se conviertan en simples espejos de nuestras desigualdades, sino en herramientas orientadas hacia una sociedad más justa, democrática y humana.
Mauricio Lemos Mosquera Olori´ire
Awo Orunmila, ingeniero en telecomunicaciones, graduado de la Escuela de Artes, poeta con publicaciones, estudiante de filosofía.
Contacto:
Instagram: @mauricio_lemos_oloriire
Instagram: Centro de Pensamiento Epistemológico Colombia Yoruba
Facebook: Mauricio Memos M (Olori ire)
Facebook: Centro de Pensamiento Epistemológico Colombia Yoruba