¿Qué es el sesgo algorítmico y por qué es importante analizarlo? Un algoritmo puede recomendar una canción, ordenar candidatos a un empleo o señalar qué persona parece presentar mayor riesgo. La operación parece objetiva porque utiliza números, pero los números no llegan solos: proceden de historias, decisiones y categorías humanas. Comprender el sesgo algorítmico exige mirar la técnica; también exige preguntarnos qué consideramos justo y quién responde cuando una clasificación automatizada perjudica a alguien.
Este artículo se ofrece gratis gracias a la publicidad. Si prefieres leerlo sin anuncios, solo da clic y accede a la experiencia premium; además de disfrutar una lectura más limpia y cómoda, estarás apoyando directamente nuestro proyecto filosófico. Porque la filosofía no solo se lee: también se construye. No leas filosofía, forma parte de ella.Cada día aceptamos pequeñas decisiones algorítmicas sin percibirlas como decisiones. Una plataforma selecciona las noticias que veremos, una aplicación calcula la ruta más conveniente y un filtro decide qué mensajes merecen llegar a la bandeja principal. En contextos más delicados, sistemas semejantes pueden ayudar a ordenar solicitudes de crédito, candidaturas laborales o expedientes médicos. La comodidad de ese proceso produce una impresión poderosa: si una máquina no siente simpatía ni antipatía, quizá juzgue con mayor neutralidad que una persona. Pero carecer de emociones no equivale a carecer de criterios, y todo algoritmo opera conforme a criterios elegidos por alguien.
Llamamos sesgo algorítmico a una desviación sistemática que genera resultados injustificadamente desfavorables para determinadas personas o grupos. No se trata de cualquier error: un programa puede equivocarse de manera aleatoria sin discriminar. El problema aparece cuando los fallos, las exclusiones o las cargas se concentran siguiendo líneas socialmente relevantes, como el sexo, el tono de piel, la edad, el origen o la situación económica. También puede haber sesgo cuando el sistema funciona exactamente como fue diseñado, pero persigue un objetivo demasiado estrecho. Optimizar la productividad, por ejemplo, no garantiza respetar la igualdad ni reconocer circunstancias que los datos no registran.
La palabra “sesgo” puede inducir a pensar en una mente malintencionada. Sin embargo, un modelo no necesita albergar prejuicios para reproducir sus consecuencias. Basta con que aprenda de registros nacidos en una sociedad desigual, que utilice una variable sustitutiva de otra protegida o que convierta una práctica pasada en norma futura. Por eso resulta más exacto hablar de un proceso sociotécnico: intervienen datos, código, instituciones, incentivos y usos concretos. El algoritmo no inventa por sí solo el mundo que clasifica, pero puede condensarlo, estabilizarlo y aplicarlo a una escala imposible para un funcionario o un seleccionador individual.
Un ejemplo bien documentado procede del análisis facial automatizado. El estudio Gender Shades1, publicado en 2018 por Joy Buolamwini y Timnit Gebru, encontró grandes diferencias de precisión entre grupos en tres sistemas comerciales de clasificación de género: los mayores errores recaían sobre mujeres de piel oscura. Investigaciones posteriores del Instituto Nacional de Estándares y Tecnología de Estados Unidos2 también observaron diferencias demográficas en numerosos algoritmos de reconocimiento facial. Estos trabajos no demuestran que toda tecnología facial falle del mismo modo; sí muestran que una cifra global de exactitud puede ocultar quién soporta los errores.
Ahí se encuentra la primera lección filosófica. Una herramienta puede ser eficaz en promedio y, al mismo tiempo, tratar peor a quienes ya ocupan posiciones vulnerables. Preguntar únicamente “¿cuántas veces acierta?” es insuficiente; también hay que preguntar “¿con quién se equivoca?”, “¿qué consecuencias tiene el error?” y “¿quién decidió que ese nivel de daño era aceptable?” El sesgo algorítmico no es una mancha accidental sobre una tecnología por lo demás pura. Es una señal de que toda clasificación incorpora una imagen del mundo y reparte beneficios, riesgos y oportunidades entre las personas que habitan en él.
La explicación más conocida señala a los datos de entrenamiento. Si un modelo aprende a reconocer patrones mediante ejemplos pasados, la composición de esos ejemplos importa. Una base con poca representación de ciertos rostros, acentos o trayectorias vitales ofrecerá menos información para comprenderlos. Pero el problema no se limita a la cantidad. Los registros históricos contienen decisiones humanas: contrataciones, diagnósticos, detenciones, créditos concedidos y créditos negados. Cuando esas decisiones estuvieron atravesadas por desigualdades, el conjunto de datos no es una fotografía inocente del pasado; es el sedimento de instituciones, normas y oportunidades distribuidas de manera desigual.
Eliminar de la base variables como sexo u origen tampoco garantiza neutralidad. Otros datos pueden funcionar como sustitutos: el código postal puede correlacionarse con nivel de ingreso o segregación residencial; ciertas interrupciones laborales, con tareas de cuidado; el tipo de dispositivo o el horario de conexión, con condiciones materiales distintas. El modelo descubre correlaciones sin comprender su historia social. Desde el punto de vista estadístico, esas asociaciones pueden mejorar una predicción; desde el punto de vista ético, pueden reintroducir por la puerta trasera distinciones que se pretendía excluir. La discriminación no siempre aparece nombrada en una columna: puede estar distribuida entre muchas señales aparentemente triviales.
Otra fuente de sesgo surge al definir el objetivo. Para entrenar un sistema, hay que decidir qué resultado debe maximizar: permanencia en un empleo, pago puntual, interacción con una publicación, reducción de costos o detección de una enfermedad. Ninguna de esas metas es idéntica al bien que supuestamente representa. “Permanecer más tiempo en la empresa” no equivale necesariamente a “ser mejor profesional”; “provocar más interacción” no significa “informar mejor”. Cuando una plataforma recompensa aquello que mantiene nuestra atención, los algoritmos de redes sociales pueden favorecer lo sorprendente, lo indignante o lo polarizador, aunque nadie haya escrito una orden explícita para degradar la conversación pública.
También importan los bucles de retroalimentación. Imaginemos un sistema que destina más vigilancia a los lugares donde antes se registraron más incidentes. Una presencia policial mayor producirá más observaciones y, por tanto, más datos que confirmen la aparente peligrosidad de esos lugares. La predicción comienza a fabricar parte de la realidad que luego presenta como prueba. Algo semejante ocurre cuando una recomendación da visibilidad a ciertos contenidos: al ser más vistos, reciben más interacción; esa interacción justifica que vuelvan a recomendarse. En estos circuitos, la máquina no solo describe preferencias o riesgos, sino que contribuye a moldearlos y vuelve difícil distinguir entre predicción y producción.
Por último, está la opacidad. Algunos modelos son difíciles de interpretar incluso para sus desarrolladores, pero la oscuridad también puede proceder del secreto comercial, de una administración fragmentada o de explicaciones incomprensibles para la persona afectada. Saber que una solicitud fue rechazada por una “puntuación de riesgo” ofrece muy poca orientación si no podemos conocer los factores relevantes, corregir datos erróneos o pedir una revisión. La UNESCO3 insiste en que los problemas éticos atraviesan todo el ciclo de vida de la inteligencia artificial, desde el diseño hasta el uso y la evaluación. El sesgo, por ello, no se resuelve con una limpieza puntual de datos.
¿Qué significa que un algoritmo sea «justo»?
La técnica puede medir diferencias entre grupos, pero no decide por sí sola cuáles son moralmente aceptables. Aquí reaparece una vieja cautela filosófica: de una descripción de cómo ocurren las cosas no se desprende automáticamente cómo deberían ocurrir. Un sistema puede descubrir que cierta característica predice un resultado y, aun así, carecer de justificación para usarla. La correlación responde a una pregunta empírica; su legitimidad responde a una pregunta normativa. Confundir ambas transforma la frecuencia estadística en destino y concede a lo ocurrido en el pasado una autoridad que no merece simplemente por estar registrado.
Además, “justicia” no nombra una única fórmula. Podríamos exigir que dos grupos reciban resultados favorables en proporciones semejantes, que tengan tasas de error comparables o que una misma puntuación represente el mismo riesgo para todos. Cada criterio expresa una intuición defendible, pero no siempre pueden satisfacerse a la vez. La investigación sobre equidad algorítmica ha mostrado tensiones entre calibración y paridad de errores4. Esto no significa que la justicia sea imposible; significa que no podemos esconder una elección moral dentro de una métrica y presentarla como solución neutral. Elegir qué igualdad priorizar exige explicar el contexto y las consecuencias.
La filosofía política ayuda a ampliar la pregunta. Una igualdad meramente formal aplica la misma regla a todos; una concepción sustantiva observa si las condiciones de partida y los efectos reales son comparables. Tratar de manera idéntica a quienes enfrentan barreras distintas puede conservar la desigualdad bajo una apariencia imparcial. Al mismo tiempo, corregir disparidades exige cuidado para no reducir a las personas a una sola pertenencia grupal. El reto consiste en reconocer patrones colectivos sin borrar historias individuales. No hay una receta universal: un sistema de recomendación musical y uno que interviene en un diagnóstico médico no deberían someterse al mismo umbral de riesgo ni a la misma exigencia de explicación.
También está en juego una forma de injusticia epistémica, concepto desarrollado por la filósofa Miranda Fricker para estudiar los daños que afectan a alguien en su condición de sujeto que conoce. Un sistema puede desatender testimonios, experiencias o categorías que no caben en sus datos; puede convertir a una persona en un perfil y otorgar al perfil más autoridad que a su propia explicación. Cuando una decisión automatizada resulta inapelable, el afectado no solo pierde una oportunidad: pierde la capacidad de participar en la interpretación de su caso. El conocimiento institucional aparece entonces como una puntuación cerrada, mientras la voz humana queda degradada a información anecdótica.
La automatización difumina, además, la responsabilidad. El desarrollador puede decir que no eligió el uso final; la institución, que confió en un proveedor; el operador, que siguió la recomendación; y el directivo, que el sistema era más preciso que la alternativa. Al final, todos participaron y nadie parece responder. Pero delegar un cálculo no elimina la autoría moral de una decisión. La recomendación de la UNESCO sobre ética de la IA5 coloca la dignidad, los derechos, la transparencia, la equidad y la supervisión humana en el centro. La cuestión decisiva no es si la máquina es culpable, sino qué personas e instituciones deben prevenir, explicar y reparar el daño.
La respuesta habitual al sesgo es pedir algoritmos neutrales. La intención es comprensible, pero la expresión puede ocultar el problema. Diseñar un sistema exige seleccionar datos, categorías, objetivos, límites y errores tolerables. Ninguna de esas operaciones es completamente neutral porque cada una favorece ciertas maneras de ver y ordenar la realidad. Esto no obliga a rechazar toda automatización. Obliga a sustituir el mito de la neutralidad por una práctica más exigente: declarar los valores incorporados, justificar las decisiones de diseño y examinar cómo se distribuyen los beneficios y perjuicios.
Parte de la solución es técnica. Se necesitan datos pertinentes y representativos, evaluaciones separadas por grupos, documentación sobre límites de uso y pruebas continuas después del despliegue. Una cifra global de rendimiento no basta si oculta fallos concentrados. También conviene auditar variables sustitutivas, vigilar los bucles de retroalimentación y comparar el sistema no con una perfección imaginaria, sino con alternativas reales, incluidas las decisiones humanas. Sin embargo, una auditoría no puede decidir qué perjuicio es legítimo ni qué derecho debe prevalecer. La técnica identifica consecuencias; la deliberación pública debe juzgarlas.
La segunda parte es institucional. Quien se vea afectado por una decisión importante debería saber que intervino un sistema automatizado, recibir una explicación útil y contar con una vía de revisión humana. La transparencia no consiste en descargar miles de líneas de código, sino en ofrecer información que permita comprender y cuestionar un resultado. El principio de transparencia y explicabilidad de la OCDE6 incluye precisamente la posibilidad de impugnar resultados. Sin ese derecho, la explicación se convierte en ceremonia: la institución habla, pero la persona no dispone de un mecanismo para responder, aportar contexto o corregir un dato.
La participación también importa. Los grupos que soportarán un sistema no deberían aparecer únicamente al final, cuando llega el momento de medir daños. Su experiencia puede revelar categorías deficientes, efectos invisibles para el equipo técnico o usos que nunca fueron considerados. Incluir voces diversas no garantiza por sí solo una solución justa, pero modifica quién tiene autoridad para definir el problema. Frente a la idea de que la inteligencia artificial es un producto acabado que la sociedad debe aceptar o rechazar, conviene verla como una infraestructura revisable, sujeta a límites, controles democráticos y, cuando el riesgo no sea justificable, a la decisión de no utilizarla.
El sesgo algorítmico nos enfrenta así con una paradoja de nuestro tiempo. Hemos construido sistemas capaces de procesar más información de la que cualquier persona podría examinar y, precisamente por ello, corremos el riesgo de concederles una confianza que ninguna decisión humana merecería sin rendir cuentas. Una sociedad justa no será la que consiga borrar toda huella humana de sus algoritmos; esa pureza es imposible. Será la que reconozca qué valores introdujo en ellos, escuche a quienes padecen sus errores y conserve abierta la posibilidad de corregirlos. La pregunta no es si las máquinas heredaran nuestros prejuicios, sino si nosotros aceptaremos esa herencia como destino.
Notas
[1] Buolamwini, J. & Gebru, T. (2018). Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. Proceedings of the 1st Conference on Fairness, Accountability and Transparency, in Proceedings of Machine Learning Research 81:77-91 Sitio web: https://proceedings.mlr.press/v81/buolamwini18a.html.
[2] Grother, P., Ngan, M., and Hanaoka, K. (2019), Face Recognition Vendor Test Part 3: Demographic Effects, NIST Interagency/Internal Report (NISTIR), National Institute of Standards and Technology, Gaithersburg, MD, [online], https://doi.org/10.6028/NIST.IR.8280
[3] Recomendación sobre la Ética de la Inteligencia Artificial. Sitio web: https://www.unesco.org/es/legal-affairs/recommendation-ethics-artificial-intelligence
[4] Cfr. https://arxiv.org/abs/1709.02012
[5] Ver en: https://unesdoc.unesco.org/ark:/48223/pf0000381137_spa.locale=es
[6] Cfr. https://oecd.ai/en/dashboards/ai-principles/P7
Cita este artículo (APA): Barragán, G. (2026, 17 de julio). Cuando la IA discrimina: ¿qué es el sesgo algorítmico y cómo enfrentarlo? Filosofía en la Red. Sitio web: https://filosofiaenlared.com/2026/07/sesgo-algoritmico-inteligencia-artificial¡Apóyanos a seguir llevando la filosofía a la red!
Suscríbete a Σtoá, el newsletter gratuito de Filosofía en la Red: recibe noticias, novedades e información relacionada con nuestra plataforma: ¡nuestra comunidad supera los dos mil seguidores! Pero, si buscas un poco más —y deseas apoyarnos—, te ofrecemos una membresía de pago con planes anuales o mensuales. Tu aporte financiero nos permite mantener este proyecto sin paywalls.
Beneficios de la membresía:
• Filosofía en la Red Prémium: porque sabemos que la publicidad interrumpe la experiencia, tu suscripción VIP te abre las puertas a leer cada texto sin anuncios, con la calma y claridad que la filosofía merece.
• Cartas del editor: un rincón en el que Miguel Ángel, director de Filosofía en la Red, no escribe bajo su cargo, sino como alguien que también busca entender lo que le pasa. Aquí no hay artículos ni teorías: hay pausas. Fragmentos de pensamiento con piel, escritos para quienes saben que, a veces, filosofar también es sostenerse.
• Club de Lectura: accede sin coste adicional a nuestro club de lectura, que tiene una cuota de recuperación.