La Inteligencia Artificial ya no es futuro, es el presente que forma parte de muchas decisiones cotidianas, aunque no siempre seamos conscientes de ello. Está detrás de recomendaciones, procesos de selección, servicios personalizados, herramientas de productividad o sistemas que empiezan a influir en cómo trabajamos y nos relacionamos con la información.
Y mientras su impacto crece a gran velocidad, la conversación debería enfocarse en quién participa en su diseño y bajo qué criterios se está desarrollando. Porque detrás de cada modelo, de cada dato y de cada decisión automatizada, existen decisiones humanas. La IA aprende de datos históricos, de contexto y de patrones que reflejan patrones y sesgos existentes. Y si esas decisiones no incorporan miradas diversas, corremos el riesgo de construir una tecnología muy avanzada, pero poco representativa de la sociedad a la que debería servir.
Si queremos una tecnología más justa, necesitamos estar representadas en la conversación. Pero también necesitamos estar presentes en los espacios donde se definen los criterios técnicos, éticos y organizativos que guían su desarrollo. La diversidad no empieza cuando un sistema ya está diseñado y se revisa si ha generado sesgos; debe estar presente desde el momento en que se decide qué problema queremos resolver, con qué datos vamos a entrenar el modelo, cómo vamos a medir su impacto y quién será responsable de supervisarlo.
Las respuestas a estas preguntas son cruciales. Hablamos de algoritmos como si fueran objetivos, pero realmente, su diseño está basado en decisiones humanas.
La IA ya está aquí, ¿cómo queremos convivir con ella?
La inteligencia artificial forma parte de nuestra vida cotidiana en mayor medida de lo que creemos. Está presente cuando un algoritmo filtra candidaturas en un proceso de selección, cuando un sistema decide qué contenido vemos primero, cuando recibimos recomendaciones personalizadas o cuando utilizamos herramientas capaces de generar texto, imágenes o código.
Estamos viviendo una transformación comparable a la que provocó internet hace dos décadas, pero con una diferencia crítica: las decisiones sobre cómo se diseña, entrena y despliega esta tecnología se están tomando ahora. Y eso nos sitúa ante una oportunidad única para influir en el modelo de sociedad digital que queremos construir.
La cuestión ya no es si conviviremos con la inteligencia artificial. La cuestión es con qué criterios, valores y perspectivas decidimos desarrollarla. En muchas conversaciones sobre IA a las que asisto, el foco de la conversación son los modelos, las capacidades, la productividad, pero no se habla de qué perspectivas ni bajo qué criterios se están construyendo estas soluciones de IA.
La brecha de género en IA: una realidad que los datos confirman
Los números no mienten; los datos muestran que la participación femenina en el ámbito tecnológico sigue siendo limitada y que esta brecha se amplía cuando la tecnología sobre la que hablamos es Inteligencia Artificial.
Según el Informe Global sobre la Brecha de Género 2024 (Global Gender Gap Report 2024) del Foro Económico Mundial, las mujeres representan únicamente el 28,2% de la fuerza laboral en STEM. En el ámbito de la IA, el informe AI’s Missing Link: The Gender Gap in the Talent Pool (2024), del think tank europeo Interface, analiza más de 1,6 millones de profesionales y concluye que sólo el 22% del talento global en IA es femenino y menos del 15% ocupa posiciones ejecutivas.
La brecha no se limita al mundo profesional. Diversos estudios muestran que las mujeres utilizan herramientas de IA generativa en menor medida que los hombres; este hecho, puede generar un doble efecto: menor participación en su diseño y menor familiaridad en su uso.
Se genera así una dinámica difícil de romper: una menor presencia en el diseño conduce a soluciones menos representativas, mientras que una menor adopción en el uso de la IA limita la participación futura. Y estas dos realidades constituyen un bucle infinito que se retroalimenta y perpetúa la brecha.
Los algoritmos aprenden nuestros sesgos y los amplifican
Llevo años trabajando con datos, y si algo he aprendido es que ninguna decisión humana basada en datos es completamente neutral. Los datos reflejan una realidad, pero también las decisiones que tomamos sobre qué medir, qué variables considerar y cómo interpretar los resultados. Por eso, los algoritmos acarrean los sesgos con los que fueron diseñados.
Uno de los casos más conocidos que salió a la luz en el 2018, es el de una gran tecnológica que había desarrollado una solución para optimizar sus procesos de selección. El modelo fue entrenado con datos históricos de contratación y comenzó a penalizar automáticamente currículums con términos asociados a organizaciones femeninas. El problema no estaba en la tecnología en sí, sino en los patrones que había aprendido de décadas de decisiones predominantemente masculinas.
La IA no inventa los sesgos. Los algoritmos aprenden estos sesgos a partir de los datos históricos con los que se entrenan y los amplifican a una velocidad y alcance que ningún ser humano podría alcanzar por sí solo.
Por este motivo, la diversidad en el diseño no es una cuestión ética secundaria. Es también una cuestión de calidad, innovación y de gestión del riesgo.
Cómo construir una IA más inclusiva y confiable
Hoy estamos definiendo los criterios que deben adoptar empresas e instituciones, y que definirán qué IA se desarrollará durante la próxima década. Eso es una oportunidad, no una amenaza.
Para avanzar hacia una Inteligencia Artificial más inclusiva y fiable, necesitamos acciones concretas a llevar a cabo desde todos los niveles.
Para empezar, es necesario impulsar la alfabetización en IA para que más mujeres comprendan cómo funciona y puedan participar con conocimiento real. Las compañías deben proporcionar esta capacitación y deben ocuparse de montar equipos multidisciplinares y diversos, donde convivan perfiles técnicos, de negocio y de experiencia de usuario, enriqueciendo así la toma de decisiones y favoreciendo la identificación temprana de sesgos.
En segundo lugar, las organizaciones necesitan fomentar la diversidad como un criterio estratégico a lo largo de todo el ciclo de vida de la IA, desde la selección de los datos hasta el entrenamiento y la gobernanza de los modelos. Esto implica no sólo trabajar con datos representativos y realizar auditorías para detectar posibles sesgos, sino también incorporar revisiones sistemáticas de equidad, KPIs y mecanismos de control que aseguren que los sistemas funcionan de manera justa para todos los colectivos. No se trata únicamente de equilibrar estadísticas, sino de mejorar la calidad de las decisiones y reducir riesgos operativos, reputacionales y regulatorios.
Y, por último, estamos obligados a incorporar desde el inicio principios de transparencia, trazabilidad, supervisión humana y responsabilidad en cualquier iniciativa que use IA generativa.
Esta visión está alineada con el enfoque europeo de desarrollo tecnológico. El Reglamento Europeo de Inteligencia Artificial (AI Act) establece un marco basado en la gestión del riesgo, la supervisión humana y la confianza como pilares fundamentales para el despliegue responsable de la IA.
La diversidad no frena la innovación: reduce riesgos, mejora decisiones y aumenta la legitimidad de los sistemas que llegan al mercado. Se trata de orientarla hacia objetivos que generen valor real para las personas y la sociedad.
La IA puede hacer las cosas más rápido, pero sigue siendo responsabilidad de las personas decidir qué principios queremos incorporar a esa inteligencia. La conversación sobre inteligencia artificial no debería limitarse a quienes desarrollan algoritmos o construyen sistemas. Es una responsabilidad compartida entre empresas, instituciones, profesionales y ciudadanía. Y cuantas más mujeres participen en esa conversación, más probabilidades tendremos de construir sistemas que representen mejor la diversidad del mundo al que sirven.
Tenemos un gran reto por delante, pero este reto no es desarrollar modelos más potentes; nuestro reto es construir tecnología por y para las personas y asegurarnos de que la inteligencia que incorporamos a nuestras soluciones refleje los valores de la sociedad a la que sirven.
Gema Ruiz Díaz-Mariblanca
Data&ML CoE Leader Softtek
LinkedIn
Informe Global sobre la Brecha de Género 2024 (Global Gender Gap Report 2024) del Foro Económico Mundial: Global Gender Gap Report 2024 | Foro Económico Mundial
AI’s Missing Link: The Gender Gap in the Talent Pool (2024), del think tank europeo Interface: AI’s Missing Link: The Gender Gap in the Talent Pool
Leave a Reply