La inteligencia artificial puede aportar un enorme valor a las organizaciones y a las comunidades a las que sirven. Desbloquear la diversidad en la Era de la IA es una nueva frontera.

Me conocen como Pedro, pero mi verdadero nombre, Panagiotis, es el que figura en mi partida de nacimiento y en mi pasaporte. ¿Por qué la diferencia? Porque cuando crecíamos en los años 70 en Australia, muchos anglicismos nuestros nombres, no sólo porque queríamos ser aceptados, sino también por miedo a que utilizaran nuestros nombres contra nosotros.

Puedo decir que para el trabajo que hago ahora me he estado entrenando desde que era un niño; aprendiendo a navegar por las complejidades sociales de Australia, que, como el Reino Unido, es una de las naciones con mayor diversidad cultural del planeta. Las preguntas que impulsan mi trabajo son ¿Cómo nos aseguramos de que todos los que quieren ser incluidos lo son, y de que nadie se queda atrás? ¿Cómo damos visibilidad a todos?

En 2002 fundé Infusión Cultural como respuesta al impacto de la globalización en la sociedad, para fomentar la comprensión del llamado «otro» y reducir la discriminación.

Casi dos décadas después, en 2019, lancé la primera herramienta holística de conocimiento de datos culturales del mundo, el Atlas de la Diversidad, que ha sido adoptada por organizaciones cuyo tamaño oscila entre 50 empleados y empresas gigantes como Amazon Web Services (AWS). El Atlas de la Diversidad es la culminación del trabajo y la reflexión que vengo realizando en torno a la identidad, la cultura y la paz a título profesional desde 1988.

La globalización ha convertido en un reto más que humano comprender al «otro». Necesitamos la ayuda de la tecnología. El escritor Richard Powers lo expresó así: «La vida [today] es sencillamente demasiado compleja e interdependiente para que podamos entenderla sin la ayuda de nuestras prótesis mecánicas».

Estamos en las primeras fases de comprensión de la IA y de cómo sacarle el máximo partido. Las cosas van tan deprisa que a menudo no tenemos tiempo de analizar aspectos de la IA que pueden tener consecuencias masivas.

El coste del conflicto

La cultura es una fuerza poderosa, un fuego que calienta y protege, pero que también puede quemar y destruir. La UNESCO identifica la cultura como:

1. un motor del desarrollo sostenible;
   
2. erradicador de la pobreza;
   
3. clave para una educación de calidad, y;
   
4. clave para construir comunidades socialmente cohesionadas y pacíficas.

La cultura es también un importante facilitador de la innovación. Al fin y al cabo, la innovación se nutre de la diversificación de ideas. ¿Qué mejor manera de fomentar la innovación que reuniendo las diversas perspectivas de diferentes culturas?

Entonces, ¿qué es la cultura?

Bueno, el término es extremadamente resbaladizo, y su definición depende de a qué contexto y a qué tipo de cultura nos refiramos.

En pocas palabras, la cultura es el modo de vida de un determinado grupo de personas. La cultura incluye conocimientos compartidos, valores, costumbres, objetos físicos y normas sociales.

Proporciona los marcos, los contextos, las lentes, a través de los cuales todos vemos el mundo.

Quiero destacar el importante papel de la cultura en cualquier cuestión que afecte a la humanidad, especialmente en el desarrollo y adopción de cualquier nueva tecnología.

¿Qué está en juego? Según el Índice de Paz Global, sólo en 2022 gastamos 17,5 billones de dólares en hacer frente a los conflictos. Según la UNESCO, alrededor del 75% de los conflictos del mundo tienen una dimensión cultural etnolingüística y religiosa. Esto, en 2022, equivalía a la asombrosa cifra de 13,1 billones de dólares. Sin duda, esta cifra va en aumento.

El gran coste son las vidas, los medios de subsistencia y la felicidad humana.

Puesto que los conflictos basados en la cultura son tan frecuentes, ¿por qué no ponemos la cultura en el centro de todo desarrollo tecnológico?

El coste global de la exclusión

¿Y qué hay de otras áreas de la cultura y la diversidad humana, como la forma en que vemos el género y la discapacidad, no son también culturales?

La exclusión generalizada de las oportunidades de participar en la sociedad tiene un enorme coste social, ético y político. ¿Cuánta gente se da cuenta de que la forma en que nos relacionamos y nos comportamos entre nosotros también tiene un coste cuantificable en dólares? La exclusión, o incluso la mera percepción de exclusión, puede hacer que determinados grupos se excluyan de mercados, servicios y espacios.

Se calcula que las naciones pierden hasta un 7% de su Producto Interior Bruto (PIB) debido a la exclusión de las personas con discapacidad.

A escala mundial, la pérdida de riqueza en capital humano debida sólo a la desigualdad de género se estima en 12 billones de dólares anuales.

Basándonos en estimaciones nacionales de EE.UU. y Australia, la cifra de exclusión étnica y racial es probablemente similar a la de discapacidad, pero hay una flagrante falta de datos disponibles, que es en sí misma una manifestación de este importante problema.

Fíjate en esta cifra total que representa el coste mundial de la exclusión: 24,65 billones de dólares al año, que ni siquiera tiene en cuenta muchas otras formas de discriminación por motivos de religión, sexualidad, edad, casta, clase, apariencia y más.

Debemos centrar la diversidad cultural, la equidad y la inclusión en nuestras conversaciones sobre las nuevas tecnologías si queremos evitar perpetuar el daño.

El auge de los medios sociales y los conflictos

Los medios sociales, que empezaron a tener un gran impacto hacia 2005, dieron a las personas infrarrepresentadas una voz mucho más significativa en la esfera pública. Piensa en la Primavera Árabe de 2011 y en cómo fue impulsada por las redes sociales.

Piensa también en los insultos, nombramientos y culpas que presenciamos en las redes sociales, que conducen a una mayor polarización y conflicto. Los gobiernos no abordaron adecuadamente estos aspectos destructivos de las redes sociales. Este gráfico que tienes ante ti muestra una sorprendente correlación entre el crecimiento del número de personas que utilizan los medios sociales y los conflictos externos.

El declive de la paz mundial

Aquí, en el mismo marco temporal, vemos el declive constante de la paz mundial.

¿Es casualidad?

Al igual que las redes sociales, la IA promete multitud de beneficios sociales. Pero la IA sólo es tan buena como sus desarrolladores y usuarios y las políticas establecidas para guiarla.

Si somos colectivamente descuidados con la IA, su auge podría ir acompañado del correspondiente aumento de la exclusión, la pobreza, los resultados sanitarios desiguales y los conflictos.

Un viaje en rápida aceleración

Los humanos somos inmensamente adaptables. Nuestra especie puede vivir en entornos más variables que cualquier otro animal (con la posible excepción de los tardígrados, también conocidos como «ositos de agua» o «cerditos de musgo»).

La realidad es que la Raza Humana ha emprendido un viaje fenomenal y rápidamente acelerado en los últimos 10.000 años.

De 100.000 a.C. a 10.000 a.C., la población humana mundial permaneció relativamente estable en torno a 1 millón (aunque algunas estimaciones llegan hasta los 15 millones).

Tardamos unos 10.000 años en llegar a 1.000 millones de personas en 1804.

Tuvieron que pasar otros 123 años para que la población humana se duplicara hasta alcanzar los 2.000 millones en 1927.

Llegamos a ser 3.000 millones en 1960.

4.000 millones en 1974.

5.000 millones en 1987.

En 2022 llegamos a ser 8.000 millones.

En menos de 100 años nos hemos cuadruplicado.

En 1989, el derribo del Muro de Berlín fue descrito por el politólogo Francis Fukuyama como el fin de la historia tal como la conocíamos. Derribar barreras. Ese mismo año Tim Berners-Lee nos regaló la World Wide Web. En tres décadas, el mundo ha experimentado una globalización económica masiva sin una globalización equivalente de los valores y la ética. Hoy, con la casi ubicuidad de Internet, nos encontramos en un mundo superdiverso en el que el tiempo y el espacio se han comprimido. Desde entonces, la paz no ha dejado de disminuir.

Más del 65% de la población mundial tiene acceso a Internet.

Meta (antes conocido como Facebook) se lanzó en 2004 (como The Facebook) y ahora tiene más de 3.000 millones de usuarios activos, casi el 56% de todos los usuarios de Internet.

El gran modelo lingüístico ChatGPT atrajo a un millón de usuarios en sólo 5 días tras hacerse público el 30 de noviembre de 2022. Ahora tiene más de 180 millones de usuarios.

Esto indica la velocidad y el cambio fenomenales que estamos experimentando.

La humanidad puede definirse por un flujo continuo de migraciones y conflictos. Mis abuelos fueron desterrados hace 101 años del Imperio Otomano, de la zona hoy conocida como Türkiye, y mis padres, abajo a la derecha, emigraron a Australia en los años 50 en busca de una vida mejor. ¿Quién de nosotros no puede definirse por un viaje?

La IA es una extensión lógica de la adaptabilidad y el intercambio humanos y de la búsqueda de velocidad y conocimiento. ¿Puede resolver los retos de la globalización: los malentendidos y las exclusiones interculturales que tanto nos están costando en términos de felicidad humana y en dólares? ¿O, sin control, exacerbará los conflictos y desigualdades actuales?

La capacidad de comprender y relacionarse con el otro es ahora más importante que nunca.

Atlas de la Diversidad y Base de Datos Global de la Humanidad

Utilizo el Atlas de la Diversidad para explicar un concepto que considero sumamente importante cuando se trata de desarrollar y utilizar nuevas tecnologías. El Atlas de la Diversidad se apoya en la Base de Datos Global de la Humanidad, que comprende más de 42.000 atributos humanos, incluidos todos los idiomas y dialectos conocidos, tradiciones seculares y no seculares, grupo étnico y país de nacimiento, sexo, edad, orientación sexual, sexo al nacer, nivel de posición, tipo de posición y muchas otras dimensiones, que pueden arrojar luz sobre la correlación entre experiencia e identidad como nunca antes.

Es importante destacar que el Atlas de la Diversidad evita las categorías raciales perezosas y anticuadas para permitir que la gente obtenga una visión clara de dónde se manifiestan las desigualdades en cualquier contexto dado, que puede o no seguir líneas étnicas, religiosas y/o de apariencia. En otras palabras, no agrupamos a las personas en categorías amplias y sin matices como «africano», «asiático», «blanco» o «negro».

Las categorías amplias de un tipo u otro fueron necesarias en su día para las personas con funciones de liderazgo, porque tenían que confiar en los humanos para contar grupos de personas y clasificarlos en categorías con significados asignados. Ahora que disponemos de máquinas para hacer este trabajo, no hay excusa para adoptar este burdo enfoque.

Las perspectivas detalladas del Atlas de la Diversidad ayudan a las organizaciones a identificar a las partes interesadas, dar forma a las estrategias de Diversidad, Igualdad e Inclusión (DEI) e informar sobre los objetivos empresariales aprovechando eficazmente las capacidades y los conocimientos de su personal. Arroja luz sobre la identidad organizativa respondiendo a la pregunta: ¿Quiénes somos? Nuestro trabajo se basa en la IA que trabaja en combinación con científicos de datos y expertos culturales para procesar las enormes cantidades de datos interseccionales que genera nuestra herramienta de análisis.

La IA puede ayudar a identificar patrones, pero no puede sustituir a los humanos, cuyo trabajo es comprender la información que necesita una organización concreta. Este trabajo requiere la experiencia de vivir como un ser humano en el mundo real y el tipo de intuición, compasión, creatividad y pensamiento crítico que se derivan de ello. Incluso Pi.AI me lo dijo.

La complejidad de la identidad humana

La identidad humana es compleja porque los seres humanos somos polifacéticos. Como con un cubo de Rubik, no es un resultado satisfactorio si «resolvemos» un aspecto de la identidad y dejamos el resto desordenado. Nuestros retos requieren un enfoque holístico. Tenemos que tener en cuenta todos los atributos, no sólo el género, la discapacidad o los atributos raciales, sino simultáneamente todos los marcadores de identidad relevantes, si queremos evitar el rechazo y las innumerables consecuencias imprevistas de hacer este trabajo de forma selectiva. El género, por ejemplo, es importante, pero no lo es más que otros atributos humanos a la hora de considerar a quién se deja de lado o se trata como inferior.

¿Qué son los datos?

Los datos por sí solos no tienen sentido. Hay que clasificarlos en categorías (conjuntos de datos) para poder identificar la información significativa.

La mayoría de las organizaciones que recopilan datos sobre la diversidad -y estoy pensando en todo, desde los censos gubernamentales hasta el DEI y los directivos de la C-suite- utilizan conjuntos de datos extremadamente selectivos que a menudo se basan en categorías obsoletas, la más obvia de las cuales es la «raza», que a menudo se pregona implícitamente como un hecho biológico.

El concepto de «raza » perdió credibilidad científica hace mucho tiempo. Cuando se discrimina a una persona racializada, hay detrás características identificables y mensurables, que pueden ser: etnia, casta, religión y/o apariencia, o incluso lengua.

Necesitamos datos holísticos para saber qué está pasando.

Los conjuntos de datos selectivos conducen a una información selectiva y a que la gente saque conclusiones incorrectas.

Necesitamos los datos más granulares posibles porque…

No sabemos lo que no sabemos

Cuando nos faltan muchos datos, nuestra mente se apresura a hacer suposiciones para llenar el vacío.

¿Qué suposiciones has hecho ya sobre las personas de esta sala? Te garantizo que si hiciéramos un Atlas de la Diversidad con este grupo, te asombrarías de la diversidad oculta.

No es prudente suponer nada por la apariencia de alguien. Los antiguos lo sabían cuando decían: «No se puede juzgar un libro por su cubierta».

Necesitamos meternos bajo las sábanas para hacer este trabajo.

Mirando bajo las sábanas en Meta

Miré a Meta bajo las sábanas.

Se trata de un artículo que publicaron titulado «A diverse, large benchmark for measuring fairness and robustness in audio/vision/speech models».

En este documento escriben: ‘Los siete grupos raciales utilizados son blancos, negros, indios, indios orientales, del sudeste asiático, de Oriente Medio y latinos, y el conjunto de datos está razonablemente equilibrado entre estos grupos. Sin embargo, la raza se considera una construcción social y su uso en ejercicios de categorización puede ser problemático’.

¡No digas más!

Necesitamos datos matizados que vayan más allá de la apariencia y de los estados nación y de las amplias fronteras geográficas para definir la propia cultura y considerar otros ámbitos de la identidad.

¿Qué tendría en común alguien de origen kurdo de Türkiye con un cantonés del sur de China? Mucho, pero también hay grandes diferencias. ¿Cómo puede la IA tener en cuenta estos matices?

Si se nos clasifica en grandes grupos, la IA persistirá en tomar decisiones bajo el supuesto de que todos los integrantes de estos grupos ocupan el mismo punto de vista social y cultural.

Lo esencial es invisible a los ojos

Se ha calculado que la masa de toda la información almacenada en Internet equivale a una manzana pequeña.

En 2007, se equiparó a la masa de una fresa.

He estado hablando del valor de los datos, pero esto demuestra lo relativamente «poco masivos» que son todos nuestros datos.

Lo esencial es invisible a los ojos y hasta ahora no puede medirse en 1s y 0s. Me interesan los espacios entre los puntos de datos, porque ahí es donde ocurre todo.

¿Cómo nos aseguramos de que la IA nos ayude en un camino saludable hacia una mayor comprensión, compasión y alegría, y no hacia más conflicto, polarización y miseria?

La confluencia es la savia de la cultura y la IA es una poderosa expresión de confluencia.

Si el desarrollo de la IA está en manos de unos pocos poderosos que pueden atraer la financiación necesaria, ES PROBABLE que veamos un estancamiento en partes del campo de la IA. Esto podría manifestarse como un aumento del conflicto y la polarización, acompañado de una sensación colectiva de desesperanza, inercia y un sentimiento de que la historia se repite.

La alternativa es aprender de nuestro pasado.

La diversidad en la era de la IA: el futuro está en el pasado

«Diversificados crecemos» es un eslogan que acuñé para una campaña de las Naciones Unidas en 2013. Cuando acuñé la frase no pensaba sólo en la cohesión social, sino en el valor que conlleva la diversidad y en cómo ha sido un motor de innovación a lo largo de los siglos que puede resolver retos.

Aunque acojo la IA como otra forma de diversidad, me preocupa que perjudique a las personas de entornos culturales y sociales infrarrepresentados mediante la eliminación o la ignorancia y que dañe sus culturas.

La diversidad cultural es el mayor activo de la humanidad, tan importante para sostener a la humanidad como la biodiversidad lo es para sostener el medio ambiente. Ninguna cultura tiene más valor inherente que otra, y esto es irrefutable a menos que tengas opiniones supremacistas de algún tipo. En cada cultura específica se codifican vastos acervos de conocimiento humano. Debemos valorar estas diversas expresiones de la humanidad.

Si la IA es nuestro futuro colectivo, entonces necesitamos más plataformas de IA, hechas por más personas de más orígenes, que reflejen la diversidad de nuestro mundo.

¿Cómo nos beneficiamos conscientemente de la IA?

La IA está creando avances rápidamente, como en el campo de la medicina con AlphaFold, desarrollado por DeepMind de Google, que ahora utilizan casi todas las industrias farmacéuticas.

En términos de DEI, la IA ha mejorado la accesibilidad de las personas con discapacidad mediante el reconocimiento de voz, la conversión de texto a voz y el reconocimiento visual. La IA también es útil para salvar las diferencias de comunicación entre hablantes de distintas lenguas. ChatGPT 4, por ejemplo, puede comunicarse en más de 50 idiomas. Gracias a la IA, se están derrumbando barreras que antes impedían a los empresarios utilizar las habilidades de alguien.

A menudo utilizo los nuevos chatbots para ayudarme a comunicar mis ideas. Son como nuevos miembros del personal. Cada uno de los modelos lingüísticos, ChatGPT, Claude, Géminis y Pi, por ejemplo, tiene puntos fuertes, puntos débiles y capacidades diferentes, porque cada uno de ellos ha sido moldeado por entradas de datos diferentes: como las personas reales, pero mucho mejor leídas, más rápidas y, permíteme añadir, ligeramente propensas a alucinar. Los chatbots de IA pueden ayudar, pero no sustituir a los humanos reales, porque la IA no puede reproducir la profundidad emocional, las experiencias personales y las perspectivas únicas que los humanos aportan a su trabajo.

Hoy en día, ninguna empresa puede permitirse pensar que la IA compensará una mano de obra representativamente diversa o que la IA está de algún modo libre de prejuicios y borrones. Todos los grandes desarrolladores de IA de la Anglosfera han sido criticados por parcialidad, a veces desde dentro de sus propias organizaciones. Aunque la iteración más reciente de ChatGPT tiene capacidad para comunicarse en 50 lenguas, sigue excluyendo miles de otras lenguas que representan sistemas basados en valores de todo el mundo. No es un sistema holístico.

Las startups de IA fundadas por mujeres reciben actualmente sólo el 2% de los acuerdos de financiación en el Reino Unido y EE.UU. Ada Lovelace fue posiblemente la primera programadora informática de la historia. ¿Es este campo menos equitativo para las mujeres que hace casi 200 años? ¿Quién más se está perdiendo los acuerdos de financiación? Su ausencia como desarrolladores priva al campo de la IA de una diversidad muy necesaria y me crea muchas dudas.

Nunca ha habido un momento más importante para defender una auténtica representación en la industria tecnológica. Una asignación equitativa de la financiación conduciría a un futuro más vibrante, menos sesgado y más humano para la IA.

Si tenemos diversidad en la tecnología, tendremos una tecnología sana.

Mi última palabra es un llamamiento a trabajar juntos, actuar con cautela y reconocer la importancia de que todas las voces avancen con la IA.

El contenido de este artículo se basa en la ponencia «Diversificados crecemos: Desbloquear la diversidad en la era de la IA», pronunciada en Big Data & AI World, Londres, marzo de 2024.