L’intelligence artificielle peut apporter une valeur ajoutée considérable aux organisations et aux communautés qu’elles servent. Débloquer la diversité à l’ère de l’IA est une nouvelle frontière.

Je suis connu sous le nom de Peter, mais mon vrai nom, Panagiotis, est celui qui figure sur mon certificat de naissance et mon passeport. Pourquoi cette différence ? En effet, lorsque nous avons grandi dans les années 70 en Australie, beaucoup d’entre nous ont anglicisé leur nom, non seulement parce qu’ils voulaient être acceptés, mais aussi parce qu’ils craignaient que leur nom soit utilisé contre eux.

Je peux dire que le travail que je fais aujourd’hui, je le prépare depuis mon enfance ; j’ai appris à naviguer dans les complexités sociales de l’Australie, qui, comme le Royaume-Uni, est l’une des nations les plus culturellement diversifiées de la planète. Les questions qui motivent mon travail sont les suivantes : Comment faire en sorte que tous ceux qui veulent être inclus le soient et que personne ne soit laissé pour compte ? Comment donner de la visibilité à tous ?

En 2002, j’ai fondé Cultural Infusion en réponse à l’impact de la mondialisation sur la société, afin d’encourager la compréhension de ce que l’on appelle « l’autre » et de réduire la discrimination.

Près de vingt ans plus tard, en 2019, j’ai lancé le premier outil holistique de connaissance des données culturelles, Diversity Atlas, qui a été adopté par des organisations dont la taille varie de 50 employés à des mastodontes tels qu’Amazon Web Services (AWS). L’Atlas de la diversité est l’aboutissement du travail et de la réflexion que j’ai menés sur l’identité, la culture et la paix dans un cadre professionnel depuis 1988.

La mondialisation a fait de la compréhension de « l’autre » un défi plus qu’humain. Nous avons besoin de l’aide de la technologie. L’écrivain Richard Powers l’a formulé ainsi : « La vie [today] est tout simplement trop complexe et interdépendante pour que nous puissions l’appréhender sans l’aide de nos prothèses mécaniques ».

Nous n’en sommes qu’aux premiers stades de la compréhension de l’IA et de la manière d’en tirer le meilleur parti. Les choses évoluent tellement vite que nous n’avons pas souvent le temps de nous pencher sur les aspects de l’IA susceptibles d’avoir des conséquences considérables.

Le coût des conflits

La culture est une force puissante, un feu qui réchauffe et protège, mais qui peut aussi brûler et détruire. L’UNESCO identifie la culture comme étant

1. un moteur du développement durable ;
   
2. l’éradication de la pauvreté ;
   
3. La clé d’une éducation de qualité, et ;
   
4. La construction de communautés pacifiques et cohésives sur le plan social est essentielle.

La culture est également un facteur important d’innovation. Après tout, l’innovation se nourrit de la diversification des idées. Quel meilleur moyen d’encourager l’innovation que de réunir les perspectives diverses de différentes cultures ?

Qu’est-ce que la culture ?

Le terme est extrêmement flou et sa définition dépend du contexte et du type de culture auxquels on se réfère.

En termes simples, la culture est le mode de vie d’un groupe particulier de personnes. La culture comprend les connaissances, les valeurs, les coutumes, les objets physiques et les normes sociales partagés.

Elle fournit les cadres, les contextes, les lentilles à travers lesquels nous voyons tous le monde.

Je tiens à souligner le rôle important de la culture dans toutes les questions qui touchent l’humanité, en particulier le développement et l’adoption de toute nouvelle technologie.

Quels sont les enjeux ? Selon le Global Peace Index, en 2022 seulement, nous avons dépensé 17,5 billions de dollars pour gérer les conflits. Selon l’UNESCO, environ 75 % des conflits dans le monde ont une dimension culturelle ethnolinguistique et religieuse. En 2022, cela représentait un montant stupéfiant de 13,1 billions de dollars américains. Ce chiffre est sans aucun doute en augmentation.

Le coût le plus élevé est celui des vies, des moyens de subsistance et du bonheur humain.

Puisque les conflits fondés sur la culture sont si fréquents, pourquoi ne plaçons-nous pas la culture au cœur de tout développement technologique ?

Le coût global de l’exclusion

Qu’en est-il des autres domaines de la culture et de la diversité humaine, comme la façon dont nous percevons le genre et le handicap – n’est-ce pas également culturel ?

L’exclusion généralisée des possibilités de participation à la société a un coût social, éthique et politique énorme. Combien de personnes réalisent que la manière dont nous nous comportons les uns envers les autres a également un coût monétaire mesurable ? L’exclusion, ou même simplement la perception de l’exclusion, peut amener certains groupes à se retirer des marchés, des services et des espaces.

On estime que les nations perdent jusqu’à 7 % de leur produit intérieur brut (PIB) en raison de l’exclusion des personnes handicapées.

Au niveau mondial, la perte de richesse en capital humain due à la seule inégalité entre les sexes est estimée à 12 000 milliards de dollars par an.

Sur la base des estimations nationales des États-Unis et de l’Australie, le chiffre de l’exclusion ethnique et raciale est probablement similaire à celui du handicap, mais il y a un manque flagrant de données disponibles, ce qui est en soi une manifestation de ce problème important.

Regardez ce chiffre total représentant le coût global de l’exclusion – 24,65 billions de dollars par an, sans compter les nombreuses autres formes de discrimination fondées sur la religion, la sexualité, l’âge, la caste, la classe, l’apparence et bien d’autres encore.

Nous devons intégrer la diversité culturelle, l’équité et l’inclusion dans nos discussions sur les nouvelles technologies si nous voulons éviter de perpétuer les préjudices.

L’essor des médias sociaux et des conflits

Les médias sociaux, qui ont commencé à avoir un impact important aux alentours de 2005, ont permis aux personnes sous-représentées de s’exprimer de manière beaucoup plus significative dans la sphère publique. Pensez au printemps arabe en 2011 et à la façon dont il a été alimenté par les médias sociaux.

Pensez également à la honte, à la dénonciation et à la culpabilisation dont nous sommes témoins sur les médias sociaux, qui conduisent à une polarisation et à un conflit accrus. Les gouvernements n’ont pas réussi à s’attaquer de manière adéquate à ces aspects destructeurs des médias sociaux. Le graphique que vous avez sous les yeux montre une corrélation frappante entre l’augmentation du nombre de personnes utilisant les médias sociaux et les conflits extérieurs.

Le déclin de la paix mondiale

Ici, dans le même laps de temps, nous constatons le déclin constant de la paix dans le monde.

Est-ce une coïncidence ?

Comme les médias sociaux, l’IA promet une multitude d’avantages sociaux. Mais l’IA ne vaut que ce que valent ses développeurs et ses utilisateurs, ainsi que les politiques mises en place pour la guider.

Si nous sommes collectivement négligents avec l’IA, son essor pourrait s’accompagner d’une augmentation correspondante de l’exclusion, de la pauvreté, de l’inégalité des résultats en matière de santé et des conflits.

Un voyage qui s’accélère

L’être humain est doté d’une immense capacité d’adaptation. Notre espèce peut vivre dans des environnements plus variables que tout autre animal (à l’exception peut-être des tardigrades, également connus sous le nom de « petits oursons d’eau » ou « porcelets de mousse »).

La réalité, c’est que l’espèce humaine a entrepris un voyage phénoménal, en accélération rapide, au cours des 10 000 dernières années.

Entre 100 000 et 10 000 ans avant Jésus-Christ, la population humaine mondiale est restée relativement stable, à environ 1 million d’individus (même si certaines estimations vont jusqu’à 15 millions).

Il nous a fallu environ 10 000 ans pour atteindre le milliard d’habitants en 1804.

Il a fallu 123 ans de plus pour que la population humaine double et atteigne 2 milliards en 1927.

Nous sommes devenus 3 milliards en 1960.

En 1974, les dépenses de l’UE s’élevaient à 4 milliards d’euros.

En 1987, les dépenses de l’UE s’élevaient à 5 milliards d’euros.

En 2022, nous serons 8 milliards.

En moins de 100 ans, nous avons quadruplé.

En 1989, la chute du mur de Berlin a été décrite par le politologue Francis Fukuyama comme la fin de l’histoire telle que nous la connaissions. L’élimination des barrières. Cette même année, Tim Berners-Lee nous a offert le World Wide Web. En l’espace de trois décennies, le monde a connu une mondialisation économique massive sans que les valeurs et l’éthique ne soient pour autant mondialisées. Aujourd’hui, avec la quasi-omniprésence de l’internet, nous nous trouvons dans un monde très diversifié où le temps et l’espace ont été comprimés. Depuis, la paix n’a cessé de décliner.

Plus de 65 % de la population mondiale a accès à l’internet.

Meta (anciennement connu sous le nom de Facebook) a été lancé en 2004 (sous le nom de The Facebook) et compte aujourd’hui plus de 3 milliards d’utilisateurs actifs, soit près de 56 % de l’ensemble des utilisateurs de l’internet.

Le grand modèle linguistique ChatGPT a attiré un million d’utilisateurs en cinq jours seulement après son introduction en bourse le 30 novembre 2022. Il compte aujourd’hui plus de 180 millions d’utilisateurs.

Cela témoigne de la vitesse phénoménale et du changement que nous connaissons.

L’humanité peut être définie par un flux continu de migrations et de conflits. Mes grands-parents ont été bannis il y a 101 ans de l’Empire ottoman, de la région connue aujourd’hui sous le nom de Türkiye, et mes parents, en bas à droite, ont émigré en Australie dans les années 50 pour y trouver une vie meilleure. Qui d’entre nous ne peut pas être défini par un voyage ?

L’IA est une extension logique de la capacité d’adaptation et de partage de l’homme et de sa quête de rapidité et de connaissance. Peut-elle résoudre les défis de la mondialisation : les malentendus interculturels et les exclusions qui nous coûtent si cher en termes de bonheur humain et d’argent ? Ou bien, sans contrôle, va-t-elle exacerber les conflits et les inégalités actuels ?

La capacité à comprendre l’autre et à entrer en relation avec lui est aujourd’hui plus importante que jamais.

Atlas de la diversité et base de données mondiale de l’humanité

J’utilise l’Atlas de la diversité pour expliquer un concept qui me semble extrêmement important lorsqu’il s’agit de développer et d’utiliser de nouvelles technologies. L’Atlas de la diversité s’appuie sur la base de données mondiale de l’humanité, qui comprend plus de 42 000 attributs humains, dont toutes les langues et dialectes connus, les traditions séculaires et non séculaires, le groupe ethnique et le pays de naissance, le genre, l’âge, l’orientation sexuelle, le sexe à la naissance, le niveau de poste, le type de poste et bien d’autres dimensions, qui peuvent mettre en lumière la corrélation entre l’expérience et l’identité comme jamais auparavant.

Il est important de noter que l’atlas de la diversité évite les catégories raciales paresseuses et dépassées pour permettre aux gens d’avoir une vision claire des inégalités dans un contexte donné – qui peut ou non être basé sur des critères ethniques, religieux et/ou d’apparence. En d’autres termes, nous ne regroupons pas les gens dans des catégories larges et peu nuancées telles que « Africain », « Asiatique », « Blanc » ou « Noir ».

Les grandes catégories, d’un type ou d’un autre, étaient autrefois nécessaires pour les personnes exerçant des fonctions de direction, car elles devaient compter sur les humains pour dénombrer les groupes de personnes et les classer dans des catégories ayant une signification précise. Maintenant que nous disposons de machines pour effectuer ce travail, il n’y a plus d’excuse pour adopter cette approche grossière.

Les informations détaillées fournies par l’Atlas de la diversité aident les organisations à identifier les parties prenantes, à élaborer des stratégies en matière de diversité, d’équité et d’inclusion (DEI) et à définir des objectifs commerciaux en exploitant efficacement les compétences et les connaissances de leur personnel. Il met en lumière l’identité de l’organisation en répondant à la question « Qui sommes-nous ? Notre travail s’appuie sur l’IA en combinaison avec des scientifiques des données et des experts culturels pour traiter les vastes quantités de données intersectionnelles que notre outil d’analyse génère.

L’IA peut aider à identifier des modèles, mais elle ne peut pas remplacer les humains dont le travail consiste à comprendre les informations dont une organisation donnée a besoin. Ce travail nécessite l’expérience d’une vie humaine dans le monde réel et le type d’intuition, de compassion, de créativité et de pensée critique qui en découle. Même Pi.AI me l’a dit.

La complexité de l’identité humaine

L’identité humaine est complexe parce que l’homme a de multiples facettes. Comme dans le cas d’un Rubik’s cube, nous ne parviendrons pas à résoudre un aspect de l’identité en laissant le reste dans le désordre. Nos défis requièrent une approche globale. Nous devons prendre en compte tous les attributs, non seulement le sexe, le handicap ou les attributs raciaux, mais aussi tous les marqueurs d’identité pertinents, si nous voulons éviter les réactions négatives et les innombrables conséquences involontaires d’un travail sélectif. Le sexe, par exemple, est important, mais il n’est pas plus important que d’autres attributs humains lorsqu’il s’agit de savoir qui est mis à l’écart ou traité comme un moins que rien.

Qu’est-ce que les données ?

Les données en elles-mêmes n’ont pas de sens. Elles doivent être classées en catégories (ensembles de données) pour nous permettre d’identifier des informations significatives.

La plupart des organisations qui collectent des données sur la diversité – et je pense à tout ce qui va des recensements gouvernementaux à DEI et aux managers de la suite – utilisent des ensembles de données extrêmement sélectifs qui sont souvent basés sur des catégories dépassées, la plus évidente étant la « race », qui est souvent implicitement présentée comme un fait biologique.

Le concept de « race » a perdu sa crédibilité scientifique depuis longtemps. La discrimination à l’encontre d’une personne racialisée s’appuie sur des caractéristiques identifiables et mesurables, qui peuvent être l’appartenance ethnique, la caste, la religion et/ou l’apparence, voire la langue.

Nous avons besoin de données globales pour comprendre ce qui se passe.

Des ensembles de données sélectifs conduisent à des informations sélectives et à des conclusions erronées.

Nous avons besoin des données les plus granulaires possibles car…

Nous ne savons pas ce que nous ne savons pas

Lorsqu’il nous manque beaucoup de données, notre esprit n’hésite pas à émettre des hypothèses pour combler les lacunes.

Quelles hypothèses avez-vous déjà formulées sur les personnes présentes dans cette salle ? Je vous garantis que si nous réalisions l’Atlas de la diversité avec ce groupe, vous seriez étonné par la diversité cachée.

Il est imprudent de présumer quoi que ce soit à partir de l’apparence d’une personne. Les anciens le savaient lorsqu’ils disaient : « On ne juge pas un livre à sa couverture ».

Nous devons nous mettre à l’abri pour faire ce travail.

Regarder sous la couverture de Meta

J’ai regardé Meta sous les couvertures.

Il s’agit d’un article qu’ils ont publié et qui s’intitule « A diverse, large benchmark for measuring fairness and robustness in audio/vision/speech models » (Une référence large et diversifiée pour mesurer l’équité et la robustesse dans les modèles audio/vision/parole).

Dans ce document, ils écrivent : « Les sept groupes raciaux utilisés sont les Blancs, les Noirs, les Indiens, les Indiens de l’Est, les Asiatiques du Sud-Est, les Moyen-Orientaux et les Latinos, et l’ensemble des données est raisonnablement équilibré entre ces groupes. Cependant, la race est considérée comme une construction sociale et son utilisation dans les exercices de catégorisation peut être problématique.

N’en dites pas plus !

Nous avons besoin de données nuancées qui vont au-delà de l’apparence, des États-nations et des vastes frontières géographiques pour définir la culture d’une personne et prendre en compte d’autres domaines de l’identité.

Qu’est-ce qu’une personne d’origine kurde de Türkiye a en commun avec un Cantonais du sud de la Chine ? Beaucoup, mais aussi de grandes différences. Comment l’IA peut-elle tenir compte de ces nuances ?

Si nous sommes catégorisés en grands groupes, l’IA persistera à prendre des décisions en supposant que tous les membres de ces groupes occupent le même point de vue social et culturel.

L’essentiel est invisible à l’œil nu

La masse de toutes les informations stockées sur l’internet a été calculée comme équivalente à une petite pomme.

En 2007, elle a été assimilée à la masse d’une fraise.

J’ai parlé de la valeur des données, mais cet exemple montre à quel point toutes nos données sont peu massives.

L’essentiel est invisible à l’œil et, jusqu’à présent, ne se mesure pas en 1 et en 0. Je m’intéresse aux espaces entre les points de données, car c’est là que tout se passe.

Comment faire en sorte que l’IA nous aide à progresser sur la voie d’une compréhension, d’une compassion et d’une joie accrues, et non d’une aggravation des conflits, de la polarisation et de la misère ?

La confluence est l’élément vital de la culture et l’IA est une puissante expression de la confluence.

Si le développement de l’IA est sous l’emprise d’un petit nombre de puissants qui peuvent attirer les fonds nécessaires, il est probable que nous assisterons à une stagnation de certaines parties du domaine de l’IA. Cela pourrait se manifester par une aggravation des conflits et de la polarisation, accompagnée d’un sentiment collectif de désespoir, d’inertie et d’une impression que l’histoire se répète.

L’alternative consiste à tirer les leçons de notre passé.

La diversité à l’ère de l’IA : l’avenir est dans le passé

« Diversified we grow » est un slogan que j’ai inventé pour une campagne des Nations unies en 2013. Lorsque j’ai inventé cette expression, je ne pensais pas seulement à la cohésion sociale, mais plutôt à la valeur qui découle de la diversité et à la manière dont elle a été un moteur d’innovation au cours des siècles, permettant de résoudre des problèmes.

Tout en considérant l’IA comme une autre forme de diversité, je crains qu’elle ne porte préjudice aux personnes issues de milieux culturels et sociaux sous-représentés, en les effaçant ou en les ignorant, et qu’elle ne nuise à leurs cultures.

La diversité culturelle est la plus grande richesse de l’humanité, aussi importante pour le maintien de l’humanité que la biodiversité pour le maintien de l’environnement. Aucune culture n’a plus de valeur inhérente qu’une autre, et cela est irréfutable, à moins que vous n’ayez des opinions suprématistes. De vastes pans du savoir humain sont encodés dans chaque culture spécifique. Nous devons chérir ces diverses expressions de l’humanité.

Si l’IA est notre avenir collectif, nous avons besoin d’un plus grand nombre de plateformes d’IA, créées par un plus grand nombre de personnes issues d’horizons plus divers, reflétant la diversité de notre monde.

Comment tirer parti de l’IA en toute connaissance de cause ?

L’IA permet de réaliser rapidement des percées, comme dans le domaine médical avec AlphaFold, développé par DeepMind de Google, que presque toutes les industries pharmaceutiques utilisent aujourd’hui.

En termes d’IED, l’IA a amélioré l’accessibilité pour les personnes handicapées grâce à la reconnaissance vocale, à la synthèse vocale et à la reconnaissance visuelle. L’IA est également utile pour combler les lacunes en matière de communication entre des locuteurs de langues différentes. ChatGPT 4, par exemple, peut communiquer dans plus de 50 langues. Grâce à l’IA, les barrières qui empêchaient autrefois les employeurs d’utiliser les compétences d’une personne tombent.

J’utilise souvent les nouveaux chatbots pour m’aider à communiquer mes idées. Ils sont comme de nouveaux membres du personnel. Chacun des modèles linguistiques, ChatGPT, Claude, Gemini et Pi, par exemple, présente des forces, des faiblesses et des capacités différentes, parce qu’ils ont été façonnés par des données différentes – comme de vraies personnes, mais beaucoup mieux lues, plus rapides et, si je puis me permettre, légèrement sujettes aux hallucinations. Les chatbots d’IA peuvent aider mais ne peuvent pas remplacer les vrais humains car l’IA ne peut pas reproduire la profondeur émotionnelle, les expériences personnelles et les perspectives uniques que les humains apportent à leur travail.

Aucune entreprise ne peut aujourd’hui se permettre de penser que l’IA compensera la diversité représentative de la main-d’œuvre ou que l’IA est, d’une manière ou d’une autre, exempte de préjugés et d’erreurs. Tous les grands développeurs d’IA de l’anglosphère ont été critiqués pour leur partialité, parfois au sein même de leur organisation. Même si la version la plus récente de ChatGPT permet de communiquer en 50 langues, elle exclut encore des milliers d’autres langues représentant des systèmes fondés sur la valeur à travers le monde. Il ne s’agit pas d’un système holistique.

Les startups d’IA fondées par des femmes ne reçoivent actuellement que 2 % des financements au Royaume-Uni et aux États-Unis. Ada Lovelace est sans doute le premier programmeur informatique de l’histoire. Ce domaine est-il moins équitable pour les femmes qu’il ne l’était il y a près de 200 ans ? Qui d’autre passe à côté d’opérations de financement ? Leur absence en tant que développeurs prive le domaine de l’IA de la diversité dont il a tant besoin et suscite de nombreuses questions dans mon esprit.

Il n’y a jamais eu de moment plus important pour plaider en faveur d’une véritable représentation dans l’industrie technologique. Une répartition équitable des fonds permettrait à l’IA d’avoir un avenir plus dynamique, moins biaisé et plus humain.

Si la diversité est présente dans la technologie, la technologie est saine.

Mon dernier mot est un appel à travailler ensemble, à faire preuve de prudence et à reconnaître l’importance de chaque voix pour faire avancer l’IA.

Le contenu de ce billet est basé sur la conférence « Diversified We Grow : Débloquer la diversité à l’ère de l’IA », prononcée lors de Big Data & AI World, Londres, mars 2024.