Les modèles linguistiques à grande échelle actuels présentent des lacunes dans la gestion des différences culturelles, en particulier de mauvaises performances dans la gestion des questions d'origine culturelle non occidentale, ce qui a suscité l'inquiétude de nombreux fondateurs noirs. Ils ont réalisé que le biais eurocentrique de l’algorithme entraînait un manque de compréhension du modèle d’IA des cultures minoritaires, ce qui rendait les résultats difficiles à rapprocher de la réalité.
Les fondateurs noirs ont remarqué que les modèles linguistiques traditionnels à grande échelle tels que ChatGPT présentaient des lacunes évidentes dans la gestion des différences culturelles. Lorsque ces modèles répondent à des questions qui n’ont rien à voir avec les origines culturelles occidentales, leurs réponses sont souvent trop générales et manquent de compréhension des Afro-Américains et de leurs traditions culturelles uniques.
Pour résoudre ce problème, au cours de l’année écoulée, de nombreux fondateurs noirs ont lancé des alternatives ChatGPT ciblant les communautés de couleur. Latimer.AI de John Pasmore est spécialement conçu pour les Afro-Américains ; ChatBlackGPT d'Erin Reddick lancera un produit similaire en juin ; la société canadienne Spark Plug's AI se concentre sur la fourniture d'un soutien en anglais natif aux étudiants noirs.
Ces fondateurs ont déclaré que les grandes entreprises d’IA ignorent les cultures minoritaires lorsqu’elles construisent des modèles, ce qui aboutit à des algorithmes avec un biais eurocentrique évident. Afin de résoudre ce problème, ils ont collecté et formé une grande quantité de matériel culturel autochtone afin de garantir que le produit soit plus proche de l'expérience réelle de la communauté noire.
En plus des modèles linguistiques, des sociétés de matériaux bien connues telles que pocstock travaillent également dur pour fournir des données de formation plus diversifiées afin d'éviter les images trop « racialement homogènes » générées par l'IA. Certains entrepreneurs africains s'efforcent également d'intégrer les plus de 2 000 langues et dialectes de la région dans de grands modèles d'IA afin de garantir que la culture africaine soit pleinement comprise.
Ces innovations contribuent à atténuer les lacunes culturelles de longue date des modèles d’IA traditionnels. Certains analystes estiment que l’IA inclusive pourrait devenir un marché de plusieurs milliards de dollars à l’avenir, et ils espèrent que davantage d’entrepreneurs de couleur contribueront à ce domaine.
L’émergence de ces produits ciblés comble non seulement le fossé culturel des modèles d’IA traditionnels, mais offre également aux communautés de couleur un soutien technique plus proche de leurs propres besoins culturels. L'essor de l'IA diversifiée indique que le développement futur de l'IA sera plus inclusif et équitable, et apportera également de nouvelles opportunités de développement à l'industrie de l'IA.