La première solution d'IA pour réduire les biais et offrir un langage adapté aux enfants dans la région DACH

Réduction des biais : un pas vers l’équité

Les fondateurs Dima Rubanov et Matthias Neumayer ont reconnu les limites des modèles d’IA existants, en particulier dans le domaine de l’éducation des enfants. « En travaillant avec des histoires pour enfants générées par l’IA, nous avons remarqué que les enfants de sexe masculin étaient souvent représentés comme des héros, tandis que les personnages féminins jouaient fréquemment des rôles de victimes, et le langage utilisé, même dans GPT-4, était difficilement adapté aux enfants », explique Rubanov. « Avec LORA, nous travaillons sur une adaptation de l’IA adaptée aux enfants avec des biais réduits. »

LORA s’appuie sur le réglage fin des modèles open source de Mistral. En utilisant des ensembles de données de haute qualité spécialement sélectionnés, créés en collaboration avec des éducateurs, LORA obtient de meilleurs résultats que GPT-4 ou Gemini. L’objectif est de fournir aux enfants une perspective plus juste du monde et d’optimiser la représentation des rôles de genre dans le contenu généré par l’IA.

Soutenu par des institutions renommées

LORA est développé en collaboration avec l’Académie de pédagogie sociale de Munich et TRUSTIFAI. Le projet est financé, entre autres, par le ministère fédéral de la Numérisation et de l’Économie (BMDW) et Austria Wirtschaftsservice (AWS).

Innovation technique

L’IA expérimentale Lorastral-7B est basée sur le puissant modèle open source de Mistral et a été optimisée à des fins éducatives avec la contribution d’éducateurs. Une caractéristique unique est le langage adapté à l’âge qui adapte de manière optimale le contenu pour différents groupes d’âge (6-8 et 8-10 ans).

Tests de référence : leader en lisibilité

LORA obtient des résultats exceptionnels en expliquant les termes allemands aux enfants. Comparé à d’autres modèles, LORA offre une lisibilité nettement améliorée pour les enfants. De plus, notre modèle différencie de manière unique les différents niveaux scolaires.

Analyse des biais : langage neutre en matière de genre

LORA montre une amélioration significative par rapport aux autres modèles dans l’utilisation d’un langage neutre en matière de genre dans les premiers tests de référence.

Projets futurs : API pour les plateformes éducatives

À long terme, l’entreprise prévoit de rendre l’API sous-jacente accessible à d’autres fournisseurs du secteur du divertissement pour enfants afin de favoriser le développement d’applications innovantes et éducatives pour les enfants. LORA est actuellement en phase alpha et recherche des partenaires pour l’intégration dans les plateformes éducatives.

Pour plus d’informations, visitez : oscarstories.com/lora