La primera solución de IA para reducir sesgos y lenguaje amigable para niños en la región DACH

Reducción de Sesgos: Un Paso Hacia la Imparcialidad

Los fundadores Dima Rubanov y Matthias Neumayer reconocieron las limitaciones de los modelos de IA existentes, particularmente en el campo de la educación infantil. "Mientras trabajábamos con historias infantiles generadas por IA, notamos que los niños varones a menudo eran retratados como héroes, mientras que los personajes femeninos con frecuencia asumían roles de víctimas, y el lenguaje utilizado, incluso en GPT-4, difícilmente era apropiado para niños", explica Rubanov. "Con LORA, estamos trabajando en una adaptación de IA amigable para niños con sesgos reducidos."

LORA se basa en el ajuste fino de modelos de código abierto de Mistral. Al utilizar conjuntos de datos especialmente seleccionados y de alta calidad creados en colaboración con educadores, LORA logra mejores resultados que GPT-4 o Gemini. El objetivo es brindar a los niños una perspectiva más justa del mundo y optimizar la representación de los roles de género en el contenido generado por IA.

Apoyado por Instituciones de Renombre

LORA se está desarrollando en colaboración con la Academia de Pedagogía Social de Múnich y TRUSTIFAI. El proyecto está financiado, entre otros, por el Ministerio Federal de Digitalización y Ubicación Empresarial (BMDW) y Austria Wirtschaftsservice (AWS).

Innovación Técnica

La IA experimental Lorastral-7B se basa en el potente modelo de código abierto de Mistral y se ha optimizado para fines educativos con contribuciones de educadores. Una característica única es el lenguaje apropiado para la edad que adapta de manera óptima el contenido para diferentes grupos de edad (6-8 y 8-10 años).

Pruebas de Referencia: Líder en Legibilidad

LORA logra resultados sobresalientes al explicar términos alemanes para niños. En comparación con otros modelos, LORA ofrece una legibilidad significativamente mejorada para niños. Además, nuestro modelo diferencia de forma única entre varios niveles escolares.

Análisis de Sesgos: Lenguaje Neutral en Género

LORA muestra una mejora significativa sobre otros modelos en el uso de lenguaje neutral en cuanto al género en los puntos de referencia iniciales.

Planes Futuros: API para Plataformas Educativas

A largo plazo, la compañía planea hacer que la API subyacente sea accesible a otros proveedores en el sector del entretenimiento infantil para fomentar el desarrollo de aplicaciones educativas e innovadoras adicionales para niños. LORA se encuentra actualmente en la fase alfa y está buscando socios para la integración en plataformas educativas.

Para obtener más información, visite: oscarstories.com/lora