The first AI solution for reduced bias and child-friendly language in the DACH region

Redução de Viés: Um Passo Rumo à Imparcialidade

Os fundadores Dima Rubanov e Matthias Neumayer reconheceram as limitações dos modelos de IA existentes, particularmente no campo da educação infantil. "Enquanto trabalhávamos com histórias infantis geradas por IA, notamos que as crianças do sexo masculino eram frequentemente retratadas como heróis, enquanto os personagens femininos frequentemente assumiam papéis de vítimas, e a linguagem usada, mesmo no GPT-4, dificilmente era adequada para crianças", explica Rubanov. "Com o LORA, estamos trabalhando em uma adaptação de IA adequada para crianças com viés reduzido."

LORA baseia-se no ajuste fino de modelos de código aberto da Mistral. Utilizando conjuntos de dados especialmente selecionados e de alta qualidade, criados em colaboração com educadores, o LORA alcança melhores resultados do que o GPT-4 ou o Gemini. O objetivo é fornecer às crianças uma perspectiva mais justa do mundo e otimizar a representação dos papéis de gênero no conteúdo gerado por IA.

Apoiado por Instituições Renomadas

O LORA está sendo desenvolvido em colaboração com a Academia de Pedagogia Social de Munique e a TRUSTIFAI. O projeto é financiado, entre outros, pelo Ministério Federal para Digitalização e Localização de Negócios (BMDW) e pela Austria Wirtschaftsservice (AWS).

Inovação Técnica

A IA experimental Lorastral-7B é baseada no poderoso modelo de código aberto da Mistral e foi otimizada para fins educacionais com contribuições de educadores. Uma característica única é a linguagem adequada à idade que adapta o conteúdo de forma ideal para diferentes faixas etárias (6-8 e 8-10 anos).

Testes de Benchmark: Liderando em Legibilidade

O LORA alcança resultados excepcionais na explicação de termos alemães para crianças. Comparado a outros modelos, o LORA oferece legibilidade significativamente melhorada para crianças. Além disso, nosso modelo diferencia de forma única entre vários níveis escolares.

Análise de Viés: Linguagem Neutra em Relação ao Gênero

O LORA mostra uma melhoria significativa em relação a outros modelos no uso de linguagem neutra em termos de gênero nos benchmarks iniciais.

Planos Futuros: API para Plataformas Educacionais

A longo prazo, a empresa planeja tornar a API subjacente acessível a outros provedores no setor de entretenimento infantil para fomentar o desenvolvimento de aplicações inovadoras e educacionais para crianças. O LORA está atualmente na fase alfa e está buscando parceiros para integração em plataformas educacionais.

Para mais informações, visite: oscarstories.com/lora