“Os algoritmos são como tendenciosa como os seres humanos que concebidos ou encomendados-los com uma certa intenção. Deveríamos portanto desencadear um debate aberto sobre os objectivos dos sistemas de software com impacto social.”- Ralph Müller-Eiselt
algoritmos tendenciosas estão em toda parte, assim em um momento crítico na evolução do aprendizado de máquina e AI, por que não estamos falando sobre as questões sociais que isto levanta?
Em seu livro, Armas de destruição da matemática - Como Big Data aumenta a desigualdade e ameaça a democracia, Cathy O'Neil assinala que “os processos de big data codificar o passado”, mas eles não “inventar o futuro.” Como nos sentimos sobre máquinas influenciando nossas instituições humanas? Quem protege a qualidade de vida quando algoritmos são responsáveis? O'Neil argumenta que o toque humano é essencial para “incorporar melhores valores em nossos algoritmos.”
Ralph Müller-Eiselt é um especialista em política de educação e governança e lidera grupo de trabalho da Fundação Bertelsmann sobre os desafios e oportunidades de política em um mundo digitalizado. Em seu mais recente projecto “Ética de Algoritmos” (Ele é co-autor de A Revolução Educação Digital; Inglês Título – de Educação Revolução Digital), ele leva um olhar mais atento sobre as consequências da algorítmica tomada de decisões e inteligência artificial na sociedade e na educação. ele se junta A Pesquisa Global para a Educação para falar sobre AI, algoritmos e que todos nós devemos estar pensando em.
“Cabe a nós para determinar se AI na educação será um catalisador para o fortalecimento da equidade social - ou para enfraquecê-la.” — Ralph Müller-Eiselt
Ralph, como podemos garantir que os algoritmos são sempre concebido para alcançar um impacto positivo para as sociedades e educação, em vez de um perigo ou um risco?
Algoritmos são tão tendenciosa como os seres humanos que concebidos ou encomendados-los com uma certa intenção. Devemos, portanto, desencadear um debate aberto sobre os objectivos dos sistemas de software com impacto social. Cabe a nós, como sociedade, para decidir onde tais sistemas devem ser usados e para se certificar de que eles são projetados com os fins certos em mente. Em segundo lugar, devemos lembrar que mesmo os algoritmos projetados com boas intenções podem produzir maus resultados. Os maiores seus efeitos potenciais sobre a participação individual na sociedade são, o mais importante é uma avaliação de risco preventiva e - tomada de decisão, uma vez automatizado está em uso - uma avaliação abrangente para verificar os resultados pretendidos. Envolvendo terceiros neutros neste processo pode contribuir significativamente para construir a confiança na tomada de decisão baseada em software.
Como podemos avaliar se eles estão ou não realizar o que se destina?
prestação de contas transparente é fundamental quando se trata de aplicações e ferramentas baseadas em algoritmos que avaliam. Isso não significa que precisamos para tornar o código de algoritmos publicamente acessíveis. De fato, que não seria de todo ser útil para as pessoas mais afetadas para obter uma compreensão de como as decisões informou-algoritmo estão sendo feitos. Em vez, precisamos de mecanismos como declarações auto-explicativo de propósito para algoritmos que podem ser verificadas por uma avaliação através de peritos neutros, que são concedidos acesso à informação e dados relevantes. Estas avaliações devem ser concebidos como forma holística possível, a fim de verificar se os algoritmos são realmente servir os fins pretendidos e para revelar os seus riscos e oportunidades da vida real.
“Apesar de existirem vastas oportunidades para o conselho informou-algoritmo sobre escolhas curriculares orientada a competência e opções de trabalho, nós não podemos fechar os olhos diante dos perigos da segmentação de clientes fracos, discriminação padronizada e em grande escala de exclusão do mercado de trabalho.”- Ralph Müller-Eiselt
Como você vê algoritmos e AI adaptação aos sistemas educativos em evolução?
A era digital oferece uma série de potenciais mais-valias para a educação. Muitos deles são inerentemente dependente do uso de dados conectada - seja personalizar aprendizagem, superar as barreiras motivacionais através gamification, fornecendo orientação na selva de oportunidades, ou não menos, combinando competências individuais com exigências do mercado de trabalho. O uso de algoritmos e AI no sector da educação está ainda na sua fase inicial, com um monte de tentativa e erro para ser observado. Mas a tecnologia pode e vai muito certamente ajudar a desenvolver todas estas questões no futuro muito próximo. Uma vez que esta pode afetar a educação em algum escala, decisores políticos melhor não deve esperar que essas coisas aconteçam e reagir depois, mas moldar ativamente regulação agora para sustentar o bem público. Cabe a nós para determinar se AI na educação será um catalisador para o fortalecimento da equidade social - ou para enfraquecê-la.
Como podemos personalizar AI para se adaptar a cada sala de aula e as necessidades da criança?
Personalizar aprender para melhor desenvolver as capacidades individuais é uma das principais oportunidades de aprendizagem digitais. aplicações baseadas em algoritmo e AI pode democratizar o acesso à educação personalizada que, por razões relacionadas com os custos antes estava disponível apenas para um número limitado de pessoas. Mas há uma linha tênue entre a promessa e perigo de AI na educação. Embora existam grandes oportunidades para o conselho informou-algoritmo sobre escolhas curriculares orientada a competência e opções de trabalho, nós não podemos fechar os olhos diante dos perigos da segmentação de clientes fracos, discriminação padronizada e em grande escala de exclusão do mercado de trabalho.
Desde AI é feito por seres humanos, há risco de que algoritmos e AI não vai funcionar com precisão em um ambiente educacional devido a erro humano? Como será erros na AI impacto da experiência de aprendizagem?
Os algoritmos são tão bons quanto os humanos que os projetaram. Erro humano pode se traduzir em um algoritmo em muitos estágios: de recolher e seleccionar os dados sobre a programação do algoritmo para interpretar a sua produção. Por exemplo, se um algoritmo usa dados históricos, o qual é pressionado num determinado sentido, devido aos padrões discriminatórios do passado, o algoritmo vai aprender com esses padrões e, provavelmente, mesmo reforçar esta discriminação quando ele é usado em grande escala. Tais erros não intencionais precisam ser rigorosamente evitado e constantemente verificado para, uma vez que ampliaria as desigualdades sociais no sector da educação.
"Para decisores políticos, agora é hora de moldar de forma proativa neste campo para uma maior equidade social. E aqueles que estão sendo envolvidos no projeto real e desenvolvimento de algoritmos deve ter o tempo para refletir sobre sua responsabilidade social e criar padrões comuns para a ética profissional neste campo.”- Ralph Müller-Eiselt
Como pode ser minimizado estas questões?
Como explicado em mais detalhe acima, o que precisamos fazer avaliações de risco preventivas e assegurar uma avaliação constante e abrangente de aplicativos baseados em algoritmos através de terceiros neutros. Nós também deve provocar um debate público mais amplo e sensibilizar para o uso, chances e riscos de algoritmos na educação. Para os decisores políticos, agora é hora de moldar de forma proativa neste campo para uma maior equidade social. E aqueles que estão sendo envolvidos no projeto real e desenvolvimento de algoritmos deve ter o tempo para refletir sobre sua responsabilidade social e criar padrões comuns para a ética profissional neste campo.
Fazer AI e algoritmos precisam ser reajustados para diferentes sistemas de ensino em todo o mundo? Quão importante será o de incorporar as diferenças culturais na formulação de AI?
O que a maioria dos sistemas de ensino em todo o mundo têm em comum é que eles pretendem capacitar e apoiar as pessoas no desenvolvimento de suas capacidades e talentos individuais, em resumo: para criar igualdade de oportunidades. No entanto, as maneiras de abordar e atingir este objectivo são múltiplas. Todos eles têm seus pontos fortes e fracos. O que funciona em um lugar não necessariamente funciona em outro contexto social. Da mesma maneira, algoritmo- e aplicações baseadas em AI precisa ser ajustado para a configuração sócio-cultural particular, eles estão sendo empregados em.
(Todas as fotos são cortesia de CMRubinWorld)
C. M. Rubin e Ralph Müller-Eiselt
Junte-se a mim e líderes de renome mundial, incluindo Sir Michael Barber (Reino Unido), Dr. Michael Bloco (EUA), Dr. Leon Botstein (EUA), Professor Clay Christensen (EUA), Dr. Linda, Darling-Hammond (EUA), Dr. MadhavChavan (Índia), Charles Fadel (EUA), Professor Michael Fullan (Canadá), Professor Howard Gardner (EUA), Professor Andy Hargreaves (EUA), Professor Yvonne Hellman (Holanda), Professor Kristin Helstad (Noruega), Jean Hendrickson (EUA), Professor Rose Hipkins (Nova Zelândia), Professor Cornelia Hoogland (Canadá), Honrosa Jeff Johnson (Canadá), Senhora. Chantal Kaufmann (Bélgica), Dr. EijaKauppinen (Finlândia), Secretário TapioKosunen Estado (Finlândia), Professor Dominique Lafontaine (Bélgica), Professor Hugh Lauder (Reino Unido), Senhor Ken Macdonald (Reino Unido), Professor Geoff Mestres (Austrália), Professor Barry McGaw (Austrália), Shiv Nadar (Índia), Professor R. Natarajan (Índia), Dr. PAK NG (Cingapura), Dr. Denise Papa (US), Sridhar Rajagopalan (Índia), Dr. Diane Ravitch (EUA), Richard Wilson Riley (EUA), Sir Ken Robinson (Reino Unido), Professor Pasi Sahlberg (Finlândia), Professor Manabu Sato (Japão), Andreas Schleicher (PISA, OCDE), Dr. Anthony Seldon (Reino Unido), Dr. David Shaffer (EUA), Dr. Kirsten Immersive Are (Noruega), Chanceler Stephen Spahn (EUA), Yves Theze (LyceeFrancais EUA), Professor Charles Ungerleider (Canadá), Professor Tony Wagner (EUA), Sir David Watson (Reino Unido), Professor Dylan Wiliam (Reino Unido), Dr. Mark Wormald (Reino Unido), Professor Theo Wubbels (Holanda), Professor Michael Young (Reino Unido), e Professor Minxuan Zhang (China) como eles exploram as grandes questões da educação imagem que todas as nações enfrentam hoje.
A Pesquisa Global para Educação Comunitária Página
C. M. Rubin é o autor de duas séries on-line lido pelo qual ela recebeu uma 2011 Upton Sinclair prêmio, "The Search Global pela Educação" e "Como vamos ler?"Ela também é o autor de três livros mais vendidos, Incluindo The Real Alice no País das Maravilhas, é o editor de CMRubinWorld e é um Disruptor Fundação Fellow.
Siga C. M. Rubin no Twitter: www.twitter.com/@cmrubinworld
Comentários Recentes