“Los algoritmos son tan sesgada como los seres humanos que han diseñado o encargados con una cierta intención. Deberíamos por lo tanto provocar un debate abierto sobre los objetivos de los sistemas de software con impacto social.”- Ralph Müller-Eiselt
algoritmos están en todas partes sesgadas, por lo que en un momento crítico en la evolución del aprendizaje de las máquinas y AI, por qué no estamos hablando de los problemas sociales que esto implica?
En su libro, Armas de destrucción matemática: cómo los macrodatos aumentan la desigualdad y amenazan la democracia, Cathy O'Neil señala que “los procesos de grandes volúmenes de datos codifican el pasado”, pero no “inventar el futuro.” ¿Cómo nos sentimos acerca de las máquinas que influye en nuestras instituciones humanas? ¿Quién protege a la calidad de vida cuando los algoritmos están a cargo? O'Neil sostiene que el toque humano es esencial para “incrustar mejores valores en nuestros algoritmos.”
Ralph Müller-Eiselt es un experto en la política de educación y gobernabilidad y encabeza grupo de trabajo de la Fundación Bertelsmann en los desafíos y oportunidades de política en un mundo digitalizado. En su último proyecto “Ética de Algoritmos” (es co-autor de La Revolución Digital Education; Inglés Título – La revolución digital de la educación), toma una mirada cercana a las consecuencias de la toma de decisiones algorítmica y la inteligencia artificial en la sociedad y la educación. Él se une La Búsqueda Global para la Educación hablar de AI, algoritmos y lo que todos deberíamos estar pensando.
“Depende de nosotros para determinar si la IA en la educación será un catalizador para el fortalecimiento de la equidad social - o para debilitarla.” — Ralph Müller-Eiselt
Ralph, ¿cómo nos aseguramos de que los algoritmos siempre son concebidos para lograr un impacto positivo para las sociedades y la educación, en lugar de un peligro o un riesgo?
Los algoritmos son tan sesgada como los seres humanos que han diseñado o encargados con una cierta intención. Por tanto, debemos provocar un debate abierto sobre los objetivos de los sistemas de software con impacto social. Depende de nosotros como sociedad para decidir donde tales sistemas deben ser utilizadas y para asegurarse de que están diseñados con los fines adecuados en mente. En segundo lugar, hay que recordar que incluso los algoritmos diseñados con buenas intenciones pueden producir malos resultados. Los más grandes sus efectos potenciales sobre la participación individual en la sociedad son, la más importante es la evaluación del riesgo preventivo y - la toma de decisiones una vez automatizado está en uso - una evaluación exhaustiva para verificar los resultados previstos. La participación de terceros neutrales en este proceso puede ayudar significativamente a aumentar la confianza en la toma de decisiones basada en software.
¿Cómo evaluamos si están o no están logrando lo que se pretende?
la rendición de cuentas transparente es clave a la hora de evaluar las solicitudes y las herramientas basadas en algoritmos. Esto no quiere decir que tenemos que hacer que el código de los algoritmos de acceso público. De hecho, que no sería en absoluto ser útil para las personas más afectadas a obtener una comprensión de cómo se toman las decisiones informadas algoritmo. En lugar, necesitamos mecanismos como las declaraciones auto-explicativos de fin de algoritmos que pueden ser verificados por una evaluación a través de expertos neutrales que se ha concedido el acceso a la información y los datos pertinentes. Estas evaluaciones deben ser diseñadas de manera integral como sea posible con el fin de comprobar si los algoritmos son realmente útiles para los fines previstos y para revelar sus riesgos de la vida real y las oportunidades.
“Si bien hay grandes oportunidades para el asesoramiento algoritmo informados sobre las opciones del plan de estudios basado en las competencias y opciones de trabajo, No podemos cerrar los ojos ante los peligros de dirigirse a clientes débiles, la discriminación y la exclusión estandarizada del mercado de trabajo a gran escala.”- Ralph Müller-Eiselt
¿Cómo ve algoritmos y la adaptación de AI a los sistemas de educación en desarrollo?
La era digital ofrece una serie de valores añadidos potenciales para la educación. Muchos de ellos son inherentemente dependiente del uso de datos conectado - Ya se trate de personalizar el aprendizaje, la superación de las barreras de motivación a través de gamification, proporcionar orientación en la selva de oportunidades, o no menos, a juego competencias individuales con las demandas del mercado laboral. El uso de algoritmos y AI en el sector de la educación se encuentra todavía en su fase inicial, con un montón de prueba y error para ser observado. Pero la tecnología puede y con toda seguridad ayudará a evolucionar todas estas cuestiones en un futuro muy cercano. Dado que esto podría tener un impacto en la educación desde hace bastante escala, los políticos mejor no deberán esperar a que sucedan estas cosas y reaccionar posteriormente, pero la forma activa la regulación ahora a sostener el bien público. Depende de nosotros para determinar si la IA en la educación será un catalizador para el fortalecimiento de la equidad social - o para debilitarla.
¿Cómo podemos personalizar AI para adaptarse a todas las aulas y las necesidades del niño?
La personalización del aprendizaje para desarrollar mejor las capacidades individuales es una de las principales oportunidades de aprendizaje digital. aplicaciones basadas en algoritmos y IA pueden democratizar el acceso a la educación personalizada que por razones relacionadas con los costos antes sólo estaba disponible para un número limitado de personas. Pero hay una línea muy fina entre promesas y peligros de la IA en la educación. Si bien hay grandes oportunidades para el asesoramiento algoritmo informados sobre las opciones del plan de estudios basado en las competencias y opciones de trabajo, No podemos cerrar los ojos ante los peligros de dirigirse a clientes débiles, la discriminación y la exclusión estandarizada del mercado de trabajo a gran escala.
Desde AI se hace por los seres humanos, ¿Existe el riesgo de que los algoritmos y la inteligencia artificial no funcionen con precisión en un entorno educativo debido a un error humano?? ¿Cómo va a errores en la IA impacto de la experiencia de aprendizaje?
Los algoritmos son tan buenos como los seres humanos que los diseñaron. El error humano puede traducirse en un algoritmo en muchas etapas: de recogida y selección de los datos a través de la programación del algoritmo para interpretar su salida. Por ejemplo, si un algoritmo utiliza datos históricos, que es empujado en una dirección determinada debido a los patrones discriminatorias del pasado, el algoritmo aprenderá de estos patrones y lo más probable incluso fortalecer esta discriminación cuando se utiliza a escala. Tales errores no deseados deben ser estrictamente evitados y vigiló constantemente para, ya que ampliarían las desigualdades sociales en el sector de la educación.
"Por los responsables políticos, ahora es hora de dar forma a este campo de forma proactiva hacia la equidad social. Y los que están siendo involucrados en el diseño actual y el desarrollo de algoritmos debe tomar el tiempo para reflexionar acerca de su responsabilidad social y crear normas comunes para la ética profesional en este campo.”- Ralph Müller-Eiselt
¿Cómo se pueden minimizar estos problemas?
Como se explica en más detalle anteriormente, tenemos que hacer evaluaciones de riesgo preventivas y garantizar una evaluación constante y completa de aplicaciones basadas en algoritmos a través de terceros neutrales. También hay que provocar un debate público más amplio y aumentar la conciencia para el uso, oportunidades y riesgos de algoritmos en la educación. Para los políticos, ahora es hora de dar forma a este campo de forma proactiva hacia la equidad social. Y los que están siendo involucrados en el diseño actual y el desarrollo de algoritmos debe tomar el tiempo para reflexionar sobre su responsabilidad social y crear normas comunes para la ética profesional en este campo.
AI hacer y algoritmos necesitan ser reajustados para diferentes sistemas educativos a nivel mundial? ¿Qué tan importante será para incorporar las diferencias culturales en la formulación de la IA?
Lo que la mayoría de los sistemas educativos en el mundo tienen en común es que su objetivo es potenciar y apoyar a las personas en el desarrollo de sus capacidades y talentos individuales, en breve: para crear igualdad de oportunidades. Sin embargo, las formas de acercarse y lograr este objetivo son múltiples. Todos ellos tienen sus puntos fuertes y débiles. Lo que funciona en un lugar no necesariamente funciona en otro contexto social. Del mismo modo, algoritmo- y las aplicaciones basadas en IA necesitan ajustarse a la configuración sociocultural particular que están siendo empleadas en.
(Todas las fotos son cortesía de CMRubinWorld)
C. M. Rubin y Ralph Müller-Eiselt
Únete a mí y reconocidos a nivel mundial los líderes de opinión, incluyendo a Sir Michael Barber (Reino Unido), DR. Michael Bloquear (EE.UU.), DR. Leon Botstein (EE.UU.), Profesor Clay Christensen (EE.UU.), DR. Linda Darling-Hammond (EE.UU.), DR. MadhavChavan (India), Charles Fadel (EE.UU.), El profesor Michael Fullan (Canada), El profesor Howard Gardner (EE.UU.), El profesor Andy Hargreaves (EE.UU.), Profesor Yvonne Hellman (Países Bajos), Profesor Kristin Helstad (Noruega), Jean Hendrickson (EE.UU.), Profesor Rose Hipkins (Nueva Zelanda), Profesor Cornelia Hoogland (Canada), Honorable Jeff Johnson (Canada), Señora. Chantal Kaufmann (Bélgica), DR. EijaKauppinen (Finlandia), Secretario TapioKosunen Estado (Finlandia), Profesor Dominique Lafontaine (Bélgica), El profesor Hugh Lauder (Reino Unido), Señor Ken Macdonald (Reino Unido), Profesor Geoff Masters (Australia), Profesor Barry McGaw (Australia), Shiv Nadar (India), Profesor R. Natarajan (India), DR. PAK NG (Singapur), DR. Denise Papa (Estados Unidos), Sridhar Rajagopalan (India), DR. Diane Ravitch (EE.UU.), Richard Wilson Riley (EE.UU.), Sir Ken Robinson (Reino Unido), Profesor Pasi Sahlberg (Finlandia), El profesor Manabu Sato (Japón), Andreas Schleicher (PISA, OCDE), DR. Anthony Seldon (Reino Unido), DR. David Shaffer (EE.UU.), DR. Kirsten Immersive Are (Noruega), Canciller Stephen Spahn (EE.UU.), Yves Theze (LyceeFrancais EE.UU.), Profesor Charles Ungerleider (Canada), Profesor Tony Wagner (EE.UU.), Sir David Watson (Reino Unido), Profesor Dylan Wiliam (Reino Unido), DR. Marcos Wormald (Reino Unido), Profesor Theo Wubbels (Países Bajos), El profesor Michael Young (Reino Unido), y el profesor Zhang Minxuan (De China) a medida que exploran las cuestiones de educación cuadro grande que todas las naciones se enfrentan hoy.
La Búsqueda Global para la Educación Comunitaria Página
C. M. Rubin es el autor de dos ampliamente leído serie en línea por la que recibió un 2011 Premio Upton Sinclair, "La Búsqueda Global por la Educación" y "¿Cómo lo Leer?"Ella es también el autor de tres libros más vendidos, Incluido The Real Alice in Wonderland, es el editor de CMRubinWorld y es una Fundación Disruptor Fellow.
Siga C. M. Rubin en Twitter: www.twitter.com/@cmrubinworld
Comentarios recientes