„Algorithmen sind so voreingenommen, wie die Menschen, die entworfen oder in Auftrag gegeben, sie mit einer bestimmten Absicht. Wir sollten deshalb eine offene Debatte über die Ziele von Softwaresystemen mit sozialen Auswirkungen auslösen.“- Ralph Müller-Eiselt
Voreingenommen Algorithmen sind überall, so in einem kritischen Moment in der Entwicklung des maschinellen Lernens und der AI, warum nicht reden wir über die gesellschaftlichen Fragen stellt dies?
In ihrem Buch, Waffen der Mathe-Zerstörung - Wie Big Data Inequality Erhöht und Droht Demokratie, Cathy O'Neil weist darauf hin, dass „große Datenprozesse, die Vergangenheit zu kodifizieren“ aber nicht „um die Zukunft zu gestalten.“ Wie fühlen uns über Maschinen unsere menschlichen Organe und Einrichtungen Einfluss? Wer schützt die Lebensqualität, wenn Algorithmen verantwortlich sind? O'Neil argumentiert, dass die menschliche Berührung wesentlich ist, zu einem „besseren Werten in unsere Algorithmen integrieren.“
Ralph Müller-Eiselt ist ein Experte in der Bildungspolitik und Governance und leitet die Bertelsmann Stiftung Task Force zu den politischen Herausforderungen und Chancen in einer digitalisierten Welt. In seinem neuesten „Ethik der Algorithmen“ Projekt (er ist Mitautor Die Digitale Bildungsrevolution; Englischer Titel – Bildung Digital Revolution), er nimmt einen genauen Blick auf die Folgen der algorithmischen Entscheidungsfindung und künstliche Intelligenz in der Gesellschaft und Bildung. Er schließt sich an Die globale Suche nach Bildung zu reden über AI, Algorithmen und was sollten wir alle darüber nachdenken,.
“Es liegt an uns, zu entscheiden, ob AI in der Bildung ein Katalysator für die Stärkung der sozialen Gerechtigkeit sein - oder es zu schwächen.” — Ralph Müller-Eiselt
Ralph, wie stellen wir sicher, dass Algorithmen immer gedacht hat eine positive Auswirkung für die Gesellschaft und Bildung zu erreichen, eher als eine Gefahr oder ein Risiko?
Algorithmen sind so voreingenommen, wie die Menschen, die entworfen oder in Auftrag gegeben, sie mit einer bestimmten Absicht. Deshalb sollten wir eine offene Debatte über die Ziele von Softwaresystemen mit sozialen Auswirkungen entfachen. Es ist uns als Gesellschaft zu entscheiden, wo solche Systeme verwendet werden sollte, und um sicherzustellen, dass sie mit den richtigen Zwecke konzipiert sind. Zweitens, wir müssen bedenken, dass auch mit guten Absichten entwickelte Algorithmen schlechte Ergebnisse produzieren kann. Die größeren ihre möglichen Auswirkungen auf die individuelle Teilhabe an der Gesellschaft sind, Umso wichtiger ist eine präventive Risikobewertung und - einmal automatisierte Entscheidungsfindung im Einsatz - eine umfassende Bewertung der angestrebten Ergebnisse zu überprüfen. Die Einbeziehung neutrale Dritten in diesem Prozess kann erheblich dazu beitragen, das Vertrauen in softwarebasierte Entscheidungsfindung aufzubauen.
Wie beurteilen wir, ob sie vollbringen, was beabsichtigt ist?
Transparente Verantwortlichkeit ist der Schlüssel, wenn es um die Beurteilung Algorithmus-basierten Anwendungen kommt und Tools. Dies bedeutet nicht, dass wir den Code von Algorithmen öffentlich zugänglich machen müssen. Tatsächlich, das wäre nicht hilfreich sein für die meisten Betroffenen ein Verständnis davon, wie Algorithmus informierte Entscheidungen zu gewinnen werden gemacht. Stattdessen, Wir brauchen Mechanismen wie selbsterklärend Aussagen Zweck für Algorithmen, die durch eine Auswertung durch neutrale Experten überprüft werden kann, der Zugang zu den relevanten Informationen und Daten gewährt werden. Diese Bewertungen sollten so ganzheitlich wie möglich zu gestalten, um zu überprüfen, ob Algorithmen tatsächlich die beabsichtigten Zwecke dienen und ihre realen Risiken aufzudecken und Chancen.
„Zwar gibt es große Möglichkeiten für die Algorithmus-kundige Beratung auf kompetenzorientierten Lehrplan Auswahl und Auftragsoptionen, wir können unsere Augen nicht vor den Gefahren des Targeting schwachen Kunden schließen, standardisierte Diskriminierung und Groß Ausgrenzung vom Arbeitsmarkt.“- Ralph Müller-Eiselt
Wie sehen Sie Algorithmen und KI Anpassung an die sich verändernden Bildungssysteme?
Das digitale Zeitalter bietet eine Reihe von potentiellen Mehrwerten für die Bildung. Viele von ihnen sind von Natur aus abhängig von der Nutzung vernetzter Daten - es Lernen Personalisierung werden, Überwindung Motivationsbarrieren durch gamification, Orientierung im Dschungel der Möglichkeiten bietet, oder nicht zuletzt, passende individuelle Kompetenzen mit Anforderungen des Arbeitsmarktes. Die Verwendung von Algorithmen und AI im Bildungsbereich ist immer noch in der Anfangsphase, mit viel Versuch und Irrtum zu beachten. Aber die Technik kann und wird ganz sicher helfen, in sehr naher Zukunft all diese Fragen zu entwickeln. Da dies könnte Ausbildung mit etwas größeren Maßstab auswirken, Politiker sollten besser nicht, diese Dinge warten auf später passieren und reagieren, sondern aktiv gestaltet Regelung nun gegenüber der Öffentlichkeit gut erhalt. Es liegt an uns, zu entscheiden, ob AI in der Bildung ein Katalysator für die Stärkung der sozialen Gerechtigkeit sein wird - oder zu schwächen.
Wie können wir AI personalisieren zu jedem Klassenzimmer und die Bedürfnisse des Kindes anpassen?
besser entwickeln individuelle Fähigkeiten lernen die Personifizierung ist eine der wichtigsten Möglichkeiten digitaler Lern. Algorithmus-basierten Anwendungen und AI können den Zugriff auf persönliche Bildung demokratisieren, dass aus Kostengründen bezogenen war bisher nur für eine begrenzte Anzahl von Menschen. Aber es gibt eine feine Linie zwischen Versprechen und der Gefahr von AI in der Bildung. Zwar gibt es große Möglichkeiten für die Algorithmus-kundige Beratung auf kompetenzorientierten Lehrplan Auswahl und Auftragsoptionen, wir können unsere Augen nicht vor den Gefahren des Targeting schwachen Kunden schließen, standardisierte Diskriminierung und Groß Ausgrenzung vom Arbeitsmarkt.
Da AI wird von Menschen gemacht, es besteht die Gefahr, dass Algorithmen und KI aufgrund nicht genau menschliches Versagen in einer Bildungseinrichtung arbeiten? Wie wird sich Fehler in der KI Auswirkungen der Lernerfahrung?
Algorithmen sind nur so gut wie die Menschen, die sie entworfen. Menschliche Fehler können in einen Algorithmus in vielen Phasen übersetzen: von der Erhebung und die Daten über die Programmierung des Algorithmus Auswählen seiner Ausgabe Interpretieren. Beispielsweise, Wenn ein Algorithmus verwendet, historische Daten, die in einer bestimmten Richtung vorgespannt ist, aufgrund diskriminierender Muster der Vergangenheit, der Algorithmus aus diesen Mustern lernen und höchstwahrscheinlich auch diese Diskriminierung stärken, wenn es in großem Umfang verwendet wird,. Eine solche unbeabsichtigte Fehler müssen für strikt vermieden und ständig überprüft werden, da würden sie soziale Ungleichheiten im Bildungsbereich erweitern.
"Zum Entscheidungsträger, es ist jetzt höchste Zeit, proaktiv dieses Feld zu formen hin zu mehr sozialer Gerechtigkeit. Und diejenigen, die in der konkreten Ausgestaltung und Entwicklung von Algorithmen sollten die Zeit beteiligt zu reflektieren nehmen über ihre soziale Verantwortung und für Berufsethik in diesem Bereich gemeinsame Standards schaffen.“- Ralph Müller-Eiselt
Wie können diese Probleme minimiert werden?
Wie oben erläutert im Detail, wir müssen präventive Risikobewertungen tun und eine konstante und umfassende Bewertung der Algorithmus-basierten Anwendungen durch neutralen Dritter zu gewährleisten. Wir sollten auch eine breitere öffentliche Debatte auslösen und das Bewusstsein für den Einsatz, Chancen und Risiken von Algorithmen in der Bildung. Für die politischen Entscheidungsträger, es ist jetzt höchste Zeit, proaktiv dieses Feld zu formen hin zu mehr sozialer Gerechtigkeit. Und diejenigen, die in der konkreten Ausgestaltung und Entwicklung von Algorithmen beteiligt werden, sollten sich die Zeit nehmen um ihre soziale Verantwortung zu reflektieren und schaffen gemeinsame Standards für die Berufsethik in diesem Bereich.
Haben AI und Algorithmen müssen für unterschiedliche Bildungssysteme weltweit neu justiert werden? Wie wichtig wird es kulturelle Unterschiede in Formulierung von AI übernehmen zu?
Was die meisten Bildungssysteme in der Welt gemeinsam haben, ist, dass sie darauf abzielen, Menschen zu befähigen und zu unterstützen, ihre individuellen Fähigkeiten und Talente in der Entwicklung, Zusamenfassend: Chancengleichheit zu schaffen. Jedoch, die Möglichkeiten, dieses Ziel zu nähern und zu erreichen sind vielfältig. Alle von ihnen haben ihre Stärken und Schwächen. Was an einem Ort arbeitet funktioniert nicht notwendigerweise in einem anderen sozialen Kontext. Auf die gleiche Weise, Algorithmus- und AI-basierte Anwendungen müssen auf die besondere soziokulturelle Einstellung angepasst werden sie eingesetzt werden in.
(Alle Fotos sind mit freundlicher Genehmigung von CMRubinWorld)
C. M. Rubin and Ralph Müller-Eiselt
Begleiten Sie mich und weltweit renommierten Vordenkern wie Sir Michael Barber (Vereinigtes Königreich), DR. Michael Block (US-), DR. Leon Botstein (US-), Professor Ton Christensen (US-), DR. Linda Hammond-Liebling (US-), DR. MadhavChavan (Indien), Charles Fadel (US-), Professor Michael Fullan (Kanada), Professor Howard Gardner (US-), Professor Andy Hargreaves (US-), Professor Yvonne Hellman (Niederlande), Professor Kristin Helstad (Norwegen), Jean Hendrickson (US-), Professor Rose Hipkins (Neuseeland), Professor Cornelia Hoogland (Kanada), Herr Jeff Johnson (Kanada), Frau. Chantal Kaufmann (Belgien), DR. EijaKauppinen (Finnland), Staatssekretär TapioKosunen (Finnland), Professor Dominique Lafontaine (Belgien), Professor Hugh Lauder (Vereinigtes Königreich), Herr Ken Macdonald (Vereinigtes Königreich), Professor Geoff Masters (Australien), Professor Barry McGaw (Australien), Shiv Nadar (Indien), Professor R. Natarajan (Indien), DR. PAK NG (Singapur), DR. Denise Papst (US), Sridhar Rajagopalan (Indien), DR. Diane Ravitch (US-), Richard Wilson Riley (US-), Sir Ken Robinson (Vereinigtes Königreich), Professor Pasi Sahlberg (Finnland), Professor Manabu Sato (Japan), Andreas Schleicher (PISA, OECD), DR. Anthony Seldon (Vereinigtes Königreich), DR. David Shaffer (US-), DR. Kirsten Sivesind (Norwegen), Kanzler Stephen Spahn (US-), Yves Theze (LyceeFrancais US-), Professor Charles Ungerleider (Kanada), Professor Tony Wagner (US-), Sir David Watson (Vereinigtes Königreich), Professor Dylan Wiliam (Vereinigtes Königreich), DR. Mark Wormald (Vereinigtes Königreich), Professor Theo Wubbels (Niederlande), Professor Michael Young (Vereinigtes Königreich), und Professor Zhang Minxuan (China) wie sie das große Bild Bildung Fragen, die alle Nationen heute konfrontiert erkunden.
Die Global Search for Education Community-Seite
C. M. Rubin ist der Autor von zwei weit Lese Online-Serie für den sie eine 2011 Upton Sinclair Auszeichnung, "Die Global Search for Education" und "Wie werden wir gelesen?"Sie ist auch der Autor von drei Bestseller Bücher, Inklusive The Real Alice im Wunderland, ist der Herausgeber des CMRubinWorld und ist ein Disruptor Foundation Fellow.
Folgen Sie C. M. Rubin auf Twitter: www.twitter.com/@cmrubinworld
Jüngste Kommentare