“Algoritmi sono di parte, come gli esseri umani che hanno progettato o commissionato loro con una certa intenzione. Dovremmo quindi stimolare un dibattito aperto sugli obiettivi dei sistemi software con un impatto sociale “-. Ralph Müller-Eiselt
algoritmi di parte sono ovunque, quindi in un momento critico per l'evoluzione di machine learning e AI, perché non stiamo parlando dei problemi sociali ciò comporta?
Nel suo libro, Armi di distruzione di matematica - Come Big Data Aumenta Disuguaglianza e minaccia la democrazia, Cathy O'Neil sottolinea che “i grandi processi di dati codificano il passato”, ma non “inventare il futuro”. Come ci sentiamo sulle macchine influenzando le nostre istituzioni umane? Chi protegge la qualità della vita in cui gli algoritmi sono in carica? O'Neil sostiene che il contatto umano è essenziale per “incorporare i valori migliori nei nostri algoritmi.”
Ralph Müller-Eiselt è un esperto in politica dell'istruzione e della governance e dirige task force della Bertelsmann Foundation sulle sfide e le opportunità politiche in un mondo digitalizzato. Nel suo progetto più recente “Etica della Algoritmi” (è co-autore di La rivoluzione digitale Istruzione; Inglese Titolo – Education rivoluzione digitale), egli prende uno sguardo da vicino le conseguenze della algoritmica del processo decisionale e l'intelligenza artificiale nella società e l'istruzione. Si unisce Il Global Ricerca per l'Educazione per parlare di AI, algoritmi e ciò che dovremmo tutti pensare a.
“Spetta a noi per determinare se AI nell'istruzione sarà un catalizzatore per rafforzare l'equità sociale - o per indebolirlo.” — Ralph Müller-Eiselt
Ralph, come possiamo garantire che gli algoritmi sono sempre concepiti per ottenere un impatto positivo per la società e l'educazione, piuttosto che un pericolo o un rischio?
Gli algoritmi sono di parte, come gli esseri umani che hanno progettato o commissionato loro con una certa intenzione. Dobbiamo quindi stimolare un dibattito aperto sugli obiettivi dei sistemi software a impatto sociale. Spetta a noi come società per decidere dove tali sistemi dovrebbero essere utilizzate e per assicurarsi che essi sono stati progettati con gli scopi giusti in mente. In secondo luogo, dobbiamo ricordare che anche algoritmi progettati con buone intenzioni possono produrre cattivi risultati. I più grandi loro potenziali effetti sulla partecipazione individuale nella società sono, la più importante è una valutazione dei rischi e di prevenzione - il processo decisionale, una volta automatizzato è in uso - una valutazione complessiva per verificare i risultati attesi. Coinvolgere terzi neutrali in questo processo può significativamente contribuire a costruire la fiducia nel processo decisionale basato su software.
Come si fa a valutare se o no che stanno compiendo ciò che è destinato?
la responsabilità trasparente è fondamentale quando si tratta di valutare le applicazioni e gli strumenti basati su algoritmi. Questo non significa che abbiamo bisogno di rendere il codice di algoritmi accessibili al pubblico. Infatti, che non sarebbe affatto essere utile per le persone più colpite per ottenere una comprensione di come le decisioni algoritmo informati sono stati fatti. Invece, dobbiamo meccanismi come dichiarazioni autoesplicativi di destinazione per gli algoritmi che possono essere verificate mediante una valutazione attraverso esperti neutrali che è consentito l'accesso alle informazioni e dati pertinenti. Queste valutazioni devono essere progettati come olisticamente più possibile al fine di verificare se gli algoritmi sono in realtà servono gli scopi previsti e di rivelare i loro rischi reali e opportunità.
“Mentre ci sono grandi opportunità per la consulenza algoritmo informati sulle scelte curriculari competenze-oriented e opzioni di posti di lavoro, potremmo non chiudere gli occhi prima che i pericoli di targeting dei clienti deboli, la discriminazione standardizzato e su larga scala l'esclusione del mercato del lavoro.”- Ralph Müller-Eiselt
Come vede algoritmi e intelligenza artificiale adattamento dei sistemi di istruzione in evoluzione?
L'era digitale offre una serie di valori aggiunti potenziali per l'istruzione. Molti di loro sono intrinsecamente dipendente dall'uso dei dati collegato - sia esso la personalizzazione dell'apprendimento, superare le barriere motivazionali attraverso gamification, fornire un orientamento nella giungla di opportunità, o non meno importante, corrispondenti competenze individuali con le esigenze del mercato del lavoro. L'uso di algoritmi e AI nel settore dell'istruzione è ancora nella sua fase iniziale, con un sacco di tentativi ed errori da osservare. Ma la tecnologia può e vuole abbastanza certamente di aiuto evolvere tutti questi problemi in un futuro molto prossimo. Dal momento che questo potrebbe influire l'istruzione a un po 'di scala, i politici non dovrebbero meglio attendere queste cose ad accadere e reagire in seguito, ma attivamente definizione di una regolamentazione ora verso sostenere il bene pubblico. Spetta a noi per determinare se AI nell'istruzione sarà un catalizzatore per rafforzare l'equità sociale - o per indebolirlo.
Come possiamo personalizzare AI di adattarsi ad ogni classe e le esigenze del bambino?
Personalizzazione imparare a sviluppare una migliore capacità individuali è una delle principali opportunità di apprendimento digitale. applicazioni basato su algoritmi e intelligenza artificiale in grado di democratizzare l'accesso alla formazione personalizzato che per motivi di costo legate in precedenza era disponibile solo per un numero limitato di persone. Ma c'è una linea sottile tra promessa e pericolo di AI in materia di istruzione. Mentre ci sono grandi opportunità per la consulenza algoritmo informati sulle scelte curriculari competenze-oriented e opzioni di posti di lavoro, potremmo non chiudere gli occhi prima che i pericoli di targeting dei clienti deboli, la discriminazione standardizzato e su larga scala di esclusione del mercato del lavoro.
Dal momento AI è fatta da esseri umani, c'è il rischio che gli algoritmi e AI non funzionano con precisione in un contesto educativo causa di errore umano? Come faranno gli errori in AI impatto l'esperienza di apprendimento?
Gli algoritmi sono solo buono come gli esseri umani che li hanno progettati. L'errore umano può tradursi in un algoritmo in molti stadi: dalla raccolta e selezione dei dati sopra programmare l'algoritmo di interpretazione sua uscita. Per esempio, se un algoritmo utilizza i dati storici, che è spinto in una certa direzione a causa di modelli discriminatorie del passato, l'algoritmo imparare da questi schemi e molto probabilmente anche rafforzare questa discriminazione quando viene utilizzato a scala. Tali errori non intenzionali devono essere rigorosamente evitato e costantemente controllato per, perché sarebbero ampliare le disuguaglianze sociali nel settore dell'istruzione.
"Per i responsabili politici, ora è giunto il momento di modellare in modo proattivo questo settore verso una maggiore equità sociale. E quelli che sono coinvolti nella progettazione vera e propria e lo sviluppo di algoritmi dovrebbe prendere il tempo per riflettere su la loro responsabilità sociale e di creare standard comuni per l'etica professionale in questo campo.”- Ralph Müller-Eiselt
Come possono questi problemi essere ridotti al minimo?
Come spiegato più in dettaglio in precedenza, abbiamo bisogno di fare valutazioni del rischio di prevenzione e garantire una valutazione costante e completa di applicazioni basate su algoritmi tramite terzi neutrali. Dovremmo anche suscitare un dibattito pubblico più ampio e sensibilizzare l'opinione pubblica per l'uso, opportunità e rischi di algoritmi in materia di istruzione. Per i responsabili politici, ora è giunto il momento di modellare in modo proattivo questo settore verso una maggiore equità sociale. E quelli che sono coinvolti nella progettazione vera e propria e lo sviluppo di algoritmi dovrebbe prendere il tempo di riflettere sulla loro responsabilità sociale e di creare standard comuni per l'etica professionale in questo campo.
Fare AI e gli algoritmi devono essere riadattato per i diversi sistemi educativi a livello globale? Quanto importante sarà per incorporare le differenze culturali in formulazione di AI?
Ciò che la maggior parte dei sistemi di istruzione in tutto il mondo hanno in comune è che essi mirano a potenziare e sostenere le persone a sviluppare le loro capacità individuali e talenti, in breve: per creare pari opportunità. Tuttavia, le modalità di approccio e raggiungere questo scopo sono molteplici. Tutti loro hanno i loro punti di forza e di debolezza. Ciò che funziona in un luogo non necessariamente lavorare in un altro contesto sociale. Nello stesso modo, algoritmo- e le applicazioni basate su AI devono essere adeguate al particolare ambiente socio-culturale essi vengono impiegati in.
(Tutte le foto sono per gentile concessione di CMRubinWorld)
C. M. Rubin e Ralph Müller-Eiselt
Unitevi a me e leader di pensiero di fama mondiale tra cui Sir Michael Barber (Regno Unito), Dr. Michael Block (Stati Uniti), Dr. Leon Botstein (Stati Uniti), Il professor Argilla Christensen (Stati Uniti), Dr. Linda di Darling-Hammond (Stati Uniti), Dr. MadhavChavan (India), Charles Fadel (Stati Uniti), Il professor Michael Fullan (Canada), Il professor Howard Gardner (Stati Uniti), Il professor Andy Hargreaves (Stati Uniti), Il professor Yvonne Hellman (Paesi Bassi), Il professor Kristin Helstad (Norvegia), Jean Hendrickson (Stati Uniti), Il professor Rose Hipkins (Nuova Zelanda), Il professor Cornelia Hoogland (Canada), Onorevole Jeff Johnson (Canada), Sig.ra. Chantal Kaufmann (Belgio), Dr. EijaKauppinen (Finlandia), Sottosegretario di Stato TapioKosunen (Finlandia), Il professor Dominique Lafontaine (Belgio), Il professor Hugh Lauder (Regno Unito), Signore Ken Macdonald (Regno Unito), Il professor Geoff Masters (Australia), Il professor Barry McGaw (Australia), Shiv Nadar (India), Il professor R. Natarajan (India), Dr. PAK NG (Singapore), Dr. Denise Papa (Stati Uniti), Sridhar Rajagopalan (India), Dr. Diane Ravitch (Stati Uniti), Richard Wilson Riley (Stati Uniti), Sir Ken Robinson (Regno Unito), Professor Pasi Sahlberg (Finlandia), Il professor Manabu Sato (Giappone), Andreas Schleicher (PISA, OCSE), Dr. Anthony Seldon (Regno Unito), Dr. David Shaffer (Stati Uniti), Dr. Kirsten Immersive Are (Norvegia), Cancelliere Stephen Spahn (Stati Uniti), Yves Theze (LyceeFrancais Stati Uniti), Il professor Charles Ungerleider (Canada), Il professor Tony Wagner (Stati Uniti), Sir David Watson (Regno Unito), Professor Dylan Wiliam (Regno Unito), Dr. Mark Wormald (Regno Unito), Il professor Theo Wubbels (Paesi Bassi), Il professor Michael Young (Regno Unito), e il professor Zhang Minxuan (Porcellana) mentre esplorano le grandi questioni educative immagine che tutte le nazioni devono affrontare oggi.
Il Global Ricerca per l'Educazione della Comunità Pagina
C. M. Rubin è l'autore di due ampiamente lettura serie on-line per il quale ha ricevuto una 2011 Premio Upton Sinclair, "Il Global Search per l'Educazione" e "Come leggeremo?"Lei è anche l'autore di tre libri bestseller, Compreso The Real Alice in Wonderland, è l'editore di CMRubinWorld ed è un disgregatore Foundation Fellow.
Segui C. M. Rubin su Twitter: www.twitter.com/@cmrubinworld
Commenti recenti