„Az algoritmusok elfogult, mint az emberek, akik tervezték, vagy megbízást őket egy bizonyos szándék. Nekünk kellene ezért szikra nyílt vitát céljainak szoftver rendszerek társadalmi hatása.”- Ralph Müller-Eiselt
Elfogult algoritmusok vannak mindenhol, így a kritikus pillanatban az evolúció gépi tanulás és az AI, miért nem beszélünk a társadalmi kérdések vet fel?
Könyvében, A matematika pusztításának fegyverei - Hogyan növeli a nagy adat az egyenlőtlenséget és fenyegeti a demokráciát, Cathy O'Neil rámutat arra, hogy a „nagy adat folyamatok kodifikálása a múlt”, de nem „feltalálni a jövőben.” Hogyan érzi magát a gépekhez befolyásoló emberi intézmények? Ki védi meg az életminőségük, algoritmusok felelős? O'Neil azt állítja, hogy az emberi érintés fontosságú a „beágyazni jobb értékeket a mi algoritmusok.”
Ralph Müller-Eiselt szakértő az oktatáspolitikában és a kormányzás és vezeti a Bertelsmann Alapítvány munkacsoport politikai kihívások és lehetőségek a digitalizált világban. Az ő legújabb „Etikai algoritmusok” projekt (ő társszerzője A Digital Education Revolution; angol cím – Oktatási digitális forradalom), ő vesz egy közeli pillantást a következményeit algoritmikus döntéshozatal és mesterséges intelligencia társadalom és oktatás. ő is csatlakozik A Global Search for Education beszélni AI, algoritmusok és mi mindannyian gondolni.
“Ez rajtunk múlik, hogy meghatározza, hogy az AI oktatás lesz katalizátora a társadalmi igazságosság erősítése - vagy gyengíti azt.” — Ralph Müller-Eiselt
Ralph, hogyan tudjuk biztosítani, hogy algoritmusok mindig fogant elérése pozitív hatással társadalmak és az oktatás, helyett a veszély vagy a kockázat?
Az algoritmusok elfogult, mint az emberek, akik tervezték, vagy megbízást őket egy bizonyos szándék. Meg kell tehát szikra nyílt vitát céljainak szoftver rendszerek társadalmi hatása. Ez rajtunk múlik, mint a társadalom, hogy eldöntse, hol ilyen rendszereket kell használni, és meggyőződni arról, hogy ezek célja a megfelelő célok figyelembevételével. Másodszor, emlékeznünk kell arra, hogy még algoritmusok célja a jó szándék képes a rossz eredmények. A nagyobb azok lehetséges hatásait az egyéni részvételre a társadalomban, annál fontosabb a megelőző kockázatelemzés és - miután automatikus döntés van használatban - átfogó értékelést, hogy ellenőrizze a tervezett eredmények. Bevonása semleges harmadik fél ebben a folyamatban jelentős mértékben hozzájáruljanak a bizalom kiépítése szoftver alapú döntéshozatal.
Hogyan értékeli-e vagy sem véghez mi a célja?
Átlátszó elszámoltathatóság legfontosabb, amikor értékelésekor algoritmus alapú alkalmazások és eszközök. Ez nem azt jelenti, hogy meg kell tenni a kódot algoritmusok nyilvánosan hozzáférhető. Valójában, ami egyáltalán nem hasznos lehet leginkább érintett egyének értsék milyen algoritmus tájékozott döntések születnek. Helyette, szükségünk mechanizmusok, mint a magától értetődő nyilatkozatok célra algoritmusok által ellenőrizhető értékelés a semleges szakértők, akik hozzáférhetnek a megfelelő információkat és adatokat. Ezeket az értékeléseket a lehető leg holisztikusabban kell megtervezni annak ellenőrzése érdekében, hogy az algoritmusok valóban a tervezett célokat szolgálják-e, és feltárják valós kockázataikat és lehetőségeiket.
„Míg hatalmas lehetőségek nyílnak algoritmus-alapú tanácsadásra a kompetencia-orientált tantervi választásokról és a munkalehetőségekről, előfordulhat, hogy nem hunyjuk be a szemünket a gyenge ügyfeleket célzó veszélyek előtt, a standardizált diszkrimináció és a nagymértékű munkaerő-piaci kirekesztés. ” -Ralph Müller-Eiselt
Hogyan látja az algoritmusokat és az AI alkalmazkodását a fejlődő oktatási rendszerekhez?
A digitális korszak számos potenciális hozzáadott értéket kínál az oktatáshoz. Sokuk eredendően függ a kapcsolódó adatok használatától - legyen szó személyre szabott tanulásról, motivációs akadályok leküzdése a játék révén, tájékozódást nyújt a lehetőségek dzsungelében, vagy nem utolsó sorban, az egyéni kompetenciák összehangolása a munkaerő -piaci igényekkel. Az algoritmusok és a mesterséges intelligencia alkalmazása az oktatási szektorban még a kezdeti szakaszban van, sok kísérlettel és tévedéssel. De a technológia minden bizonnyal segíthet és fog is segíteni mindezen kérdéseknek a közeljövőben történő kifejlesztésében. Mivel ez elég nagy mértékben befolyásolhatja az oktatást, a politikai döntéshozóknak jobb, ha nem várják meg, hogy ezek megtörténjenek, és utána reagáljanak, de aktívan formálja a szabályozást most a közjó fenntartása felé. Rajtunk múlik, hogy eldöntsük, hogy az oktatásban a mesterséges intelligencia katalizátor lesz -e a társadalmi méltányosság erősítésére - vagy annak gyengítésére.
Hogyan tudjuk személyre szabni az AI -t, hogy minden osztályteremhez és a gyermek igényeihez igazodjon?
A tanulás személyre szabása az egyéni képességek jobb fejlesztése érdekében a digitális tanulás egyik fő lehetősége. Az algoritmusalapú alkalmazások és az AI demokratizálhatják a személyre szabott oktatáshoz való hozzáférést, amely költséggel kapcsolatos okokból korábban csak korlátozott számú ember számára volt elérhető. De van egy finom határ az ígéret és az AI veszélye között az oktatásban. Míg hatalmas lehetőségek nyílnak algoritmus-alapú tanácsadásra a kompetencia-orientált tantervi választásokról és a munkalehetőségekről, előfordulhat, hogy nem hunyjuk be a szemünket a gyenge ügyfeleket célzó veszélyek előtt, a standardizált diszkrimináció és a nagyarányú munkaerő-piaci kirekesztés.
Mivel az AI -t emberek alkotják, fennáll -e annak a kockázata, hogy az algoritmusok és az AI emberi hiba miatt nem fognak pontosan működni oktatási környezetben? Hogyan befolyásolják az AI hibái a tanulási élményt?
Az algoritmusok csak olyan jók, mint az emberek, akik megtervezték őket. Az emberi hiba sok szakaszban algoritmussá válhat: az adatok gyűjtésétől és kiválasztásától kezdve az algoritmus programozásán át a kimenet értelmezéséig. Például, ha egy algoritmus történelmi adatokat használ, amely a múlt diszkriminatív mintái miatt bizonyos irányba elfogult, az algoritmus tanulni fog ezekből a mintákból, és nagy valószínűséggel még erősíti is ezt a megkülönböztetést, ha azt skálán használják. Az ilyen nem szándékos hibákat szigorúan el kell kerülni, és folyamatosan ellenőrizni kell, mivel szélesítenék a társadalmi egyenlőtlenségeket az oktatási szektorban.
- Mert döntéshozók, itt az ideje, hogy proaktív módon alakítsuk ki ezt a területet a társadalmi méltányosság felé. Azoknak, akik részt vesznek az algoritmusok tényleges tervezésében és fejlesztésében, időt kell szánni a gondolkodásra körülbelül társadalmi felelősségvállalásukat, és közös normákat hoznak létre a szakmai etikához ezen a területen. ” -Ralph Müller-Eiselt
Hogyan lehet ezeket a problémákat minimalizálni?
Amint azt fentebb részletesebben kifejtettük, megelőző kockázatértékeléseket kell végeznünk, és biztosítanunk kell az algoritmusalapú alkalmazások folyamatos és átfogó értékelését semleges harmadik felek révén. Szélesebb nyilvános vitát kell indítanunk, és felhívni a figyelmet a felhasználásra, algoritmusok esélyei és kockázatai az oktatásban. Politikai döntéshozók számára, itt az ideje, hogy proaktív módon alakítsuk ki ezt a területet a társadalmi méltányosság felé. Az algoritmusok tényleges tervezésében és fejlesztésében részt vevőknek pedig időt kell szánniuk arra, hogy elgondolkozzanak társadalmi felelősségükről, és közös szabványokat alkossanak a szakmai etikához ezen a területen..
A mesterséges intelligenciát és az algoritmusokat újra kell igazítani a különböző oktatási rendszerekhez világszerte? Milyen fontos lesz a kulturális különbségek beépítése az AI megfogalmazásába?
A világ legtöbb oktatási rendszere közös abban, hogy célja, hogy felhatalmazza és támogassa az embereket egyéni képességeik és tehetségeik fejlesztésében., röviden: esélyegyenlőség megteremtésére. Azonban, e cél elérésének és elérésének számos módja van. Mindegyiknek megvan a maga erőssége és gyengesége. Ami egy helyen működik, nem feltétlenül működik más társadalmi kontextusban. Ugyanígy, algoritmus- és az AI-alapú alkalmazások kell igazítani az adott társadalmi-kulturális környezetben ők foglalkoztatják.
(Az összes kép jóvoltából CMRubinWorld)
C. M. Rubin és Ralph Müller-Eiselt
Csatlakozz hozzám és világszerte elismert szellemi vezetők többek között Sir Michael Barber (UK), DR. Michael blokk (Az US), DR. Leon Botstein (Az US), Professzor Clay Christensen (Az US), DR. Linda Darling-Hammond (Az US), DR. MadhavChavan (India), Charles Fadel (Az US), Professzor Michael Fullan (Kanada), Professzor Howard Gardner (Az US), Professzor Andy Hargreaves (Az US), Professzor Yvonne Hellman (Hollandiában), Professzor Kristin Helstad (Norvégia), Jean Hendrickson (Az US), Professzor Rose Hipkins (Új-Zéland), Professzor Cornelia Hoogland (Kanada), Tisztelt Jeff Johnson (Kanada), Mrs. Chantal Kaufmann (Belgium), DR. EijaKauppinen (Finnország), Államtitkár TapioKosunen (Finnország), Professzor Dominique Lafontaine (Belgium), Professor Hugh Lauder (UK), Lord Ken Macdonald (UK), Professor Geoff Masters (Ausztrália), Professzor Barry McGaw (Ausztrália), Shiv Nadar (India), Professzor R. Natarajan (India), DR. PAK NG (Szingapúr), DR. Denise Pope (US), Sridhar Rajagopalan (India), DR. Diane Ravitch (Az US), Richard Wilson Riley (Az US), Sir Ken Robinson (UK), Professzor Pasi Sahlberg (Finnország), Professzor Manabu Sato (Japán), Andreas Schleicher (PISA, OECD), DR. Anthony Seldon (UK), DR. David Shaffer (Az US), DR. Kirsten Magával ragadó Are (Norvégia), Chancellor Stephen Spahn (Az US), Yves Theze (LyceeFrancais számú amerikai egyesült államokbeli), Professor Charles Ungerleider (Kanada), Professzor Tony Wagner (Az US), Sir David Watson (UK), Professzor Dylan Wiliam (UK), DR. Mark Wormald (UK), Professzor Theo Wubbels (Hollandiában), Professzor Michael Young (UK), és professzor Minxuan Zhang (Kína) mivel azok feltárása a nagy kép oktatási kérdés, hogy minden nemzet ma szembesül.
A Global Search Oktatási közösségi oldal
C. M. Rubin a szerző két legolvasottabb internetes sorozat, amely megkapta a 2011 Upton Sinclair díjat, "A Global Search for Education" és "Hogyan fogjuk Olvasd?"Ő is a szerző három eladott könyvek, Beleértve The Real Alice Csodaországban, a kiadó CMRubinWorld és egy Disruptor Alapítvány ösztöndíjasa.
Kövesse C. M. Rubin on Twitter: www.twitter.com/@cmrubinworld
Legutóbbi hozzászólások