"אלגוריתמים הם כמו מוטה כמו בני האדם שעצבו או והטיל עליהם עם כוונה מסוימת. אנחנו צריכים לכן להצית דיון פתוח על המטרות של מערכות תוכנה עם השפעה חברתית "-. ראלף מולר-Eiselt
אלגוריתמים מוטים נמצאים בכל מקום, כך ברגע קריטי בהתפתחות של למידה חישובית ו- AI, למה אנחנו לא מדברים על הבעיות החברתיות זו מציבה?
בספרה, נשק להשמדה מתמטיקה - איך נתונים ביג גדל אי השוויון ואת מאיים על הדמוקרטיה, קאתי אוניל מציין כי "תהליכי נתונים גדולים מקודד בעבר" אבל הם לא "להמציא את העתיד." איך אנחנו מרגישים לגבי מכונות להשפיע המוסדות האנושיים שלנו? מי מגן על איכות החיים כאשר אלגוריתמים אחראים? אוניל טוען כי המגע האנושי חיוני "להטביע ערכים טובים לאלגוריתמים שלנו."
ראלף מולר-Eiselt הוא מומחה למדיניות חינוך וממשל וראש taskforce של ברטלסמן קרן על אתגרים והזדמנויות מדיניות בעולם דיגיטלי. ב "אתיקה של אלגוריתמים" האחרון שלו פרויקט (הוא ממחברי מהפכת החינוך הדיגיטלי; כותרת אנגלית – המהפכה הדיגיטלית של החינוך), הוא לוקח מבט מקרוב על ההשלכות של קבלת החלטות אלגוריתמית ואינטליגנציה מלאכותית בחברה ובחינוך. הוא מצטרף גלובל החיפוש לחינוך לדבר על AI, אלגוריתמים ומה על כל לחשוב על.
“זה תלוי בנו כדי לקבוע אם AI בחינוך יהיה זרז עבור חיזוק הון עצמי חברתי - או מחליש אותו.” — ראלף מולר-Eiselt
ראלף, איך אנחנו מבטיחים כי אלגוריתמים תמיד נתפשים להשיג השפעה חיובית עבור חברות וחינוך, במקום סכנה או סיכון?
אלגוריתמים הם כמו מוטה כמו בני האדם שעצבו או והטיל עליהם עם כוונה מסוימת. לכן עלינו לעורר דיון פתוח על המטרות של מערכות תוכנה עם השפעה חברתית. זה תלוי בנו כחברה להחליט איפה מערכות כאלה יש להשתמש כדי לוודא כי הם נועדו עם המטרות התקינות בראש. שנית, עלינו לזכור כי גם אלגוריתמים שתוכננו עם כוונות טובות יכולים לייצר תוצאות רעות. את ההשפעות הפוטנציאליות שלהם גדולות יותר על השתתפות פרט בחברה הן, יותר חשוב להם הערכת סיכונים מניעה - פעם קבלת החלטות אוטומטיות נמצאת בשימוש - הערכה מקיפה כדי לאמת את התוצאות המצופות. שמעורב בו צד שלישי נייטרלי תהליך זה יכול לעזור באופן משמעותי לבנות אמון בקבלת החלטות מבוססות תוכנה.
איך אפשר להעריך אם הם משיגים מה נועד?
דין וחשבון שקוף הוא מפתח כשמדובר יישומים וכלי אלגוריתם המבוסס בהערכה. זה לא אומר שאנחנו צריכים לעשות את הקוד של אלגוריתמים נגישים לציבור. למעשה, כי לא היה בכלל להיות מועיל עבור אנשים המושפעים ביותר כדי לקבל הבנה של איך החלטות מושכלות אלגוריתם נעשות. במקום זאת, אנחנו צריכים מנגנונים כמו דוחות מובנים מאליהם של מטרה עבור אלגוריתמים שיכולים להיות מאומת על ידי הערכה באמצעות מומחים ניטראליים אשר מוענקים גישה למידע והנתונים הרלוונטיים. הערכות אלה צריכים להיות מעוצבים באופן הכי הוליסטי ככל האפשר על מנת לבדוק אם אלגוריתמים בעצם משרתים את המטרות המיועד לחשוף סיכונים האמיתיים ועל סיכוייהם.
"אמנם יש הזדמנויות אדירות עבור ייעוץ-הודיע אלגוריתם על בחירות לימודים מוכווני יכולת ואפשרויות עבודה, אנו עשויים לא עוצמים את עינינו בפני הסכנות של מיקוד לקוחות חלשים, אפליה והדרה סטנדרטית בשוק העבודה בקנה מידה גדול "-. ראלף מולר-Eiselt
איך אתה רואה אלגוריתמים AI הסתגלות מערכות החינוך מתפתחות?
העידן הדיגיטלי מציע מספר הערכים המוספים פוטנציאליים ללימודים. רבים מהם הם מטבעם תלויים בשימוש של נתונים מחוברים - להיות אותו אישית למידה, התגברות על מחסומי מוטיבציה באמצעות משחוק, מתן אוריינטציה בג'ונגל של הזדמנויות, או לא לפחות, התאמת יכולות פרט עם דרישות שוק העבודה. השימוש באלגוריתמים ו- AI במגזר החינוך הוא עדיין בשלב הראשוני שלה, עם הרבה ניסוי וטעייה כדי לצפות. אבל הטכנולוגיה יכולה ויהיה די בהחלט לעזור להתפתח כל הנושאים הללו בעתיד הקרוב מאוד. מאז זה עשוי להשפיע על חינוך די הרבה בקנה מידה, קובעי המדיניות צריכים עדיף לא מחכים לדברים האלה לקרות ולהגיב לאחר מכן, אבל לעצב רגולציה החברה כלפי בשמירה על טובת הציבור באופן פעיל. זה תלוי בנו כדי לקבוע אם AI בחינוך יהיה זרז עבור חיזוק הון עצמי חברתי - או החלשתו.
איך אנחנו יכולים להתאים אישית AI להסתגל בכל כיתה ובכל הצרכים של הילד?
למידה מותאמת אישית לפתח יכולות פרט טוב הוא אחת ההזדמנויות העיקריות של למידה דיגיטלית. אלגוריתם מבוסס יישומי AI יכולים דמוקרטיזצית גישה לחינוך אישית כי מסיבות הקשורות עלות היה בעבר זמין רק למספר מצומצם של אנשים. אבל יש קו דק בין ההבטחה בסכנה של AI בחינוך. אמנם יש הזדמנויות אדירות עבור ייעוץ-הודיע אלגוריתם על בחירות לימודים מוכווני יכולת ואפשרויות עבודה, אנו עשויים לא עוצמים את עינינו בפני הסכנות של מיקוד לקוחות חלשים, אפליה והדרה סטנדרטית בשוק העבודה בקנה מידה גדולה.
מאז AI נעשית על ידי בני אדם, אלגוריתמים האם יש סיכון כי ו- AI לא יעבדו בצורה מדויקת בסביבה חינוכית בשל טעות אנושה? כיצד ישפיע טעויות השפעת AI חוויית הלמידה?
אלגוריתמים הם רק טובים כמו בני האדם שתכנן אותם. טעות אנושה יכולה לתרגם אלגוריתם בשלבים רבים: מאיסוף ובחירת הנתונים לאורך תכנות האלגוריתם כדי לפרש את תפוקתו. לדוגמא, אם אלגוריתם משתמש בנתונים הסטוריים, אשר מוטה לכיוון מסוים בשל דפוסי מפלה של העבר, האלגוריתם ילמד מן הדפוסים הללו וככל הנראה גם לחזק אפליה זו כאשר הוא משמש בקנה המידה. טעויות בלתי מכוונות כזה צריכות להימנע לחלוטין ובדק כל זמן, מאז הם ירחיב פערים חברתיים בחינוך.
"ל קובעי מדיניות, עכשיו זה הגיע הזמן לעצב את השדה הזה באופן יזום כלפי העצמי החברתי יותר. ואלה במעורבות בתכנון ופיתוח בפועל של אלגוריתמים צריכים לקחת את הזמן כדי לשקף על האחריות החברתית שלהם וליצור סטנדרטים משותפים עבור אתיקה מקצועית בתחום זה "-. ראלף מולר-Eiselt
איך יכול סוגיות אלה להיות ממוזערות?
כפי שהוסבר ביתר פירוט לעיל, אנחנו צריכים לעשות הערכת סיכונים מניעה ולהבטיח הערכה מתמדת ומקיפה של יישומים מבוססי אלגוריתם באמצעות צדדים שלישיים ניטראליים. אנחנו צריכים גם לעורר דיון ציבורי רחב יותר ולהעלות את המודעות לשימוש, סיכויים וסיכונים של אלגוריתמים בחינוך. עבור קובעי מדיניות, עכשיו זה הגיע הזמן לעצב את השדה הזה באופן יזום כלפי העצמי החברתי יותר. ואלה במעורבות בתכנון ופיתוח בפועל של אלגוריתמים צריכים לקחת את הזמן כדי לשקף על האחריות החברתית שלהם וליצור סטנדרטים משותפים עבור אתיקה מקצועית בתחום זה.
האם AI ואלגוריתמים צריך להיות וסידרה עבור מערכות חינוך שונות ברחבי העולם? עד כמה חשוב זה יהיה לשלב הבדלים תרבותיים לתוך הניסוח של AI?
מה מערכות חינוך בעולם יש מכנה משותף הוא כי הם שואפים להעצים ולתמוך אנשים בפיתוח היכולות האישיות שלהם ואת הכשרון, בקצרה: כדי ליצור שוויון הזדמנויות. עם זאת, הדרכים להתקרב ולהשיג מטרה זו הן מגוונות. כל אחד מהם יש את נקודות החוזק והחולשה שלהם. מה שעובד במקום אחד לא בהכרח יעבוד בהקשר חברתי אחר. באותה הדרך, אַלגוֹרִיתְם- יישומים מבוססים AI צריכים להיות מותאמים להגדרות סוציו-התרבותיות המסוימות הם להיות מועסקות.
(כל התמונות הן באדיבות CMRubinWorld)
C. M. רובין ראלף מולר-Eiselt
הצטרף אליי ולמנהיגי מחשבה מוכרת בעולם כולל סר מייקל ברבר (בריטניה), DR. מיכאל בלוק (ארה"ב), DR. ליאון בוטשטיין (ארה"ב), פרופסור קליי כריסטנסן (ארה"ב), DR. לינדה דרלינג-Hammond (ארה"ב), DR. MadhavChavan (הודו), צ'ארלס פאדל (ארה"ב), פרופ 'מיכאל Fullan (קנדה), פרופ 'הווארד גרדנר (ארה"ב), פרופ 'אנדי הארגריבס (ארה"ב), פרופ 'איבון הלמן (הולנד), פרופ 'קריסטין Helstad (נורווגיה), ז'אן הנדריקסון (ארה"ב), פרופ 'רוז Hipkins (ניו זילנד), פרופ 'קורנליה הוגלנד (קנדה), הכבוד ג'ף ג'ונסון (קנדה), גברת. שנטל קאופמן (בלגיה), DR. EijaKauppinen (פינלנד), מזכיר המדינה TapioKosunen (פינלנד), פרופ 'דומיניק לפונטיין (בלגיה), פרופ 'יו לאודר (בריטניה), לורד קן מקדונלד (בריטניה), פרופ 'ג'ף מאסטרס (אוסטרליה), פרופ 'בארי McGaw (אוסטרליה), שיב נדאר (הודו), פרופ 'R. נטריגין (הודו), DR. PAK NG (סינגפור), DR. דניז אפיפיור (ארה"ב), שרידהר ךאג'גופלן (הודו), DR. דיאן ראוויטש (ארה"ב), ריצ'רד וילסון ריילי (ארה"ב), סר קן רובינסון (בריטניה), פרופ Pasi Sahlberg (פינלנד), פרופ Manabu סאטו (יפן), אנדריאס שלייכר (PISA, OECD), DR. אנתוני סלדון (בריטניה), DR. דוד שפר (ארה"ב), DR. קירסטן Immersive Are (נורווגיה), קנצלר סטיבן ספאן (ארה"ב), איב Theze (LyceeFrancais ארה"ב), פרופ 'צ'רלס Ungerleider (קנדה), פרופ 'טוני וגנר (ארה"ב), סר דייוויד ווטסון (בריטניה), פרופסור דילן Wiliam (בריטניה), DR. מארק Wormald (בריטניה), פרופ 'תיאו Wubbels (הולנד), פרופ 'מייקל יאנג (בריטניה), ופרופ 'Minxuan ג'אנג (סין) כפי שהם לחקור שאלות חינוך תמונה הגדולות שכל המדינות מתמודדות היום.
גלובל החיפוש לחינוך עמוד קהילה
C. M. רובין הוא המחבר שתי סדרות מקוונות רבים קוראות שלהיא קיבלה 2011 הפרס אפטון סינקלר, "גלובל החיפוש לחינוך" ו- "איך תוכלו לקרוא?"היא גם מהחבר של שלושה ספרים רבי מכר, כולל אליס בארץ הפלאות Real, הוא המוציא לאור של CMRubinWorld והוא משבש קרן עמית.
עקוב C. M. רובין בטוויטר: www.twitter.com/@cmrubinworld
תגובות אחרונות