ספקולציות באמצעות 'פיקציה עיצובית' עוזרת לחשוף הטיות אנושיות - לטוב ולרע.
מאת אלסיו מליזיה וסילביו קרטה/השיחה |
הסרט הקצר בוטיקי שחיטה מתאר עתיד קרוב בו נחילי רחפנים מיקרו מתנקשים באלפי אנשים בשל אמונתם הפוליטית. שוחרר בנובמבר 2017 על ידי אקדמאים ופעילים שהזהירו מפני הסכנות של בינה מלאכותית מתקדמת (AI), הוא הפך במהירות ויראלית, ומשך עד כה למעלה משלושה מיליון צפיות. זה עזר לעורר דיון ציבורי על עתיד הנשק האוטונומי והפעיל לחץ על דיפלומטים שנפגשו באו"ם אמנה בדבר נשק קונבנציונלי.
אבל סוג זה של סיפורי מדע בדיוני ספקולטיביים אינו שימושי רק למשיכת תשומת לב. האנשים שמתכננים ובונים טכנולוגיה מתקדמת יכולים להשתמש בסיפורים כדי לשקול את ההשלכות של עבודתם ולהבטיח שהיא ינוצלה לתמיד. ואנחנו חושבים שסוג זה של "אב-טיפוס מדע בדיוני" או "עיצוב בדיוני" יכול לעזור למנוע אנושיות הטיות מלפלס את דרכן לטכנולוגיה חדשה, תוך חיזוק הדעות הקדומות של החברה ו עוולות.
הטיה יכולה להוביל להעדפה שרירותית של קטגוריות מסוימות (של תוצאות, אנשים או רעיונות) על פני אחרות. לדוגמה, אנשים מסוימים עשויים להיות מוטים נגד העסקת נשים לעבודות מנהלים, בין אם הם מודעים לכך או שלא.
טכנולוגיה שנבנתה סביב נתונים שמתעדים הטיה כזו יכולה להסתיים משכפל את הבעיה. לדוגמה, תוכנת גיוס שנועדה לבחור את קורות החיים הטובים ביותר עבור עבודה מסוימת עשויה להיות מתוכנתת לחפש מאפיינים המשקפים הטיה לא מודעת כלפי גברים. במקרה זה, האלגוריתם יעדיף בסופו של דבר קורות חיים של גברים. וזה לא תיאורטי - זה באמת קרה לאמזון.
עיצוב אלגוריתמים מבלי לקחת בחשבון השלכות שליליות אפשריות הושווה לרופאים ש"כותבים על היתרונות של טיפול נתון ומתעלמים לחלוטין מתופעות הלוואי, לא משנה כמה הן חמורות".
כמה חברות טכנולוגיה וחוקרים מנסים להתמודד עם הבעיה. לדוגמה, גוגל הכינה א מערכת עקרונות אתיים להנחות את פיתוח הבינה המלאכותית שלה. ואקדמאים בבריטניה השיקו יוזמה בשם לא שווה שמטרתו לעודד הוגנות וצדק רב יותר בעיצוב ובשימוש בטכנולוגיה.
הבעיה היא שבפומבי, חברות נוטות לספק רק חזון חיובי של ההשלכות הפוטנציאליות של טכנולוגיות עתידיות קרובות. לדוגמה, מכוניות ללא נהג מוצגות לעתים קרובות כפותרות את כל בעיות התחבורה שלנו, מהעלות לבטיחות, תוך התעלמות מהעלייה סכנות של מתקפות סייבר או העובדה שהם יכולים לעודד אנשים לעשות זאת ללכת או לרכב פחות.
הקושי בהבנה כיצד פועלות טכנולוגיות דיגיטליות, במיוחד אלו המונעות על ידי אלגוריתמים לא ברורים, גם מקשה על אנשים לקבל ראייה מורכבת ומקיפה של הנושאים. מצב זה מייצר מתח בין נרטיב חיובי מרגיע לבין החשד המעורפל שהטיות מוטמעות במידה מסוימת בטכנולוגיות שסביבנו. זה המקום שבו אנחנו חושבים שסיפור סיפורים באמצעות בדיוני עיצוב יכול להיכנס לתמונה.
סיפורים הם שיטה טבעית לחשיבה על אפשרויות ומצבים מורכבים, ואנחנו שומעים אותם כל חיינו. מדע בדיוני יכול לעזור לנו לשער על ההשפעה של טכנולוגיות עתיד קרוב על החברה, כמו בוטיקי שחיטה עושה. זה יכול אפילו לכלול סוגיות של צדק חברתי, כמו הדרך שבה קבוצות מסוימות, כמו פליטים ומהגרים, יכולות להיות לא נכלל מ חידושים דיגיטליים.
חושפים את העתיד (האפשרי).
עיצוב סיפורים בדיוניים לספק דרך חדשה למעצבים, מהנדסים ועתידנים (בין היתר) לחשוב על השפעת הטכנולוגיה מנקודת מבט אנושית ולקשר זאת לצרכים עתידיים אפשריים. עם תערובת של הגיון ודמיון, בדיוני עיצוב יכול לחשוף היבטים של האופן שבו ניתן לאמץ ולהשתמש בטכנולוגיה, להתחיל שיחות על השלכות עתידיות.
לדוגמה, הסיפור הקצר "מקורות פשע" בוחן מה עלול לקרות אם בינה מלאכותית הייתה משתמשת במידע ממקור המונים ובמסד נתונים פלילי כדי לחזות מי עלול לבצע רצח. החוקרים גילו שבגלל שמאגר הנתונים היה מלא באנשים מקבוצות אתניות מיעוטים שעבורם מסיבות חברתיות, היו בעלי סבירות סטטיסטית גבוהה יותר לפגוע בשנית, מודל "מיקור הפשע" היה סביר יותר ל חשודים בטעות במיעוטים מאשר אנשים לבנים.
אתה לא צריך להיות סופר מוכשר או ליצור סרט חלקלק כדי להפיק ספרות עיצובית. פעילויות סיעור מוחות הכוללות קלפים ולוחות סיפור היה בשימוש לפתח סיפורת עיצובית ולעזור בפיתוח תהליך הסיפור. הפיכת סדנאות שהשתמשו בכלים מסוג זה לנפוצות יותר תאפשר ליותר מהנדסים, יזמים וקובעי מדיניות להשתמש בשיטת הערכה זו. והפיכת העבודה שתתקבל לציבור תעזור לחשוף הטיות פוטנציאליות בטכנולוגיות לפני שהן משפיעות על החברה.
עידוד מעצבים ליצור ולשתף עוד סיפורים בדרך זו יבטיח את הנרטיב הזה העומד בבסיס הטכנולוגיה החדשה לא תציג רק תמונה חיובית, וגם לא או שלילית ביותר דיסטופי. במקום זאת, אנשים יוכלו להעריך את שני ההיבטים של מה שקורה סביבנו.
אלסיו מליזיה הוא פרופסור לעיצוב חווית משתמש באוניברסיטת הרטפורדשייר.
סילביו קרטה הוא ראש תחום אמנות ועיצוב ויו"ר קבוצת המחקר לעיצוב באוניברסיטת הרטפורדשייר.
מאמר זה הוצג במקור ב השיחה.
