ביום שלישי, קבוצה הכוללת את המוחות המובילים של AI הכריזה שאנו עומדים בפני 'משבר הכחדה'.
למעלה מ-350 חוקרי בינה מלאכותית, אתיקים, מהנדסים ומנהלי חברה חתמו יחד על הצהרת משפט בודד בת 22 מילים על הסיכונים הקיומיים הפוטנציאליים של הבינה המלאכותית עבור האנושות. נערך על ידי העמותה המרכז לבטיחות בינה מלאכותית, קונסורציום הכולל את "סנדק הבינה המלאכותית," ג'פרי הינטון, מנכ"ל OpenAI, סם אלטמן, ו מיקרוסופט קצין הטכנולוגיה הראשי קווין סקוט מסכים ש"הפחתת סכנת ההכחדה מבינה מלאכותית צריכה להיות בעדיפות עולמית לצד סיכונים אחרים בקנה מידה חברתי כמו מגפות ומלחמה גרעינית".
ההודעה בת 22 המילים וההסמכות שלה מהדהדות את א מכתב משותף דומה, מעט ארוך יותר שוחרר מוקדם יותר השנה בקריאה ל"הקפאה" של שישה חודשים על מחקר לפיתוח AI חזק יותר מאשר GPT-4 של OpenAI. מורטוריום כזה טרם יושם.
[קָשׁוּר: יש בעיה בולטת עם מכתב הקפאת הבינה המלאכותית.]
מדבר עם הניו יורק טיימס ביום שלישי, מנכ"ל המרכז לבטיחות בינה מלאכותית, דן הנדריקס, תיאר את המכתב הפתוח כ"יוצא" לכמה ממנהיגי התעשייה. "יש תפיסה שגויה מאוד נפוצה, אפילו בקהילת הבינה המלאכותית, שיש רק קומץ של דומים. אבל, למעשה, אנשים רבים באופן פרטי היו מביעים דאגות לגבי הדברים האלה", הוסיף הנדריקס.
אבל המבקרים נשארים זהירים הן מהמניעים מאחורי הצהרות פומביות כאלה, כמו גם מהיתכנותן.
"אל תלכו שולל: זה הייפ משרת עצמי שמחופש להרמת אזעקה", אומר דילן בייקר, מהנדס מחקר ב- מכון מחקר AI מבוזר (DAIR), ארגון המקדם פיתוח בינה מלאכותית אתית. מדבר עם PopSci, בייקר המשיך וטען שהדיונים הנוכחיים לגבי סיכונים קיומיים היפותטיים מסיטים את דעת הציבור והרגולטורים מ"הנזקים הקונקרטיים של AI כיום". נזקים כאלה כוללים "הגברה פגיעה אלגוריתמית, מרוויחים עבודה מנוצלת ונתונים גנובים, ותדלוק קריסת אקלים עם צריכת משאבים".
תגובה נפרדת פורסם לראשונה מאת DAIR בעקבות המכתב הפתוח של מרץ והעלתה מחדש ביום שלישי, טוענת הקבוצה, "הנזקים של מה שנקרא AI הם אמיתיים ונוכחים ונובעים ממעשיהם של אנשים ותאגידים הפורסים מערכות אוטומטיות. מאמצי הרגולציה צריכים להתמקד בשקיפות, אחריות ומניעת שיטות עבודה נצלניות".
הנדריקס, לעומת זאת, מאמין כי "בדיוק כפי שזה יהיה פזיז לתעדף בלעדי את הנזקים הנוכחיים, זה יהיה פזיז גם להתעלם מהם בתור נו." הנדריקס השווה את הרגע שבו מדעני אטום הזהירו את העולם מפני הטכנולוגיות שהם יצרו קודם לכן מצטט את J. רוברט אופנהיימר, "ידענו שהעולם לא יהיה אותו הדבר."
[קָשׁוּר: עדכון ChatGPT החדש של OpenAI עדיין יכול להפיץ תיאוריות קונספירציה.]
"הם בעצם אומרים 'תעצור אותי!' תיאורטיקן תקשורת וטכנולוגיה דאגלס רושקוף כתב במאמר פורסם ביום שלישי. הוא הוסיף כי שילוב של "הייפ, חוסר רצון, שיווק ופרנויה" מעודד כיסוי בינה מלאכותית ומסתיר את הטכנולוגיה של בעיות מאוד אמיתיות, שניתן להוכיח בעוד חברות מנסות לגבש את אחיזתן בענף. "זה רק סוג של בלוף", הוא כתב, "מצטער, אבל אני פשוט לא קונה את זה.”
במייל נפרד ל PopSci, סיכם רושקוף את מחשבותיו, "אם הייתי צריך לעשות ציטוט קצר יחסית להכרזתם, הייתי פשוט אומר: הם מתכוונים לטוב. רובם."
