סטיבן הוקינג מזהיר שבינה מלאכותית עלולה להרוס לחלוטין את האנושות

AI נמצא בכל מקום. זה נמצא במנועי חיפוש וצ'אט בוטים, ואפילו מובנה ישירות בסמארטפון הבא שלך, והוא מבטיח לעזור להקל על חייך, אבל זה עלול גם לסיים אותם. זו האזהרה שסטיבן הוקינג מציג בראיון חדש בו הוא טוען שאנו בני האדם עשויים לבנות את האויב הגרוע ביותר של עצמנו מבלי לדעת זאת.

הרעיון של "בינה מלאכותית רוצחת", או מכונות אינטליגנטיות באופן מלאכותי המשעבדות את האנושות, הוא רעיון שנעשה בו שימוש והתעללות על ידי הוליווד במשך עשרות שנים. מ שליחות קטלנית ל אני רובוט, ציוויליזציות אנושיות בדיוניות הושמדו על ידי מוחות מכאניים יותר פעמים ממה שאנחנו יכולים לספור, אבל הוקינג אומר שהמציאות יכולה להיות חמורה בדיוק כמו בדיה.

"מחשבים יכולים, בתיאוריה, לחקות אינטליגנציה אנושית, ולעלות עליה", אמר הפיזיקאי והסופר בעל השם העולמי למשתתפים בפסגת האינטרנט בפורטוגל ביום שני. "הצלחה ביצירת בינה מלאכותית יעילה יכולה להיות האירוע הגדול ביותר בהיסטוריה של הציוויליזציה שלנו. או הגרוע מכל. אנחנו פשוט לא יודעים. אז אנחנו לא יכולים לדעת אם נעזור לאין ערוך על ידי הבינה המלאכותית, או שנתעלם על ידי זה ושיהיה לנו צד, או שאפשר להרוס אותנו על ידי זה."

הפחד של הוקינג ממכונות המופעלות על ידי בינה מלאכותית יטמיעו את האנושות לא קשור רק להופעתה של רובוטים אוטונומיים, אבל גם את הפוטנציאל של מערכות AI לתמרן על ידי בני אדם עם רע כוונות. "אלא אם כן נלמד כיצד להתכונן לסיכונים הפוטנציאליים ולהימנע מהם, בינה מלאכותית עשויה להיות האירוע הגרוע ביותר בהיסטוריה של הציוויליזציה שלנו", אמר. "זה מביא סכנות, כמו נשק אוטונומי חזק, או דרכים חדשות למעטים לדכא את הרבים."

זה חשש אמיתי מאוד, במיוחד כאשר השכיחות של טכנולוגיית נשק מופעל בינה מלאכותית ממשיכה לעלות. ניצול למערכות מחשוב מתגלה ומתעלל על ידי שחקנים מרושעים על בסיס קבוע, ובעוד שרוב הזמן רק מוביל לדליפות של מספרי כרטיסי אשראי או תעודת זהות, אתה יכול להמר שמדינות נוכלות ואפילו אנשים חסרי ציר הפועלים לבדם יחטטו וידרבו לראות איזה סוג של נזק הם יכולים גורם.

לא עבר זמן רב שהוקינג חשף את אמונתו כי לאנושות נותרו רק כ-100 שנים לפני שהיא תצטרך לברוח מכדור הארץ. אולי יהיו אלה הטעויות שלנו עם AI שיגרמו לנו לנטוש את הספינה.