תמונות של קרולקו
עשרות מנהלי טכנולוגיה ממוקדי בינה מלאכותית, כולל מנכ"ל טסלה אילון מאסק, קוראים לקבוצת עבודה של האו"ם לדחוף קדימה עם תוכנית לאסור רובוטים רוצחים.
"נשק אוטונומי קטלני מאיים להפוך למהפכה השלישית בלוחמה", כתבה קבוצת המנכ"לים והמנהלים הטכנולוגיים. מכתב פתוח מאורגן על ידי מכון עתיד החיים ופורסם ביום ראשון. "לאחר שהתפתחו, הם יאפשרו להילחם בסכסוך מזוין בקנה מידה גדול מתמיד, ובטווחי זמן מהירים ממה שבני אדם יכולים להבין. אלה יכולים להיות כלי נשק טרור, כלי נשק שעריצים ומחבלים משתמשים בהם נגד אוכלוסיות תמימות וכלי נשק שנפרצו כדי להתנהג בדרכים לא רצויות".
קל לדמיין את תרחישי הסיוט הפוטנציאליים כאן. אתה רק צריך לחשוב על שליחות קטלניתשל Skynet, או זֶה מסע בין כוכבים: הדור הבא פרק איפה מִפְעָל חברי הצוות ניצודים על ידי מערכת נשק אוטומטית שמתבררת כהדגמת מכירות על ידי סוחר נשק שלא מזמן.
אבל לנסח איסור בר ביצוע ולגרום לעשרות מדינות לחתום עליו אולי לא קל.
מדינות ברחבי העולם עובדות באופן פעיל על מערכות נשק אוטונומיות מתקדמות מתמיד. ארצות הברית משתמשת במזל"טים המנוהלים מרחוק במזרח התיכון כבר קרוב לעשור, וישראל פועלת
צריחי נשק המופעלים מרחוק לשמור על גדרות הגבול ליד עזה.השלב הבא, בפיתוח פעיל בארצות הברית ובמקומות אחרים, יהיה מערכות נשק חצי אוטונומיות שבהן בני אדם קבל רק החלטות ברמה גבוהה יותר - במיוחד אם להשתמש בכוח קטלני - בזמן שכלי רכב מקבלים החלטות ניווט שגרתיות על שֶׁלוֹ. לצבא ארה"ב יש כינה את האסטרטגיה שלה "קנטאור"., שבהן מערכות נשק מנצלות את מיטב היכולות של בינה אנושית וגם של בינה מלאכותית. במערכת מסוג זה, מפעילים אנושיים עשויים לנהל נחילי מטוסים קטנים או שיירות של כלי רכב, בבחירת יעדים ומטרות בלחיצת עכבר ממרחק אלפי קילומטרים ולתת לתוכנה להבין טקטיקה ספציפית החלטות.
וזה מצביע על הסיבה שקבלת איסור בר-ביצוע עשויה להיות כל כך מאתגרת: אין קו ברור בין מערכות מנווטות מרחוק לבין מערכות אוטונומיות לחלוטין. גם אם בני אדם יישארו אחראים, יהיו יתרונות גדולים לתכנות מחשבים כדי להבין הסביבה הסובבת אותם, מה שמאפשר להם לנווט בחלל, לזהות מטרות פוטנציאליות וכדומה הָלְאָה.
וברגע שלמל"טים יש את היכולת לזהות באופן אוטונומי איומים פוטנציאליים, ההחלטה האם לבקש אישור אנושי לפני ירי על מטרות תהיה שאלה של איך רובוטים מוגדרים - משהו שיכול להשתנות בקלות באמצע מלחמה אם קבלת החלטות אנושית תתברר כ צַוַאר הַבַּקבּוּק.
אז גם אם מדינות הגיעו לקונצנזוס שרצוי איסור על נשק אוטונומי לחלוטין, לא ברור שלאיסור יהיו שיניים. לצבאות הגדולים לא תהיה ברירה אלא לפתח את היכולות הטכניות לבנייה אוטונומית מלאה רובוטים ולהמיר במהירות את המל"טים האוטומטיים למחצה שלהם למצב אוטונומי מלא אם הצורך הצבאי דורש זה. ואם האפשרות הזו קיימת, איזו מדינה תשתמש בה.
האיום של רובוטים קטלניים היה דאגה זמן רב עבור מאסק. הוא חתם על מכתב דומה ב-2015 ותרם 10 מיליון דולר למכון Future of Life כדי לתמוך בטכנולוגיות AI שעוזרות לאנושות במקום לפגוע בה.
