הצבא מרכיב כוח משימה גנרטיבי של AI

יישומי בינה מלאכותית פופולריים כמו ChatGPT או DALL-E הופכים פופולריים יותר בקרב ההמונים, ומשרד ההגנה שם לב. כדי להקדים את השימושים והסיכונים הפוטנציאליים של כלים כאלה, ב-10 באוגוסט, ה-DoD הכריז יצירת כוח משימה חדש לנתח ואולי לשלב בינה מלאכותית גנרטיבית בפעולות הנוכחיות.

AI הוא מונח לא מדויק, והטכנולוגיות שיכולות ליצור כותרות על בינה מלאכותית עושות זאת לעתים קרובות בגלל הפגמים שלהן כמו בגלל התועלת הפוטנציאלית שלהן. כוח המשימה של הפנטגון הוא הכרה בפוטנציאל הטמון בכלים כאלה, תוך מתן צבאי איזה מרווח נשימה כדי להבין מה, בדיוק, זה עשוי למצוא שימושי או מאיים בכאלה כלים.

בעוד שלמחקר הפנטגון על AI בהחלט יש השלכות לגבי המשמעות של זה בסופו של דבר עבור כלי נשק, לב העניין הוא בעצם השימוש בו כדי לעבד, להבין ולשאוב תחזיות מסוימות מהאוסף שלו נתונים. לפעמים הנתונים האלה נוצצים, כמו קטעי וידאו שתועדו על ידי מל"טים של פגישות חשודות במורדים, או של תנועות כוחות עוינות. עם זאת, הרבה מהנתונים שנאספים על ידי הצבא הם ארציים במיוחד, כמו יומני תחזוקה למסוקים ומשאיות.

אפשר אולי לאמן בינה מלאכותית גנרטיבית על מערכי נתונים בלעדיים לצבא, ולספק תוצאות שמציעות תשובות שהצבא עשוי לחפש. אבל התהליך אולי לא כל כך פשוט. כלי הבינה המלאכותית של היום מועדים לשגיאות, ובינה מלאכותית כזו עשויה גם ליצור מידע מטעה שעלול להיכנס לניתוחים במורד הזרם, ולהוביל לבלבול. האפשרות ו סיכון לשגיאת AI היא ככל הנראה אחת הסיבות לכך שהצבא נוקט בגישה זהירה לחקר בינה מלאכותית, במקום חיבוק מלא של הטכנולוגיה מההתחלה.

לימוד הבינה המלאכותית הגנרטיבית יתקיים על ידי כוח המשימה לימה המאורגן לאחרונה, שיובל על ידי המשרד הראשי לדיגיטל ולבינה מלאכותית. CDAO נוצר בעצמו ב פברואר 2022, מתוך שילוב של כמה משרדים אחרים של הפנטגון לאחד שנועד לעזור לצבא להשתמש טוב יותר בנתונים ובינה מלאכותית.

"ל-DoD יש חובה להמשיך באחריות לאימוץ מודלים של בינה מלאכותית תוך זיהוי מתאימים אמצעי הגנה והפחתת סיכוני ביטחון לאומי שעלולים לנבוע מבעיות כמו הכשרה מנוהלת בצורה לקויה נתונים", אמר קרייג מרטל, קצין הבינה הדיגיטלית והבינה המלאכותית הראשית של DoD. "עלינו לשקול גם באיזו מידה יריבינו ישתמשו בטכנולוגיה הזו ויבקשו לשבש את השימוש שלנו בפתרונות מבוססי בינה מלאכותית."

אפשרות זדונית כזו של בינה מלאכותית גנרית היא השימוש בה למידע שגוי. בעוד שדגמים מסוימים של יצירת תמונות משאירים מספרים ברורים למדי לתמונות ששונו, כמו אנשים עם מספר יוצא דופן של אצבעות ושיניים מיותרות, תמונות רבות סבירות ואף משכנעות בהתחלה מַבָּט. במרץ, תמונה שנוצרה בינה מלאכותית של האפיפיור פרנציסקוס במעיל בלנסיאגה הוכח כמשכנע לאנשים רבים, אפילו כשמקור ה-AI שלו הפך ידוע וניתן לשחזור. עם דמות ציבורית כמו האפיפיור, קל לוודא אם הוא צולם או לא לבוש ז'קט נפוח. כשזה מגיע לענייני צבא, תמונות שצולמו על ידי הצבא יכולות להיות איטיות להסרת הסיווג, וקשה להפריך את אמיתותו של זיוף שנעשה היטב.

[קָשׁוּר: מדוע תמונת AI של האפיפיור פרנציסקוס במעיל זבוב הסעירה את האינטרנט]

שימוש זדוני בתמונות ובנתונים שנוצרו על ידי בינה מלאכותית מושך את העין - מעשה מרושע המתאפשר באמצעות טכנולוגיה מודרנית. תוצאה של לפחות באותה מידה יכולה להיות טעות שגרתית. דניס קובטון, עמית קיץ בבית ניתוח הקוד הפתוח Bellingcat, בָּדוּק ה-Bard AI של גוגל וה-Bing AI של מיקרוסופט כ-chatbots שיכולים לתת מידע על תמונות שהועלו. Kovtun ניסה לראות אם בינה מלאכותית יכולה לשחזר את התהליך שבו תמונה ממוקמת גיאוגרפית (כאשר סך הפרטים המרוכב מאפשר לאדם לאתר את מקור התצלום).

"מצאנו שבעוד שבינג מחקה את האסטרטגיות שבהן משתמשים חוקרי קוד פתוח לאיתור גיאוגרפי של תמונות, הוא לא יכול לאתר תמונות גיאוגרפיות בהצלחה בעצמו", כותב קובטון. "התוצאות של בארד אינן מרשימות בהרבה, אבל היא נראתה זהירה יותר בנימוק שלה ופחות נוטה ל'הזיות' בינה מלאכותית. שניהם דרשו הנחיה נרחבת מהמשתמש לפני שהם יכלו להגיע לכל מיקום גיאוגרפי משביע רצון באמצע הדרך." 

'הזיות' אלה של בינה מלאכותית הן כאשר ה-AI משלב מידע שגוי מנתוני האימון שלו לתוך התוצאה. הצגת מידע חדש ושגוי עלולה לערער כל הבטחה כלי עזר חוסך עבודה של כלי כזה.

"עתיד ההגנה אינו רק על אימוץ טכנולוגיות מתקדמות, אלא לעשות זאת מתוך ראיית הנולד, אחריות והבנה עמוקה של ההשלכות הרחבות יותר על האומה שלנו", אמרה סגנית שרת ההגנה קתלין היקס בהכרזה על הקמת כוח המשימה לימה.

צבא ארה"ב, כארגון, חושש במיוחד הפתעה טכנולוגית, או התפיסה שאומה יריבה יכולה לפתח כלי חדש וחזק מבלי שארה"ב תהיה מוכנה לכך. בעוד היק הדגיש את הזהירות הדרושה בפיתוח AI גנרטיבי לשימוש צבאי, מפקד המשימה של כוח המשימה לימה, Xavier Lugo, תיאר את העבודה כעל יישום תוך ניהול סיכונים.

"השירותים והפיקודים הלוחמים מחפשים באופן פעיל למנף את היתרונות ולנהל את הסיכונים של יכולות בינה מלאכותית [מודלים של לימוד שפות] על פני מספר תחומי משימה, כולל מודיעין, תכנון תפעולי, פרוגרמטי ועסקי תהליכים", אמר לוגו. "על ידי תעדוף מאמצים, צמצום כפילות ואספקת פיגומי AI מאפשרים, כוח המשימה לימה להיות מסוגל לעצב את היישום האפקטיבי והאחראי של [מודלים למידת שפה] לאורך כל הדרך DoD."