הכוח העצום והסכנה הפוטנציאלית של קוד שנוצר בינה מלאכותית

ביוני 2021, הודיעה GitHub Copilot, סוג של השלמה אוטומטית לקוד מחשב המופעל על ידי טכנולוגיית יצירת הטקסט של OpenAI. הוא סיפק הצצה מוקדמת לפוטנציאל המרשים של גנרטיב בינה מלאכותית להפוך עבודה בעלת ערך לאוטומטי. שנתיים לאחר מכן, Copilot היא אחת הדוגמאות הבוגרות ביותר לאופן שבו הטכנולוגיה יכולה לקחת על עצמה משימות שבעבר היו צריכים להיעשות ביד.

השבוע GitHub פרסם דוח, המבוסס על נתונים של כמעט מיליון מתכנתים שמשלמים כדי להשתמש ב-Copilot, שמראה עד כמה קידוד AI מחולל שינוי הפך. בממוצע, הם קיבלו את ההצעות של עוזר הבינה המלאכותית בערך 30 אחוז מהמקרים, מה שמרמז שהמערכת טובה להפליא בחיזוי קוד שימושי.

התרשים המרשים שלמעלה מראה כיצד משתמשים נוטים לקבל יותר מההצעות של Copilot ככל שהם מבלים יותר חודשים בשימוש בכלי. הדו"ח גם מסיק שקודנים משופרים בינה מלאכותית רואים את הפרודוקטיביות שלהם עולה לאורך זמן, בהתבסס על העובדה מחקר קופיילוט קודם דיווח על קשר בין מספר ההצעות שהתקבלו לבין הפרודוקטיביות של המתכנת. הדו"ח החדש של GitHub אומר שרווחי הפרודוקטיביות הגדולים ביותר נראו בקרב מפתחים פחות מנוסים.

על פניו, זו תמונה מרשימה של טכנולוגיה חדשה שמוכיחה במהירות את ערכה. כל טכנולוגיה שמשפרת את הפרודוקטיביות ו מגביר את היכולות של עובדים פחות מיומנים יכול להיות ברכה הן לאנשים פרטיים והן לכלכלה הרחבה יותר. GitHub ממשיך ומציע כמה ספקולציות מאחורי המעטפה, ומעריך כי קידוד AI יכול להגביר את התמ"ג העולמי ב-1.5 טריליון דולר עד 2030.

אבל התרשים של GitHub שמראה מתכנתים המתקשרים עם Copilot הזכיר לי מחקר אחר ששמעתי עליו לאחרונה בזמן ששיחקתי איתם טליה רינגר, פרופסור באוניברסיטת אילינוי באורבנה-שמפיין, על מערכת היחסים של קודנים עם כלים כמו Copilot.

בסוף השנה שעברה, צוות באוניברסיטת סטנפורד פרסם עבודת מחקר שבדק כיצד שימוש בעוזר AI ליצירת קוד שהם בנו משפיע על איכות הקוד שאנשים מייצרים. החוקרים גילו שמתכנתים שקיבלו הצעות בינה מלאכותית נטו לכלול באגים נוספים בקוד הסופי שלהם - אך אלה עם גישה לכלי נטו להאמין שהקוד שלהם הוא יותר לבטח. "כנראה שיש גם יתרונות וגם סיכונים מעורבים" בקידוד במקביל ל-AI, אומר רינגר. "עוד קוד הוא לא קוד טוב יותר."

כשחושבים על אופי התכנות, הממצא הזה לא מפתיע. כפי שכתב קלייב תומפסון ב-a תכונת WIRED של 2022, Copilot יכול להיראות מופלא, אבל ההצעות שלו מבוססות על דפוסים בעבודה של מתכנתים אחרים, שעלולים להיות פגומים. ניחושים אלה יכולים ליצור באגים שקשה להבחין בהם, במיוחד כאשר אתה מכושף מכמה הכלי טוב לעתים קרובות.

אנו יודעים מתחומי הנדסה אחרים שניתן להרגיע בני אדם להסתמכות יתר על אוטומציה. רשות התעופה הפדרלית של ארה"ב עשתה זאת הזהיר שוב ושוב שחלק מהטייסים הופכים להיות תלויים כל כך בטייס האוטומטי עד כי כישורי הטיסה שלהם מתנוונים. תופעה דומה מוכרת ממכוניות בנהיגה עצמית, שבהן נדרשת ערנות יוצאת דופן כדי להישמר מפני נדירים עדיין קטלני בפוטנציה תקלות.

הפרדוקס הזה עשוי להיות מרכזי בסיפור המתפתח של בינה מלאכותית גנרטיבית - ולאן הוא ייקח אותנו. הטכנולוגיה כבר נראה שהוא נוהג בספירלה כלפי מטה באיכות תוכן האינטרנט, מכיוון שאתרים בעלי מוניטין מוצפים בסחף שנוצר על ידי בינה מלאכותית, אתרי ספאם מתרבים, וצ'אטבוטים מנסים להפעיל מעורבות מלאכותית.

כל זה לא אומר שבינה מלאכותית גנרטיבית היא פספוס. ישנו גוף הולך וגדל של מחקרים שמראה כיצד כלי בינה מלאכותית גנרטיבית יכולים להגביר את הביצועים והאושר של חלק מהעובדים, כגון אלה שמטפלים בשיחות תמיכת לקוחות. כמה מחקרים אחרים כמו כן, לא מצאו עלייה בבגי אבטחה כאשר מפתחים משתמשים בעוזר AI. ולזכותו ייאמר, GitHub חוקר את השאלה כיצד ניתן לקודד בבטחה עם סיוע בינה מלאכותית. בפברואר זה הודיע תכונה חדשה של Copilot שמנסה לתפוס נקודות תורפה שנוצר על ידי המודל הבסיסי.

אבל ההשפעות המורכבות של יצירת קוד מספקות סיפור אזהרה לחברות הפועלות לפריסת אלגוריתמים גנרטיביים למקרי שימוש אחרים.

רגולטורים ומחוקקים מראים יותר דאגה לגבי AI צריך גם לשים לב. עם כל כך הרבה התרגשות לגבי הפוטנציאל של הטכנולוגיה - והשערות פרועות לגבי איך היא יכולה להשתלט על העולם- ניתן להתעלם מראיות עדינות יותר ועדיין מהותיות יותר לאופן שבו פועלות פריסות AI. כמעט כל דבר בעתיד שלנו יתבסס על ידי תוכנה - ואם לא נזהר, זה עלול להיות גם גדוש באגים שנוצרו בינה מלאכותית.

הסיפור הזה הופיע במקור ב wired.com.