מסנני קול בינה מלאכותית כאן כדי להישאר

תשומת הלב הגוברת שניתנת ל טכנולוגיית AI deepfake בשנים האחרונות התמקדה בעיקר בתחבולות חזותיות. תחשוב שסרטונים מסוגלים להכפיל בצורה מוזרה פניו של אדם על גופו של אחר, דור אמנות סוריאליסטי מבוסס על הצעות משתמשים, ועל האתיקה הבעייתית סביב כל היכולות הללו. אבל שיטה מרכזית נוספת לשכנוע חיקויים דיגיטליים היא רק לאחרונה קבלת בדיקה ודיון ראויים.

מסננים קוליים, למרות שהם לא בהכרח חדשים, רק לאחרונה החלו להילקח ברצינות רבה יותר הודות לסיוע בינה מלאכותית. למרבה הצער, הוא מציב השלכות חברתיות רציניות משלו, וכמו תעשיית הווידאו הזיוף העמוק, נראה שיש רגולטורים קטנים יכולים לעשות לעצור את זה.

[קָשׁוּר: סטארט-אפ משתמש בבינה מלאכותית כדי לגרום למוקדים טלפוניים להישמע יותר 'אמריקאיים'.]

כלי AI מתעוררים כמו קו רקאסט ו Voice.ai משפרים במהירות את היכולת שלהם לשנות את כניסות האודיו כך שיישמעו כמעט כמו כל אחד שרוצים אם הם מספקים מספיק חומר מקור לניתוח. במקרים מסוימים, תוכניות אלו זקוקות לקליפ בין 15 ל-30 שניות בלבד כדי ליצור חיקויים משכנעים. למרות ש-Koe Recast נמצא רק בשלב בדיקות האלפא הפרטיות שלו, דוגמאות כבר זמינות המתארות קליפ שני קצר של מארק צוקרברג נשמע כמו בס-כבד

מספר, א אִשָׁה, ואפילו צליל גבוה דמות אנימה.

"המטרה שלי היא לעזור לאנשים לבטא את עצמם בכל דרך שתגרום להם להיות מאושרים יותר", אמר היוצר של Koe Recast מטקסס, Asara Near, Ars Technica בראיון בשבוע שעבר. ליד הוסיף כי בכוונתו לשחרר בסופו של דבר אפליקציית שולחן עבודה המסוגלת לשנות את קולות המשתמשים בזמן אמת בפלטפורמות כמו Discord ו-Zoom. כשנשאל על הפוטנציאל של שחקנים רעים להשתמש ב-Koe Recast עבור התקפות אישיות ומידע מוטעה, Near טען כי, "כמו בכל טכנולוגיה, זה אפשרי שיהיו גם חיוביות ושליליות, אבל אני חושב שהרוב המכריע של האנושות מורכב מאנשים נפלאים וירוויח מאוד מכך זֶה." 

[קָשׁוּר: כיצד התפוצצה הבינה המלאכותית בעשור האחרון.]

המבקרים, לעומת זאת, נותרים סקפטיים לגבי מתן אמון בציבור הרחב כלים שעלולים להיות כאוטיים. לאחרונה, כמה נציגי מוקד טלפוני במיקור חוץ החלו להשתמש בתוכנת AI כדי למחוק את המבטאים של מדינות הילידים שלהם כדי נשמע יותר "אמריקאי" בניסיון למתן את הטיות הצרכנים המערביות. בעוד שיוצרי הכלי טוענים שההמצאה שלהם מונעת דעות קדומות, רבים טענו שהיא פשוט מספקת אמצעי להימנע מהתמודדות עם הנושאים הגדולים יותר שעל הפרק - כלומר שנאת זרים וגזענות.

כמו כן, עובדים בכמה עסקים גדולים יותר נפלו טרף לרמאים המבקשים העברות כספים וסיסמאות תוך ניצול חיקוי אודיו דומה כדי לחקות בוסים. "בין העסקים הגדולים יותר, אני חושב שיותר ויותר מהם מתחילים לראות את זה כי הם באמת מטרות בשלות לדברים מהסוג הזה", קייל אלספך, כתב אבטחת סייבר עבור נוהל, הסביר בזמן שדיבר לאחרונה ב-NPR זירת מסחר.

בעוד אלספך גם ציין שסוגי הונאות אלה עדיין בחיתוליהן, סביר להניח שזה לא ייקח הרבה זמן לפני שהטקטיקות הללו הופכות שכיחות יותר, ולמרבה הצער, קשה יותר להבחין בין עובדות ספרות בדיונית. אז למרבה הצער, פשוט אי אפשר לעצור את ההסלמה המהירה של חיקוי חזותי ואודיו המאפשרים AI.