אפליקציות Deepfake המאפשרות לך להכניס את הפנים שלך לסרטונים או תמונות, אינן חדשות, אלא סיניות המפתח יצר אפליקציה לאייפון המאפשרת לך להרכיב את הפנים שלך בקליפים תוך 8 שניות. האפליקציה, שנקראת Zao, הפכה לוויראלית בסין בסוף השבוע, אבל לא רק בגלל שהיא עובדת כל כך טוב. אפליקציית החלפת הפנים קיבלה ביקורת כמעט מיידית על מדיניות הפרטיות שלה המעניקה למפתח בעלות על כל התוכן שנוצר על ידי המשתמש.
טק. בידור. מַדָע. תיבת הדואר הנכנס שלך.
הירשם לחדשות הטכנולוגיה והבידור המעניינות ביותר שיש.
בהרשמה אני מסכים ל תנאי שימוש וסקרו את הודעת פרטיות.
Zao עובד ממש טוב, מראה כמה מפחיד ומסוכן סוג זה של טכנולוגיית AI יכולה להיות. כפי שניתן לראות בסרטון למטה, Zao נזקקה ל-8 שניות בלבד כדי להחליף את פניו של לאונרדו דיקפריו בפניו של המשתמש בדוגמה למטה:
https://twitter.com/AllanXia/status/1168049059413643265
זה הישג יוצא דופן הן בכל מה שקשור למהירות והן לחלקות התוצאה הסופית, והוא אמור להזכיר לכולנו את הסכנות שאפליקציות זיוף עמוק עלולות להוות. צריך רק כמה תמונות וקליפים כדי ליצור חדשות מזויפות שעלולות להפוך לוויראליות ביוטיוב ובמדיה החברתית. למרבה המזל, האפליקציה מאפשרת לך להוסיף רק את הפנים שלך לכמה קליפים, מה שאומר שאי אפשר לנצל אותה לרעה.
ההשלכות על הפרטיות הן שעוררו דאגה מיידית, בלומברג דיווחים.
גרסה קודמת של מדיניות הפרטיות אמרה כי לאפליקציה יש גישה "חינם, בלתי הפיכה, קבועה, ניתנת להעברה וניתנת לרישיון חוזר" לכל התוכן שנוצר על ידי המשתמש. האפליקציה דורשת מהמשתמשים להעלות תמונה קיימת או סט תמונות כדי ליצור זיופים עמוקים. המפתח עדכן מאז את התנאים שלו כדי לומר שהוא לא ישתמש בתמונות ראש או מיני סרטונים שהועלו על ידי משתמשים למטרות אחרות מלבד שיפור האפליקציה. האפליקציה גם תמחק כל תוכן משתמש מהשרתים שלה אם משתמשים ימחק את האפליקציה. לפחות, זה מה שהמפתח אומר.
המשתמשים זעמו על מדיניות הפרטיות הראשונית של המפתח ופגעו באפליקציה עם גל של ביקורות שליליות. האפליקציה אולי מיהרה להגיע לראש טבלת ההורדות החינמיות בחנות האפליקציות הסינית, אבל עד מהרה היא קיבלה דירוג של 1.9 כוכבים מתוך חמישה מתוך יותר מ-4,000 ביקורות.
"אנחנו מבינים את הדאגה לפרטיות. קיבלנו את המשוב, ונתקן את הבעיות שלא לקחנו בחשבון, שיצריך קצת זמן", אמר המפתח של Zao ב-Weibo. החברה שייצרה את האפליקציה מפתחת גם את Momo, שירות חיבור וסטרימינג מקומי.
בלומברג מציין כי המרכז לחקר המסחר האלקטרוני של סין הפציר ברשויות ביום שני לבדוק גם את הנושא, ואמר כי זאו "מפירה חוקים וסטנדרטים מסוימים שנקבעו על ידי האומה והתעשייה".
מוקדם יותר השנה, אפליקציה דומה הפכה לוויראלית. משתמשים מורשים ב-FaceApp לשתף תמונות של איך הם עשויים להיראות כשהם יזדקנו, אבל אז מהר מאוד התברר שלמשתמש אין שום מילה על מה שקרה עם התוכן שנוצר עם FaceApp. בסופו של דבר נאלץ המפתחת לאפשר למשתמשים למחוק את התמונות מהשירות שלו.
הסיכוי הטוב ביותר שלך למנוע ממישהו להשתמש בנתוני זיהוי פנים מהתמונות או הסרטונים שלך הוא, כמובן, להילחם בדחף להתקין את האפליקציות המזויפות העמוקות הללו, שלעתים קרובות הופכות לוויראליות.
