ההשפעה של AI ו-Deepfakes על המציאות והעתיד

בשיתוף עם ExpressVPN

ההתקדמות האחרונה בתחום הבינה המלאכותית גורמת לשינויים משמעותיים בחייהם של גברים בהווה. כיום, אנו יכולים לראות כיצד AI יכול לבצע ללא מאמץ קידוד, כתיבת חיבורים, ובעיקר - יצירת תוכן תוך שניות. עם זאת, אותן יכולות מרשימות הן הקללה של בינה מלאכותית. לפי ספקי VPN, רבים משתמשים בבינה מלאכותית כדי ליצור מדיה סינתטית למידע שגוי, והזיופים העמוקים מתחילים כעת להתפשט כמו אש בשדה קוצים ברחבי העולם.

מומחים מתנסים עם AI במשך עשרות שנים, אבל הדחיפה הגדולה של מיקרוסופט לאחרונה לטכנולוגיה עוררה את העניין של התעשייה להשקיע יותר ביצירות כאלה. מיד לאחר חשיפתו Bing המופעל באמצעות ChatGPT מנוע החיפוש, גוגל חזר להשתמש מְשׁוֹרֵר. עם זאת, בניגוד למתחרה שלה, גוגל עדיין מיישמת מגבלה קפדנית לגישה למבחן בארד, כאשר מומחים משערים שזה נובע מהפחד של החברה ממה שבינה מלאכותית יכולה לעשות תחת הידיים הלא נכונות.

זה נכון במקרה של מוצרי בינה מלאכותית אחרים בפיתוח. לדוגמה, מודל השפה VALL-E של מיקרוסופט, שאינו זמין כעת לציבור, יכול לחקות את הקול והרגשות של אדם כדי לסנתז נאומים מותאמים אישית. הוא דורש הקלטה של ​​שלוש שניות בלבד כהנחיה אקוסטית שלו, אך יכול להפיק מסר שונה באמצעות קולו של הדובר המקורי.

בעוד שהציבור הרחב עדיין לא יכול לגשת ליצירות שהוזכרו לעיל, יש לו כבר עמיתים המוצעים על ידי חברות טכנולוגיה קטנות. זה איפשר לא רק למשתמשים רגילים אלא גם לשחקנים זדוניים להשתמש בכלים בכל דרך שהם רוצים. עם זה, זה כבר לא מפתיע שדיווחים שונים צצו לאחרונה על אנשים שהולכים שולל ומרמאים בעזרת AI.

דיווחים אלה הדגישו במיוחד את השימוש בקולות שנוצרו על ידי בינה מלאכותית המחקים את הקורבנות שלהם. בסיפור ששותף עם Insider עסקים החודש, על פי הדיווחים, אם קיבלה טלפון ממישהו שטוען שהוא חוטף בדרישה לקבל כופר של 50,000 דולר עבור בתה בת ה-15. בתיאור השיחה שהתקבלה, האם אמרה שזה היה "100%" קולה של בתה.

"זה היה לגמרי הקול שלה. זו הייתה ההטיה שלה. זו הייתה הדרך שבה היא הייתה בוכה. אף פעם לא פקפקתי לשנייה אחת שזאת היא", אמרה האם, שלימים גילתה שהשיחה הייתה הונאה וכי בתה הייתה למעשה עם בעלו.

את אותה תקרית הקשורה לקול בינה מלאכותית חוו זוג מקנדה, שלמרבה הצער הפסיד 21,000 דולר מרמאי בטלפון. לפי וושינגטון פוסט, הרמאי התחזה לעורך דין ובנם של בני הזוג באמצעות קול שנוצר בינה מלאכותית ואמר כי הכסף ישמש להוצאות משפט לאחר שטען שהבן הרג דיפלומט בתאונת דרכים.

מלבד קולות, צורות אחרות של מדיה מחוללת המופקת בינה מלאכותית יכולות גם להערים על כל אחד - למשל, תמונות מזויפות וסרטונים מזויפים עמוקים. אמנם אין דיווחים קיימים המראים רמאים המשתמשים בהם למטרות רווח כספי, אך השפעתם יכולה להיות נרחבת עבור הציבור הרחב. לאחרונה, כמה תמונות שנוצרו על ידי AI של אישים מפורסמים הופצו ברשת. חלקם כוללים תמונות המראה את האפיפיור פרנסיס במעיל אופנתי, הנשיא לשעבר דונלד טראמפ נעצר, ואילון מאסק אוחז ביד של יריבתו ומנכ"לית GM מרי בארה במהלך דייט. בינתיים, במרץ 2022, עלה סרטון מזויף עמוק של נשיא אוקראינה וולודימיר זלנסקי, וביקש מאזרחי אוקראינה להיכנע לרוסיה.

למרות שהחומרים זוהו במהירות כמזויפים, נוכחותם ללא ספק הטעתה את הציבור וגרמה לבלבול זמני לרבים. אפילו דוגמן ומחבר כריסי Teigen נפל קורבן לתמונות של האפיפיור. עם זאת, ההשפעה של מדיה סינתטית כזו עשויה להיות חמורה יותר ככל שה-AI ממשיך להתפתח, במיוחד בזמנים אלה עם יותר חברות טכנולוגיה שמוציאות מיליארדי דולרים כדי לעצב את יצירת הבינה המלאכותית המושלמת. כשיגיע הזמן הזה, אפשר יהיה לנצל את הבינה המלאכותית כדי לעוות את המציאות שכולם מכירים, וזה לא בלתי אפשרי. אפילו יותר, זה יכול לשמש אפילו כדי לשלוט ולהשפיע על הציבור, וכתוצאה מכך בעיות פוליטיות, חברתיות ומוסריות שונות ברחבי העולם.

זה ניכר בסרטון מזויף עמוק במהלך בחירות אמצע הקדנציה של 2018, שבו נראה ברק אובמה מכפיש את דונלד טראמפ. התוכן נועד במקור להזהיר את העולם המקוון מפני הסכנות של חדשות מזויפות באינטרנט, אך הוא התאושש לרעה. הדבר גרם לזעם בקרב מספר תומכי טראמפ ופגע ללא כוונה בתדמיתם של אנשים המשמשים את החומר.

עכשיו, תארו לעצמכם את ההשפעה של מדיה גנרטיבית כזו אם הם תוכננו במיוחד לכך להשפיע ולתמרן את הדעה ולקדם תעמולה לציבור. התוצאות עלולות להיות דרסטיות. זה יכול להיות נכון במיוחד במדינות שבהן אמצעי תקשורת ומידע מצונזרים על ידי ממשלות מגבילות, כמו בלארוס, סין, מצרים, רוסיה, איראן, צפון קוריאה, טורקמניסטן, איחוד האמירויות הערביות, אוגנדה, עיראק, טורקיה, עומאן ומדינות אחרות שבעיקרן איסלאמיות . חלקם נוקטים להשתמש ב-VPN כדי לגשת לתוכן, לאתרים ושירותים נעולים גיאוגרפית כדי להישאר מעודכנים. עם זאת, גישה ל-VPN אינה אפשרית לחלוטין במקומות אלה מכיוון שיש להם עקיפת צנזורה באינטרנט ואף חסמו אתרים הקשורים לשירותי VPN. עם זה, אתה יכול לדמיין את העתיד של אזורים כאלה עם גישה מוגבלת לחדשות בינלאומיות ושלממשלתם יש את הכוח של איזה תוכן מקוון לאפשר. לאחר מכן, הוסף את האפשרות של AI ייצור תוכן ללא רבב יותר בעתיד, והציבור צריך להתקשות יותר להבחין מה נכון ומה לא.

קבוצות תעשייה וחברות טכנולוגיה בינה מלאכותית כבר נמצאות בתנועה להתוות מדיניות שתנחה את השימוש בכלי בינה מלאכותית. השותפות בנושא בינה מלאכותית, למשל, מספקת המלצות למוסדות ויחידים הבונים כלי מדיה סינתטיים או פשוט לאלה שמפיצים חומרים כאלה. עם זאת, חברות פרטיות וארגונים ללא מטרות רווח הם לא היחידים הדרושים כאן. המחוקקים חייבים גם ליצור מערכת קונקרטית של כללים שבוני בינה מלאכותית ומשתמשי קצה יידרשו לקיים. עם זאת, האם החוקים העתידיים הללו יהיו יעילים מספיק כדי לרתום את כוחה של AI ולמנוע מאנשים לנצל אותו? אנחנו צריכים לראות את זה בקרוב.