השיח הניהולי סביב בינה מלאכותית יוצרת (GenAI) מתמקד לרוב בסיכונים: שימוש לרעה, דליפת מידע ותוצרים שגויים. מחקר איכותני חדש, המבוסס על ראיונות עומק עם 43 מומחי אמון ובטיחות (Trust & Safety) מחמישה תחומים, מציע נקודת מבט מאוזנת יותר. הממצאים מציגים את GenAI כטכנולוגיה דו-שימושית. היא מחזקת גם את מי שמייצרים נזק וגם את מי שמגנים על פלטפורמות וארגונים.
עבור תוקפים, היתרון של GenAI ברור ומיידי. הטכנולוגיה מורידה את חסמי הכניסה ליצירת תוכן מזיק בקנה מידה רחב, באיכות גבוהה ובמהירות גבוהה. זה כולל תעמולה, קמפיינים של דיסאינפורמציה המותאמים לקהלי יעד, דיפ-פייקס משכנעים, הודעות פישינג והפצת תוכן קיצוני. היכולת לייצר כמויות גדולות של תוכן מגוון מקשה על מנגנוני סינון מסורתיים ומעמיסה על צוותי הבקרה האנושיים.
במקביל, המחקר מצביע על הפוטנציאל ההגנתי, שלעיתים אינו ממומש. מומחי בטיחות רואים ב-GenAI כלי חשוב להתמודדות עם האיומים החדשים. אפשר להשתמש במודלים לזיהוי ולמיון של תוכן מזיק בכמויות גדולות, תוך הבנת הקשר וניואנסים שכלים קודמים התקשו לזהות. GenAI יכול גם לשמש עוזר מחקר: לסכם ממצאים, לזהות דפוסים בין אירועים שונים ולסייע בבניית תיקי חקירה.
השימושים ההגנתיים אינם מסתכמים בסינון תוכן. לדברי המומחים, GenAI יכול להפחית חלק מן העומס הנפשי על עובדי בטיחות ואמון, שנחשפים באופן קבוע לתכנים קשים. המודל יכול לסכם טקסטים קשים או לתאר סרטונים פוגעניים בלי לחשוף את העובד לתוכן המקורי. אפשר להשתמש בו גם לתמיכת משתמשים ולפיתוח מסרים מתקנים המבוססים על עובדות, כדי להתמודד מוקדם יותר עם מידע כוזב.
התמונה המצטיירת היא מרוץ חימוש. ארגונים אינם יכולים להתייחס רק לסיכונים או רק להזדמנויות. אימוץ יכולות הגנה מבוססות GenAI אינו קישוט טכנולוגי, אלא חלק מאסטרטגיית ניהול הסיכונים וחוסן המותג. השאלה אינה אם להשתמש ב-GenAI, אלא כיצד לבנות יכולות הגנה מהירות ומבוקרות יותר מאלו של התוקפים.