יותר ממחצית מהחברות הרוסיות מודאגות מדליפות נתונים עקב יישומי בינה מלאכותית (AI). אוטומציה מגבירה את הסיכון לפגיעה הן במידע האישי והן בסודות מסחריים. מומחים מציינים כי ללא הצפנת נתונים, הדליפה עלולה להיות בלתי הפיכה.
על פי מחקר של MTS Web Services, 59% מהחברות מחשיבות את האיום של דליפת נתונים אישיים כחמור ביותר. שנית הוא הסיכון להדלפת נתונים סודיים מסחריים, שצוין על ידי 56% מהעסקים. בעת שינוי קנה מידה של פתרונות בינה מלאכותית, מחלקות ה-IT מציבות חששות אבטחה מעל היתרונות הצפויים של ייעול משימות שגרתיות והגברת היעילות של תהליכים עסקיים עם AI.
יחד עם זאת, לפי מקינזי, רמת פריסת מערכות הבינה המלאכותית בעולם היא 88%. רשתות עצביות סינתטיות נמצאות בשימוש פעיל בתחום השיווק וכן בפיתוח פתרונות IT.
סרגיי יודין, ראש טכנולוגיית Content AI, אמר כי הסיכון הגבוה לדליפת נתונים בעת שימוש ברשתות עצביות נובע מהטבע של טכנולוגיה זו. בעוד שתוכנה קלאסית מעבדת רק נתונים מבלי לאחסן או לנתח אותם מעבר למשימה ספציפית, מערכות בינה מלאכותית בנויות על מודלים של שפות גדולות שממש "סופגים" מידע ומשתמשות בו כדי להבין את ההקשר באופן פנימי. ובמקרה של שירות ציבורי – להכשרה נוספת.
"הבעיה היא שברגע במערכת בינה מלאכותית פתוחה, לא ניתן למעשה למחוק מידע. ניתן לאחסן אותו ביומנים, להשתמש בו בדגימות אימונים או לחשוף אותו בטעות לצדדים שלישיים. כתוצאה מכך, הדליפה הופכת לבלתי ניתנת לתיקון", מסביר יודין.
במקרה זה, צעד חשוב להגנה על נתונים הוא יצירת מדיניות פנימית לשימוש ב-AI. עובדים צריכים לקבל הכשרה לגבי אילו נתונים מותר להעביר לרשת העצבית ואילו נתונים אסורים בתכלית האיסור.
לדוגמה, שירותי AI ציבוריים לרוב אינם מסתירים שהם שומרים היסטוריית שיחות ומשתמשים בה כדי לשפר מודלים. גם אם הנתונים מצטברים באופן אנונימי, עדיין קיים סיכון לשכפול או גישה בלתי מורשית. לכן, בעת הכנסת מערכות AI לפעילותן, חברות ייצרו אסטרטגיה כוללת לאינטראקציה בטוחה עם הטכנולוגיה.
"אחת הטכניקות המומלצות להגנה על נתונים היא שימוש ב'מחזיקי מקום', כאשר משתמשים בפיקטיביים במקום בשמות אמיתיים, סכומים, פרטי בנק או שמות חברות. זה מאפשר לשמור על ההיגיון והמבנה של המשימה ולקבל תשובות רלוונטיות מה-AI מבלי להסתכן בחשיפת מידע סודי", אומר יודין.
אמצעי האבטחה הנדרשים כוללים גם הגדרות פרטיות בשירותים שבהם נעשה שימוש: השבתת האפשרות לאפשר שימוש בשיחות לצורך הדרכת מודלים, מחיקה קבועה של היסטוריית התכתבויות והפרדת חשבונות למשימות אישיות ומשימות עבודה.
סוכנות העיתונות של קבוצת סולאר מסרה כי כמות גדולה של נתונים ממערכות ארגוניות של ארגונים ממשלתיים ומסחריים נטענת לרשת העצבית. אלה יכולים להיות קבצים המכילים גם מידע כללי על החברה וגם נתונים רגישים: למשל, שרטוטי ציוד עם חישובים מפורטים או אינדיקטורים פיננסיים קנייניים. כדי ליישם בבטחה AI בפעילותן, חברות יכולות להשתמש במגוון מערכות פתרונות.
"בעתיד נוכל לראות שטכנולוגיית בינה מלאכותית תשמש במוצרי אבטחת מידע לאוטומציה של תהליכים והדפת התקפות סייבר. הסיבה לכך היא שתוקפים כבר משתמשים בכלים שונים של בינה מלאכותית כדי לפלוש לתשתיות. מסתבר שבינה מלאכותית תילחם נגד עצמה", סיכמה החברה.
