הרצאות סייבר בנושא מתקפות סייבר ובינה מלאכותית

האם בינה מלאכותית תוכל לשדוד בנק על דעת עצמה? כיצד תשמש בינה מלאכותית לפריצת מחסומי ההגנה בסייבר? כבר כיום היא משמשת ככלי תקיפה בסייבר. אחד האתגרים הגדולים העומדים בפני האנושות הוא אתגר הבינה המלאכותית. בשנים האחרונות נפרצו מספר חסמים קריטיים בתחום. אנו רואים שימושים חדשים לבינה מלאכותית כגון: 

יצירתיות ואומנות: הבינה המלאכותית Dall e אשר מסוגלת לצייר את הציורים המורכבים ביותר, לאחר קבלת הוראות פשוטות. לדוגמה: אם תבקשו מהמערכת לצייר אסטרונאוט רוכב על סוס בירח, או, ארנב יושב על ספסל וקורא עיתון, תקבלו תמונות מהפנטות ביופיין (מוזמנים לבדוק בגוגל).

כתיבת טקסטים: מערכות בינה מלאכותית רבות מאפשרות יצירה של טקסטים מורכבים. אתם מתבקשים להציג נושא בקצרה (משפט אחד), והמערכת תכתוב עבורכם מאמר. כמו כן, בקלות רבה המערכת תתרגם את הטקסט לשפה שתחברו.

זיוף מראה וזיוף קול: מערכות Deep fake מאפשרות לזייף כל אדם, אם זה נשיא אוקראינה, או השכן שלכם. במהלך המלחמה באוקראינה ראינו כיצד האקרים רוסים הפיצו קליפים מזויפים של הנשיא זלנסקי מודיע על כניעה, וקליפים בהם הוא נראה שלידו סמים. קשה מאוד להבחין כי מדובר בזיוף, ולרוב, ההדיוט לא יהיה מודע למניפולציה.

ישנם עוד שפע פיתוחים בתחום הבינה המלאכותית, שבסופו של דבר יתחברו לרעיון הבינה המלאכותית הכללית: מערכת אחת שתדע לתת פתרון לכל דבר (בלי הפרדה של בינה מלאכותית לנהיגה אוטונומית, ליצירת ציור, לכתיבת מאמר וכו׳). יחד עם ההיבטים החיוביים האדירים של הבינה המלאכותית, כמו שיפור עולם הרפואה, התעשייה, הביטחון ועוד, חשוב להתכונן להיבטי הסייבר הזדוניים אליהם ירתמו את התחום.

בחודש אוקטובר בראשית שנת 2020 נשדדו 35 מיליון דולר מסניף בנק בהונג קונג. אמנם בנקים נשדדים לעיתים קרובות, אך השוד הזה היה שונה, מכיוון שהוא בוצע ברובו דרך כלי בינה מלאכותית. מנהל בנק בהונג קונג קיבל שיחת טלפון מלקוח. הוא זיהה את הלקוח לפי מספר הטלפון שהיה מוצג על מסך הטלפון ולפי קולו של הלקוח, עימו הוא מדבר לעיתים דחופות. הלקוח ביקש ממנהל הבנק לעקוב אחר ההוראות שהוא שלח באימייל. שם התבקש מנהל הבנק לבצע העברה של 35 מיליון דולר בין חשבונות. מנהל הבנק לא ידע שהוא מדבר עם תוקף סייבר המשתמש בכלי בינה מלאכותית כדי לזייף את קולו של הלקוח. זו רק דוגמה אחת לאופן שבו כלי בינה מלאכותית ישמשו בעתיד לצורך ביצוע מתקפות סייבר. 

כלי הבינה המלאכותית יעזרו לתוקפים להציג את עצמם כאמינים יותר, וכך ולהוריד חסמים בדרך ליעדם. בהרצאות הסייבר שלי אני מציג את הפיתוחים העדכניים בתחום הבינה המלאכותית ואת האופן שבו יעשו בהם שימוש בסייבר בעתיד הקרוב.