הרצאות בנושא בינה מלאכותית
הבינה המלאכותית ממשיכה להתפתח בקצב חסר תקדים. בימים אלו נשמעים קולות המבקשים לעצור, לחשוב מחדש על השלכות צמיחתה. החשש של בכירי התחום מההגעה לרגע שבו הבינה המלאכותית תהפוך לסופר בינה מלאכותית, או Artificial General Intelligence בקיצור AGI. כשזה יקרה, בינה מלאכותית תוכל לבצע כל משימה שבני אדם יכולים לעשות וכנראה לבצע בצורה טובה יותר. אלו הדברים אותם אני מציג בהרצאות בנושא בינה מלאכותית. במאמר זה אציג את יתרונות ה AGI, וארחיב לגבי הסכנות.

יתרונות הבינה המלאכותית הכללית AGI
כאשר תהיה לנו נגישות לסופר בינה מלאכותית, כל התהליכים יתרחשו בצורה מהירה יותר. אלו חלק מהדברים שסביר להניח שנחווה:
- שיפורים בתהליכי ייצור: נוכל לייצר הרבה יותר, טוב יותר וכנראה גם באופן זול יותר.
- יכולות-על של קבלת החלטות: לכל אחד מאיתנו תהיה מכונה שתעזור לנו לקבל החלטות מצוינות לגבי כל נושא.
- פיתוחים טכנולוגיים חדשניים: סביר להניח שנראה קפיצה אדירה בפיתוחים טכנולוגיים, מנועים חדשים, תרופות חדשות, צורות לימוד חדשות וכו׳.
- שיפור איכות החיים: בשורה התחתונה, את רוב הכלים הדיגיטליים משווקים לנו כדרך בטוחה להעשיר את חיינו. ולכן, כדאי לנו לאמץ בשמחה את הכלים החדשים.

יחד עם היתרונות הברורים, כדאי שנכיר את חסרונות הבינה המלאכותית הכללית.

בינה מלאכותית כסכנה קיומית
מעל הכל מרחף החשש הגדול של סופרי המדע הבדיוני, כפי שראינו בסדרת הסרטים ״שליחות קטלנית״. החשש הוא שאם הבינה המלאכותית תהיה חכמה יותר מבני אדם, היא עלולה לצאת משליטה. במצב זה, קשה להעריך מה עלולות להיות התוצאות. הוגי התחום מזהירים מפני מצבים בהם עלולה הבינה המלאכותית להשתלט על נכסים אסטרטגיים (רכבים חשמליים, רשת החשמל או המים, נשקים גרעינייים וכו׳) ולבצע פעולות שיקדמו את האיטנרס של הבינה המלאכותית ולא של האנושות.

בינה מלאכותית כאיום על עתיד התעסוקה
אם נגיע לשלב של סופר בינה מלאכותית, יגבר מספר המקצועות בהם יוחלפו עובדים בני אדם על ידי מכונה חכמה. מעסיקים יעדיפו להעסיק מכונה שתספק להם תוצרים טובים יותר, בזמן קצר יותר ובעלות נמוכה יותר. זה כבר מתרחש. לא מזמן פיטרו עורכי האתר החשוב Cnet כ 10% מכותבי התוכן שלהם, מכיוון שבינה מלאכותית תפסה את מקומם. הגרסה החדשה של ChatGPT ידועה ככזו המותאמת לשיפור בתחום עבודות עריכת דין וראיית חשבון. מי אמור לחשוש מכך שמכונה תתפוס את מקומו? יש היום שיח רב סביב השאלה האם יש עדיין טעם ללמוד מדעי המחשב? הרי כלים כדוגמת ChatGPT כותבים קוד. יכול להיות שאם מכונה החליפה אותך, כנראה שלא כתבת (קוד או טקסט) מספיק טוב. ולכן, כדאי לוודא שאנחנו מפתחים ומשמרים יכולות מקצועיות שיתנו לנו יתרון כרגע מול המכונות. שימו לב ש 90% מעובדי אתר Cnet  לא איבדו את מקום עבודתם. 

שאלות מוסריות סביב התחזקות הבינה המלאכותית
אנו מאפשרים כבר היום למכונות חכמות לקבל עבורנו החלטות במקומות קריטיים: נהיגה אוטונומית, בקרה על תשתיות אסטרטגיות, הליכים רפואיים. כאשר אנו מעבירים למכונה את היכולת לקבל החלטות הנוגעות לחיי אדם, אנו נתקלים בבעיה. אחד המושגים המרתקים של העידן שלנו הוא המושג ״נשק אוטונומי״. בהרצאה שלי בנושא בינה מלאכותית אני מציג דוגמאות רבות למכונות מלחמה אוטונומיות הקיימות כבר כיום. 

הפצת דיסאינפורציה וסייבר
אם יש לנו מכונה המסוגלת לייצר טקסטים סופר משכנעים בזמינות מיידית, אתם יכולים להיות בטוחים שיעשו בזה שימוש לרעה. תחום הפייק ניוז והדיסאינפורמציה כבר מתפרץ נוכח מהפכת הבינה המלאכותית. מפחיד לחשוב מה יהיה כאשר נגיע לסופר בינה מלאכותית. בהרצאות שלי אני מציג כיצד האקרים נעזרים בבינה מלאכותית לכתיבת קודים זדוניים, שימוש בטכניקות דיפ פייק לזיוף אנשים ושדידת בנקים, ולשכלול מתקפות כופרה. אני מציג בהרצאה כיצד ניתן לקחת הקלטה של 3 שניות משיחה עם אדם, ומרגע זה לזייף את הקול שלו לטובת כל מטרה. אם זה לא מספיק, היו מקרים בהם תכנתו מחשבים לשקר, כאשר הם יבינו שמישהו חוקר את מעשיהם (אירוע מרתק שאני מציג בהרצאה). בינה מלאכותית יכולה לבצע פעולות כנגד האנושות כשהיא מסווה את הפעילות שלה באופן כזה שלעולם לא נדע מה היא באמת עושה, עד שזה יהיה מאוחר מדי.

מה עושים?
לפני הכל מפתחים מודעות. חשוב מאוד שנדע מה מצפה לנו בהמשך הדרך, ואלו איומים כבר נמצאים מולנו. בהרצאות שלי בנושא בינה מלאכותית וההשלכות על החברה, אני מציג את הפיתוחים העדכניים ביותר ונותן כלים לזהות איומים עלינו כאנשים פרטיים ועל הארגון. אנחנו צריכים לקוות כי ממשלות, בכירי התעשייה, מומחים מהאקדמיה יבססו סט חוקים וכלים לבקרה על התחום. לדוגמה: ממשלות יכולות לדרוש שקיפות בפיתוח הבינה המלאכותית ואת החובה לקחת אחריות של החברות המפתחות, על התוצאות. מבחינה מוסרית, חייבים להיות חוקי פעילות בסגנון ״חוקי אסימוב״ שיבטיחו שמכונות חושבות לא יתקפו ולא יפגעו בבני אדם. המהלכים צריכים להיות משולבים בין ממשלות, תעשייה ואקדמיה וחוצי מדינות.