(new)מחלקים באמצע עמוד הבית
היום שבו הבינה המלאכותית תהיה חזקה מאיתנו

היום שבו הבינה המלאכותית תהיה חזקה מאיתנו

חזון אחרית הימים העתידני הולך ומתגשם וצריך רק לחבר את כל הכותרות של 2018 לרצף אחד, שמתגלה כמפחיד למדי • הבעיה אינה מה יקרה כשלעולם החופשי תהיה בינה מלאכותית "חזקה מדי" • כשהכוח הזה יגיע לידי מדינות טוטליטריות או ארגוני טרור – לא נוכל לישון בשקט

(צילום: Tsca.bot)

אחד הדברים שלמדנו בשנת 2018 הוא שאלגוריתמים ברשתות חברתיות יכולים בקלות להוות נשק כנגד הציבור הרחב, אפילו אם הם נמצאים תחת פיקוח. ב-2019 כל אדם כבר צריך לדעת שה-cybersecurity הוא איום מואץ.

לפני מספר חודשים נודע כי וואווי - חברת הטכנולוגיה המפורסמת מסין - נחשבת לסיכון ביטחוני לאומי על ידי ארצות הברית, אוסטרליה, ניו זילנד, יפן, גרמניה, קנדה ובריטניה. גם גוגל ומיקרוסופט הצהירו שהן מוכרות את שירותיהן בצורה כזאת או אחרת לממשלת ארה"ב, פעמים רבות בניגוד לרצונם של העובדים הבכירים שלהן.
בעולם כולו נוצרת מעין מגמה שמציבה את הרווחים הכלכליים (לרוב) מעל אתיקה ויושרה מוסרית, דבר שמעמיד אותנו - הצרכנים הקטנים של הסמארטפונים והאפליקציות החברתיות - בסיכון ממשי.

קל ללכת עם הזרם ולהיסחף להייפ האדיר של האינטליגנציה המלאכותית, אבל אני מאמין שאנחנו צריכים להיות יותר סקפטיים לגבי איפה אינטליגנציה מלאכותית אמורה לפגוש אותנו בחיינו.

מי שעד עכשיו לא שמע על "אינטליגנציה מלאכותית" יכול בטעות להניח שאנחנו רחוקים מאוד מהיום בו בוטים יאספו מידע עלינו וינתחו אותו ללא ידיעתנו, אך כמובן שטעות בידו. AI היא המילה החמה של 2018, ללא ספק. בכל ממשק טכנולוגי שהאדם הממוצע עוסק בו באופן יומיומי מוטמעת באופן כזה או אחר אינטליגנציה מלאכותית. אנחנו חיים בעידן שבו האיומים הטכנולוגים על הציוויליזציה האנושית גדלים בטור הנדסי וכדאי שנשים לב לכך.

כמו הרבה דברים במאה ה-21, החדשות הגדולות מגיעות מעמק הסיליקון. אם גוגל, מיקרוסופט ופייסבוק ימשיכו בפיתוח של תוכנות מבוססות AI ללא רגולציה פנימית וחיצונית הכוללת ניטור וצימוד הם יוכלו לפתח ולמכור טכנולוגיות שיהוו סיכון אדיר לאזרחי העולם.

חברת הענק אמזון לקחה את העניין צעד קדימה ב-2018 כשמכרה נתונים שהיא אוספת על ידי זיהוי הפנים של המשתמשים שלה למשטרה. בנוסף קיימות אינדיקציות רבות שאמזון וגוגל עושות שימוש באינטליגנציה מלאכותית על מנת לבצע "ניבוי" על רשומות רפואיות של אזרחים. גוגל מפתחת פרויקט בשם Medical Digital Assist שמטרתו להשתמש באינטליגנציה מלאכותית על מנת לשפר את הביקורים שלנו במשרדו של הרופא. על פניו - הפרויקט נשמע מבטיח ונטול סיכון משמעותי, אך הבעיה היא שהוא יכול להשתבש במהירות. השאיפות של גוגל ואמזון לבצע מהפכה בעולם הרפואי יכולות לתרום המון לחוויה הנוכחית שמעניקות שירותי הבריאות ללקוחותיהם, אך כל עוד החברות האלו לא נמצאות תחת רגולציה ותקנות מתאימות הנאכפות על ידי גופים ניטרליים, היא יכולה גם להוות סכנה לפרטיות שלנו.

אלגוריתמים שיעסקו בניתוח וכריית מידע רופאי חייבים לעמוד בקריטריוני אבטחה והיסק קשוחים ביותר. אף אדם לא היה רוצה לגלות שעקב דליפה לא מתוכננת של תוכנה מסוימת, התיק הרפואי שלו הופץ ברחבי הרשת.

לא רק חברות הטכנולוגיה מביעות עניין באינטליגנציה מלאכותית, נשיא רוסיה ולדימיר פוטין אמר "אינטליגנציה מלאכותית היא העתיד, לא רק עבור רוסיה אלא לכל המין האנושי. היא מביאה עמה הזדמנויות עצומות אבל גם איומים שקשה לנבא. מי שיהיה המנהיג בתחום הזה יהפוך לשליט העולם".

דבריו של פוטין מעלים דאגה נוספת בליבם של מדעני המחשב, אלון מאסק לדוגמה טוען ש"לאינטלגנציה מלאכותית יש פוטנציאל הרסני יותר מפצצות אטום".

מה יקרה אם מדינה דיקטטורית תשתמש באינטליגנציה מלאכותית ככלי נשק? מה יקרה אם אחת מהמדינות האלו תפתח בינה שמסוגלת לפרוץ לכל מערכת נתונים או להפציץ ערים שלמות? איך נוכל להתמודד עם תוכנה שמפתחת את עצמה באופן עצמאי ואגרסיבי יותר כל הזמן? איך היינו מכבים מערכת כזו?

חשוב להגיד בנושא זה שעל אף כל הפיתוחים האחרונים בתחום המל"טים, הרחפנים והאינטליגנציה המלאכותית - אנחנו עוד רחוקים מהיום שבו תוכנה תוכל לבצע את הדברים האלה.

אינטליגנציה מלאכותית היא המנטרה של התקופה הנוכחית. כמו במונחים רבים מהעולם הטכנולוגי שעושים את דרכם לשיח הציבורי, קיימת אי הבנה משמעותית המלווה את השימוש בביטוי בקרב רוב הציבור. אבל בכל הנוגע ל-AI המקרה הקלאסי שבו הציבור לא מבין את המדענים לא מתרחש - כאן המדענים עצמם לעתים קרובות מבולבלים כמו רוב הציבור.

בינה מלאכותית היא ברכה וקללה. מצד אחד היא תעניק לנו יעילות ודיוק שלא הכרנו עד היום אך מהצד השני היא גם עלולה לסכן אותו כבני אדם.

2019 צפויה להיות שנה נוספת בה אינטליגנציה מלאכותית תהווה מקור להתעניינות ומחקר בקרב חברות ההייטק והסטארט-אפ, כל מה שנותר לנו לעשות הוא לקוות שהאינטלגנציה האנושית הוותיקה תדע לצפות את היתרונות כמו את החסרונות שמביאה עמה בינה מתקדמת.

יאיר דנון