הרעיון של בינה מלאכותית להפיל את האנושות נדון במשך עשרות שנים, ובינואר 2021, מדענים נתנו את פסק דינם אם נוכל לשלוט על אינטליגנציה ממוחשבת ברמה גבוהה. תשובה? כמעט ודאי שלא.
הבעיה היא ששליטה במוח-על הרבה מעבר להבנה האנושית תדרוש סימולציה של אותו-על שנוכל לנתח. אבל אם אנחנו לא מסוגלים להבין את זה, אי אפשר ליצור סימולציה כזו.
לא ניתן לקבוע כללים כמו "אל תזיק לבני אדם" אלא אם כן נבין לאילו תרחישים תמציא בינה מלאכותית (AI), מאמינים מחברי מאמר משנת 2021. ברגע שמערכת המחשוב תעבוד ברמה העולה על היכולות של המתכנתים שלנו, לא נוכל עוד להציב גבולות.
"אינטליגנציה על היא בעיה שונה מהותית מאלה הנלמדות בדרך כלל תחת הדגל של 'אתיקה רובוטית'", כותבים החוקרים. "הסיבה לכך היא שמוח העל הוא רב-גוני ולכן הוא מסוגל לגייס מגוון משאבים כדי להשיג מטרות שעלולות להיות בלתי נתפסות לבני אדם, שלא לדבר על שליטה."
חלק מהנימוקים של הצוות נובע בעיות עצירה, שהוצע על ידי אלן טיורינג ב-1936. האתגר הוא להבין אם תוכנת המחשב תגיע למסקנה ותענה (ותפסיק) או פשוט תסתובב לנצח בניסיון למצוא את התשובה.
כפי שהוכיח טיורינג בעזרתו מתמטיקה אינטליגנטית, למרות שאנו עשויים לדעת זאת עבור כמה תוכנות ספציפיות, זה בלתי אפשרי מבחינה לוגית למצוא דרך שתאפשר לנו לדעת זאת עבור כל תוכנה פוטנציאלית שיכולה להיכתב אי פעם. זה מחזיר אותנו ל-AI, שבמצב סופר אינטליגנטי יכול לאחסן את כל תוכניות המחשב האפשריות בזיכרון שלו בו-זמנית.
מעניין גם:
כל תוכנית שנכתבה, למשל, כדי למנוע מ-AI לפגוע בבני אדם ולהרוס את העולם עשויה להגיע למסקנה (ולהפסיק) ואולי לא - זה בלתי אפשרי מבחינה מתמטית להיות בטוח לחלוטין בכל מקרה, מה שאומר שאי אפשר לרסן את זה. "זה בעצם הופך את אלגוריתם ההרתעה לבלתי שמיש", אמר בינואר מדען המחשבים איאד רחוואן ממכון מקס פלנק לפיתוח אנושי בגרמניה.
אלטרנטיבה להוראת אתיקה של AI ואיסורים על הרס העולם, ששום אלגוריתם לא יכול להיות בטוח בהם לחלוטין, אומרים החוקרים, היא להגביל את היכולות של מוח העל. לדוגמה, הוא עשוי להיות מנותק מחלק מהאינטרנט או מרשתות מסוימות.
מחברי מחקר שנערך לאחרונה דוחים גם את הרעיון הזה, מאמינים שהוא יגביל את היקף הבינה המלאכותית – הם אומרים, אם אנחנו לא מתכוונים להשתמש בה כדי לפתור בעיות מעבר ליכולות האנושיות, אז למה ליצור אותה בכלל?
אם אנחנו מתכוונים לקדם בינה מלאכותית, אולי אפילו לא נדע מתי תופיע אינטליגנציה על, מעבר לשליטתנו, כל כך בלתי נתפס. זה אומר שאנחנו צריכים להתחיל לשאול שאלות רציניות לאן פנינו מועדות.
"מכונה סופר-אינטליגנטית שמנהלת את העולם נשמעת כמו מדע בדיוני", אומר מדען המחשב מנואל קבריאן ממכון מקס פלנק לפיתוח אנושי. אבל יש כבר מכונות שמבצעות באופן עצמאי כמה משימות חשובות, בעוד שמתכנתים לא לגמרי מבינים איך הם למדו את זה.
לכן, נשאלת השאלה האם זה יכול בשלב מסוים להפוך לבלתי נשלט ומסוכן לאנושות...
קרא גם:
- הבינה המלאכותית הצליחה לשחזר ציור צבוע של פיקאסו
- בינה מלאכותית תעזור לחזות תאונות דרכים לפני שהן מתרחשות