בינה מלאכותית Google הצליח להרשים את המפתחים שלו - הוא למד שפה זרה ללא עזרת אדם! העובדים מבולבלים ולא יכולים להבין איך ה-AI הצליח לעשות זאת.
לאחרונה, מנכ"ל גוגל, סונדאר פיצ'אי, דיבר על כמה זהירה החברה עם בינה מלאכותית. במהלך השנים האחרונות, ענקית הטכנולוגיה עיכבה כמה פרויקטים בכיוון זה בגלל חששות לגבי סיכוני אבטחה ותדמית. כתוצאה מכך, הזהירות הזו החליקה הצידה - OpenAI ו Microsoft קפץ קדימה במירוץ הבינה המלאכותית, למרות שלגוגל היו המשאבים לחלוץ בתחום.
סונדאר פיצ'אי מדגיש את חשיבות האחריות בפיתוח בינה מלאכותית, ואת האסטרטגיה של החברה להשקת צ'טבוט מְשׁוֹרֵר הוא דוגמה לגישה זהירה שכזו. במקום השקה עולמית, גוגל מוציאה אותו בהדרגה, החל בארה"ב ובבריטניה. לדבריו, החברה רוצה "לפתח רמות אבטחה אמינות יותר לפני בנייה ופריסה של מודלים יעילים יותר". בתחילה, גוגל השתמשה במודל LaMDA (Language Model for Dialogue Applications) עבור בארד. מאוחר יותר שולבו הפונקציות של מודל שפה יעיל יותר - Pathways Language Model (PaLM), המתהדר ב-540 מיליארד פרמטרים לעומת 137 מיליארד ב-LaMDA.
מעניין גם:
עם זאת, AI גנרטיבי יכול לפעמים להפגין התנהגות בלתי צפויה, וזו הסיבה ש-Sundar Pichai מדגישה זהירות ודאגה לאופן שבו AI מגיב. המחקר של גוגל מצביע על כך שמודלים של שפה יכולים לפעמים ללמוד מיומנויות חדשות בעצמם, ללא כל קלט מהמתכנת. החברה מכנה את התופעה המסתורית הזו "איכויות מתעוררות".
דוגמה ברורה היא הבינה המלאכותית הניסיונית שפותחה על ידי גוגל. הוא למד בהצלחה בנגלית, שפת בנגלדש, למרות שלא הוכשר בה. לצורך הסתגלות AI נדרשו רק כמה בקשות בבנגלית לשפה לא מוכרת - ועכשיו הוא יכול לתרגם הכל לבנגלית.
הרעיון של איכויות מתעוררות נובע מהעיקרון הבסיסי של למידת מכונה - המכונה לומדת באופן אוטונומי על בסיס נתונים זמינים, ללא התערבות אנושית. בהתחשב בכך, אין זה מפתיע AI יכול ללמוד שפה ללא עזרת מתכנת. עם זאת, איך בדיוק רכשה הבינה המלאכותית ידע בבנגלית נותרה בגדר תעלומה למהנדסי גוגל. סונדאר פיצ'אי מודה שחריגות ב-AI הן "קופסה שחורה", כלומר אנחנו לא יודעים איך זה עובד בפנים.
קרא גם: