הפעלה Deepmind הייתה חלוצה בחקר בינה מלאכותית (AI) בעשור האחרון ונרכשה על ידי גוגל לפני תשע שנים. עם זאת, לאחר ChatGPT עלה לכותרות, אמר מנכ"ל DeepMind, Demis Hassabis, ל-Time שהחברה שוקלת לשחרר צ'אטבוט משלה, בשם Sparrow, כ"ביתא פרטית" מתישהו ב-2023.
ספארו הוצגה לעולם בשנה שעברה כהוכחה לרעיון במאמר מחקר שתיאר אותו כ"סוכן דיאלוג שימושי שמפחית את הסיכון לתגובות מסוכנות ולא הולמות".
למרות כמה חששות לגבי הסכנות הפוטנציאליות של צ'אטבוטים, שלדברי DeepMind מכילים "מידע לא מדויק או מפוברק", נראה שספארו עשויה להיות מוכנה להשקת בטא מהירה. בהתחשב ביחסים הקרובים של DeepMind עם גוגל, זה יכול להיות למעשה התשובה של ענקית החיפוש ל-ChatGPT.
לפי Demis Hassabis, העיכוב הקל בהשקה של Sparrow נובע מכך ש-DeepMind רוצה לוודא שיש לה תכונות חשובות שחסרות ל-ChatGPT, כולל קישורים למקורות ספציפיים. כפי שאמר חסביס בראיון לטיים, "נכון להיות זהיר בחזית הזו".
המחקר של DeepMind גם מצביע על כך שספארו תהיה בתחילה מוגבלת ושמרנית יותר מ-ChatGPT. האחרון הפך לוויראלי בזכות היכולת המרשימה שלו לעזור לכולם, החל מקודנים ועד משוררי ספות, אבל זה גם הרים גבות בגלל יכולתו להערות מפלה וכישורי כתיבת תוכנות זדוניות.
DeepMind דיברה על הכללים המגבילים את ההתנהגות שעליהם בנוי ספארו, כמו גם על הנכונות שלה לסרב לענות על שאלות ב"הקשרים שבהם מתאים להגיע לאנשים". במבחנים מוקדמים, ספארו ככל הנראה נתן תשובות אמינות, ובאופן מכריע, גיבה אותן בראיות "78% מהמקרים כששאלו שאלות ממשיות". אבל היכולות האמיתיות שלה יתבהרו כשהביטא הציבורי הזה תושק.
כל מי שהשתמש ב-ChatGPT יודע שהוא יכול לעשות עבודה די טובה בסימול אינטליגנציה במספר נושאים. אבל למרות שזה בהחלט כיף, צ'אטבוטים של AI זקוקים גם לאינטליגנציה מוסרית וליכולת לצטט מקורות - ושם DeepMind אומר ש"סוכן השיחה" שלהם Sparrow מצטיין.
מעבר לשלב הבא ידרוש הרבה נתונים חיצוניים, וזו הסיבה שהבטא הפומבית של Sparrow היא בלתי נמנעת. DeepMind אומרת שפיתוח כללים טובים יותר לעוזרת הבינה המלאכותית שלה "ידרוש הן קלט מומחים ממגוון רחב של נושאים (כולל פוליטיקאים, סוציולוגים ואתיקים) והן קלט שיתופי ממגוון רחב של משתמשים וקבוצות עניין".
סם אלטמן, מנכ"ל OpenAI (שיצרה את ChatGPT), דיבר באופן דומה על הקושי בפתיחת צ'אטבוטים של בינה מלאכותית מבלי לגרום לנזק נלווה. IN Twitter הוא הודה כי "יהיו בעיות משמעותיות עם טכנולוגיית OpenAI לאורך זמן, אנחנו נעשה כמיטב יכולתנו, אבל לא נוכל לחזות בהצלחה כל בעיה".
במילים אחרות, המפתחים של ChatGPT וגם של DeepMind Sparrow הם כמו הורים עם פעוטות סקרנים, וזה כיף ומסוכן באותה מידה - במיוחד כשהגננת שלהם היא למעשה האינטרנט כולו.
מעניין גם:
השאירו תגובה