לפי הורה שפרסם צילומי מסך של היסטוריית הפעילות של אלקסה, העוזרת הקולית של אמזון, כשילדה התבקשה להציע אתגר, נתנה דוגמה לניסוי קטלני בחשמל, והוציאה את התיאור שלו מהקשר של מאמר אקראי. טור הד דיבר על ניסוי פופולרי בקרב מעריצי TikTok עם שימוש במטבע ובמטען לסמארטפון - תקריות רבות, פציעות ושריפות לאחר יישומו דווחו על ידי כלי תקשורת שונים יותר מפעם אחת. ככל הנראה, המכשיר קיבל את הרעיון לאתגר זה ממאמר שתיאר אותו כמסוכן, תוך ציטוט של דיווח על אתגר TikTok קיים לכאורה.
לפי צילום מסך שצילמה כריסטין ליבדהל, כשהתבקשה "להראות לי משימה", השיב אקו: "הנה משהו שמצאתי באינטרנט". לפי ourcommunitynow.com, המשימה פשוטה: "הכנס את מטען הטלפון בערך באמצע השקע, ואז גע בפינים החשופים עם אגורה".
בהצהרה ל-BBC, אמזון אישרה את התנהגותה של אלקסה, ואמרה: "ברגע שנודע לנו על השגיאה הזו, נקטנו פעולה מיידית כדי לתקן אותה". ליבדהל צייצה אתמול שבקשת האתגר כבר לא עובדת. משתמשים באינטרנט גם בדקו את הבקשה עם Alexa וקיבלו תוצאה דומה.
OMFG בת ה-10 שלי בדיוק ביקשה מאלכסה ב-Echo שלנו אתגר וזה מה שהיא אמרה. תמונה.twitter.com/HgGgrLbdS8
— קריסטין ליבדהל (@klivdahl) דצמבר 26, 2021
אמזון היא לא החברה היחידה שנתקלה בבעיות בעת ניתוח תוכן אינטרנט. באוקטובר, משתמש דיווח שגוגל מציגה עצות שעלולות להיות מסוכנות באחד מהקטעים שלה אם הקלדת "אתה סובל מהתקף, מה לעשות" בגוגל - המידע נלקח מקטע בדף האינטרנט שמתאר מה לא לעשות אם למישהו יש התקף. עם זאת, משתמשים דיווחו על בעיות דומות אחרות, כולל משתמש אחד שדיווח שגוגל מחזירה תוצאות עבור יתר לחץ דם אורתוסטטי בעת חיפוש יתר לחץ דם אורתוסטטי, ואחר פרסם צילום מסך של גוגל המציג עצות נוראיות לנחם אדם אבל בנוסח "שמח שאתה הכל בסדר" או "אל תהיה עצוב! תתעודד!".
סיכום החיפוש של Google לעומת הדף בפועל תמונה.twitter.com/OJxt1FrBqh
— soft.linden (｡•̀ᴗ-)✧ (@soft) אוקטובר 16, 2021
ראינו גם אזהרות לגבי התנהגות מסוכנת מתגברות כדי להפוך את הבעיה לגדולה יותר ממה שהייתה - מוקדם יותר החודש, חלק ממחוזות בתי הספר בארה"ב נסגרו לאחר דיווחים על איומי ירי ב-TikTok. התברר שהסערה החברתית נגרמה בעיקר מהעובדה שאנשים דיברו על האיומים, הרבה יותר מהאיומים שהיו קיימים בפועל. במקרה של אלקסה, האלגוריתם בחר את החלק התיאורי של האזהרה והגביר אותו ללא ההקשר המקורי. למרות שההורים היו שם כדי להתערב מיד, קל לדמיין מצב שבו זה לא המצב ואת ההשלכות.
ליבדהל צייצה בטוויטר שהיא ניצלה את ההזדמנות "לדון בבטיחות האינטרנט עם ילדה ולא לסמוך על מה שאתה קורא ללא מחקר ואימות", מה שאנו מציעים לך לעשות גם.
קרא גם: