, що генерують код, можуть створити реальну проблему для безпеки програмного забезпечення в майбутньому.){kind=link}
אלגוריתמים של למידת מכונה הם כל העת בזעם, מכיוון שהם משמשים ליצירת כל סוג של תוכן "מקורי" לאחר אימון על מערכי נתונים ענקיים קיימים. עם זאת, קוד יצירת בינה מלאכותית (AI) עשוי להוות בעיה אמיתית לאבטחת תוכנה בעתיד.
מערכות AI כמו GitHub Copilot מבטיחות להקל על חיי המתכנתים על ידי יצירת נתחים שלמים של קוד "חדש" המבוסס על נתוני טקסט בשפה טבעית והקשר קיים מראש. אבל אלגוריתמים ליצירת קוד יכולים להציג גם גורם חוסר ביטחון, כפי שמצא לאחרונה מחקר חדש שכלל כמה מפתחים.
בהסתכלות ספציפית על Codex, פלטפורמת הבינה המלאכותית שפותחה על ידי OpenAI, שהיא גם מנוע הקוד מאחורי GitHub Copilot הנ"ל, השתתפו במחקר 47 מפתחים שונים. מסטודנטים ועד אנשי מקצוע מנוסים, הם נתקלו באתגר להשתמש ב-Codex כדי לפתור בעיות הקשורות לאבטחה ב-Python, JavaScript, C ושפות תכנות ברמה גבוהה אחרות.
החוקרים ציינו שכאשר למתכנתים הייתה גישה ל-AI של Codex, סביר יותר שהקוד שהתקבל יהיה שגוי או לא מאובטח בהשוואה לפתרונות "ידניים" שתוכננו על ידי קבוצת ביקורת. בנוסף, מתכנתים עם פתרונות המונעים בינה מלאכותית נטו יותר לומר שהקוד הלא מוגן שלהם בטוח, בהשוואה לקבוצת הביקורת שהוזכרה לעיל.
אייל פרי, סטודנט לתואר שני באוניברסיטת סטנפורד ומחבר שותף ראשי של המחקר, אמר כי "מערכות יוצרות קוד אינן יכולות להחליף כרגע מפתחים אנושיים". לדבריו, מפתחים יכולים להשתמש בכלי בינה מלאכותית כדי לבצע משימות מחוץ ליכולתם או להאיץ את תהליך התכנות שבו יש להם כבר כישורים מסוימים. לדברי מחבר המחקר, הם צריכים להיות מודאגים משניהם ולבדוק תמיד את הקוד שנוצר.
לדברי Megha Srivastava, סטודנטית לתואר שני בסטנפורד והמחבר השני של המחקר, Codex אינו חסר תועלת: למרות החסרונות של AI "מטופש", מערכות יצירת קוד יכולות להיות שימושיות כאשר משתמשים בהן למשימות בסיכון נמוך. בנוסף, למתכנתים שהשתתפו במחקר לא היה ניסיון רב בענייני אבטחה, מה שיכול לעזור באיתור קוד פגיע או מסוכן, אמר Srivastava.
ניתן גם לכוונן אלגוריתמי AI כדי לשפר הצעות קידוד, וחברות המפתחות מערכות משלהן יכולות לקבל פתרונות טובים יותר עם מודל שיוצר קוד המתאים יותר לשיטות האבטחה שלהן. לדברי מחברי המחקר, טכנולוגיית יצירת הקוד היא פיתוח "מרגש" ואנשים רבים להוטים להשתמש בה. רק שיש עוד הרבה עבודה לעשות כדי למצוא את הפתרונות הנכונים להתגבר על החסרונות של AI.
אתה יכול לעזור לאוקראינה להילחם נגד הפולשים הרוסים. הדרך הטובה ביותר לעשות זאת היא לתרום כספים לכוחות המזוינים של אוקראינה באמצעות הצלת חיים או דרך העמוד הרשמי NBU.
מעניין גם: