בוט הבינה המלאכותית ChatGPT לשיחה של OpenAI הושק בשנה שעברה והפך לסופר פופולרי במהירות שיא הודות ליכולתו לכתוב סיפורים, לכתוב מיילים ואפילו ליצור צופן (לפעמים, למרבה הצער, אפילו מזיק). עם זאת, דו"ח חדש מצביע על כך שזה עולה ל-OpenAI הון תועפות כדי לשמור על פעילותה יומיומית.
על פי מחקר של SemiAnalysis, OpenAI מוציא כמעט 695 $ ליום כדי לתחזק אותו צ'אט בוט בסדר עבודה. על פי הערכות החברה, המערכת כוללת כ-3,6 אלף שרתי HGX A100 וכמעט 29 אלף GPUs, והעלות לכל בקשה היא כ- ¢ 0,36.
דילן פאטל, אנליסט ראשי ב-SemiAnalysis, אמר ל-Business Insider כי העלויות הנוכחיות של הפעלת התוכנה עשויות להיות גבוהות אף יותר, שכן סביר להניח שגרסת ה-GPT-4 תהיה יקרה יותר להפעלה מקודמתה, GPT-3. הוא ביסס את ההערכות שלו על דגם ה-GPT-3 שעבר, אבל OpenAI כבר הוציאה גרסה GPT-4 למנויים בתשלום. החברה טוענת כי הדגם החדש מציע מידע מדויק יותר ומגן טוב יותר מפני תשובות שגויות, שהיו בעיה בגרסאות קודמות.
אחת הסיבות העיקריות לעלויות המופרזות היא השבבים המיוחדים עתירי האנרגיה הנדרשים להפעלת המערכת. לפתור את הבעיה הזאת, Microsoft עובדת על שבב בינה מלאכותית משלה בשם Athena שיכול להחליף מעבדי GPU NVIDIA ולהפחית את עלויות התפעול של ChatGPT.
בינתיים, ChatGPT כבר יכול לייצר קוד פונקציונלי מאפס, וזה אפילו מעלה חשש שהוא יכול בסופו של דבר להחליף מתכנתים. עם זאת, מחקר שנערך לאחרונה על ידי קבוצת מדענים מצביע על כך שקוד שנוצר בצ'אטבוט עשוי להיות לא מאובטח במיוחד. המחקר אומר ש-ChatGPT מייצר קוד שהוא "נמוך באופן משמעותי מתקני האבטחה המינימליים החלים ברוב המצבים". המעניין ביותר, הצ'אטבוט מודה בכך כשנשאל עד כמה הקוד שהוא מייצר מאובטח.
כדי לבדוק את איכות הקידוד ChatGPT, ביקשו ממנו החוקרים ליצור 21 תוכניות ותסריטים באמצעות ארבע שפות תכנות: C, C++, Python ו-Java. בניסיון הראשון שלו, הצ'אטבוט הצליח לכתוב רק 5 תוכניות מאובטחות, אך לאחר כמה הנחיה מהחוקרים, הוא יצר 7 פיסות קוד מאובטחות יותר. תוצאות המחקר מצביעות על כך ששימוש ב-ChatGPT לכתיבת אפליקציות עשוי להיות לא יעיל או אפילו מסוכן כעת, אבל זה עשוי להשתנות בעתיד.
קרא גם:
וואו מספרים לנוירון חופשי!
בחיים שלי, לא הייתי חושב שזה כל כך יקר...
גם אני הופתעתי. אפילו קצת לא נוח לי עַכשָׁיו פתח את ChatGPT - אני עדיין אעמיס עליו בבקשות שלי)