דוגמאות מוקדמות אלו הציעו תוצאות מעורבות. תכונות מסוימות, כמו תרגומים בזמן אמת ודיבור לטקסט במכשיר, יכולות להיות שימושיות. אחרים, כמו Windows Recall של מיקרוסופט, עדיין לא הוכיחו את עצמם .
לכל ההייפ הזה עבור AI יש השלכות חשובות לשנה החדשה. 2025 נראה להפוך לשנה שבה מפתחים מיינסטרים עושים את ניסיונותיהם להוסיף AI במכשיר לאפליקציות ה-Windows שלהם, וזה אומר שתרצה לשים לב עוד יותר לביצועי הבינה המלאכותית של מחשבים ניידים מודרניים של Windows לפני שאתה קונה אחד חדש.
שוחחתי עם שני מומחים במחקר ובדיקות בינה מלאכותית כדי לחקור את המוח שלהם לקבלת תובנות לגבי האופן שבו AI במכשיר של Windows יצמח ב-2025.
רווחים גדולים מגיעים ל-NPUs
אם אתה סקרן לגבי ביצועי הבינה המלאכותית של מחשבים ניידים של Windows, סביר להניח שתשווה את ה"TOPS" המובטח על ידי כל דגם מחשב נייד. TOPS ("טריליוני פעולות לשנייה") היא מדידה של היכולת של NPU לבצע כפל מטריצות עבור משימות AI במכשיר. (למידע נוסף על מה זה NPU ומדוע זה חשוב עבור AI .)
בשנת 2024 נרשמה עלייה גדולה בביצועי TOPS הזמינים ממחשבים ניידים של Windows. כדי להעפיל למיתוג "Copilot PC+" של מיקרוסופט, מחשב נייד של Windows חייב להיות בעל לפחות 40 TOPS של ביצועי NPU. לצורך התייחסות, מחשבי Copilot+ הראשונים של קוואלקום ציטטו כ-45 TOPS – זו עלייה של פי ארבע לעומת "Meteor Lake" Core Ultra 7 165H של אינטל, שציטט רק 11 TOPS של ביצועי NPU.
מיקרוסופט / סמסונג
"אני חושב שקוואלקום באמת העירה את כולם", אמר קארל פרוינד , מייסד ואנליסט ראשי ב-Cambrian AI Research. פרוינד ציין כי AMD ואינטל מיהרו להגיב עם שבבים משלהן, שהביאו לעלייה דומה.
עד סוף 2024, קונים המחפשים מחשב נייד פרמיום של Windows – כמו Microsoft Surface, Asus ProArt או Dell XPS – יכולים לצפות לעלייה של פי שלושה או פי ארבעה בביצועי NPU בהשוואה למחשבים ניידים פרימיום דומים שהיו זמינים ב- סוף 2023. זו עלייה ענקית. אבל האם המגמה הזו תימשך לתוך 2025?
ראיין שרוט, נשיא מעבדת בדיקות הביצועים Signal65 , חושב שזה יכול. "זה לא יפתיע אותי אם נראה שוב כפול, ושוב משולש לא יפתיע אותי". עם זאת, הוא מצפה שהרווחים הללו ישקלו יותר לקראת סוף השנה הבאה. "הניחוש שלי הוא שזה יהיה בסוף 2025, וכנראה לתוך 2026, כשאנחנו רואים את השיפורים המשמעותיים ביותר ב-NPU."
ייתכן ש-TOPS לא יישארו למעלה לאורך זמן
שיפור פוטנציאלי של פי שניים עד שלושה עבור ביצועי AI במכשיר הוא משמעותי. עם זאת, פרוינד ושרוט הזהירו שעדיף לא לתת יותר מדי אמון בביצועי ה-TOPS שיצרניות השבבים מצטטות.
"TOPS באמת מייצג 'נתון ביצועים בשימוש יתר על המידה'", אמר פרוינד. "אין לזה הרבה ערך."
Shrout הסכים, והשווה את TOPS לנתוני TFLOPS ש-AMD ו-Nvidia מרבים לצטט בעת שיווק GPUs. המספרים הללו, המצביעים על מהירות החישוב המקסימלית האפשרית של GPU, מציעים תובנה מועטה באופן מפתיע לגבי ביצועים בפועל בעולם האמיתי.
ביצועי בינה מלאכותית בעולם האמיתי הם כרגע מעט פראי, בין השאר מכיוון ש-Windows עדיין לא התאחדה סביב API בודד לניצול יכולות ה-AI של NPU. זו בעיה עבור בעלי מחשבים ניידים Copilot+ שחסר להם שבב קוואלקום בפנים.
מארק הכמן / IDG
למרות של-AMD ולאינטל יש שבבים שמתאימים למיתוג Copilot+, קוואלקום נהנתה ממעמד מועדף עד כה. מכונות קוואלקום היו הראשונות שקיבלו תמיכה ב-Windows Recall ובכמה אפליקציות פופולריות, כמו Blender ו-Affinity Photo, שהוכרזו לאחרונה לעבוד רק על החומרה של Qualcomm Snapdragon X.
עם זאת, זה אמור להשתנות עד 2025, כאשר מיקרוסופט מגבירה את התמיכה ב-API למידת מכונה ברמה נמוכה (DirectML) וב-Windows Copilot Runtime, הכוללת מספר ממשקי AI ספציפיים למשימה (שחלקם טרם שוחררו). לעת עתה, ברור שמחשבי Copilot+ משאירים הרבה מה לרצוי ויש להם הרבה מקום לצמיחה.
"אני חושב שמיקרוסופט תפתור את זה ב-2025", אמר שרוט. "ברגע שמפתחי אפליקציות יתחברו ל-DirectML, כמו שעשו עם DirectX, זו תהיה בעיה שנפתרה. ואני לא חושב שזו תהיה בעיה לאורך זמן". Shrout השווה את זה לימים הראשונים של התלת מימד במחשב, אשר בתחילה ראה ממשקי API מתחרים אך לבסוף התאחד סביב המובילים, כאשר Microsoft DirectX הפכה לאופציה הפופולרית ביותר.
מוכיח את המקרה עבור Windows AI
NPUs טובים יותר וממשק API מאוחד שמקל על מפתחי יישומי Windows להשתמש בפועל בביצועים המלאים של NPU הם שניהם צעדים חשובים קדימה, אבל הם לא בהכרח מבטיחים שבינה מלאכותית במכשיר תהפוך לדבר שבשגרה.
הסיבה לכך היא שלמפתחים עדיין יש אפשרות לפנות לחברות כמו OpenAI ו-Anthropic, אשר הופכות את הדגמים והשירותים של AI שלהם לזמינים לכל מכשיר עם גישה לאינטרנט. ודגמי הבינה המלאכותית שלהם עדיין מסוגלים יותר מדגמי בינה מלאכותית במכשיר, מסוגלים לעשות יותר ולייצר את התוצאות האלה הרבה יותר מהר.
שירותי מחשוב IT או (Information Technology) הם פתרונות טכנולוגיים שמספקים תמיכה, ניהול ותחזוקה של מערכות המחשוב בארגונים. השירותים הללו מכסים את כל תחום ה-IT של הארגון, ומסייעים להבטיח שהמחשבים, השרתים, הרשתות והיישומים פועלים בצורה תקינה, מאובטחת ויעילה. שירותי מחשוב IT מותאמים במיוחד לצרכים של הארגון, וכוללים מגוון שירותים טכנולוגיים. המרכיבים העיקריים בשירותי מחשוב IT כוללים:
- תמיכה טכנית שוטפת – פתרון בעיות טכניות, תחזוקה שוטפת, עדכונים ושדרוגים של תוכנה וחומרה, והכוונה למשתמשים.
- ניהול תשתיות IT – תחזוקה וניהול של מערכות מחשוב כמו שרתים, תחנות עבודה, רשתות מחשבים וציוד טכנולוגי אחר.
- אבטחת מידע – התקנה וניהול של פתרונות אבטחה כמו אנטי וירוס, חומות אש, הצפנה ושירותי VPN לשמירה על פרטיות המידע ויכולת הגנה בפני איומים חיצוניים.
- גיבוי ושחזור נתונים – פתרונות גיבוי אוטומטיים ושחזור נתונים במקרה של אובדן או תקלה במערכת.
- שירותי מחשוב ענן – שירותי אחסון, עיבוד ושירותי מחשוב מבוססי ענן, שמאפשרים לארגונים להימנע מהשקעה בתשתיות פיזיות ולהתמקד בניהול השוטף.
- ניהול רשתות ותקשורת – ניהול הרשת הארגונית, כולל חיבורי אינטרנט, VPN, ופתרונות תקשורת פנימיים בין העובדים.
- ניהול פרויקטים טכנולוגיים – ניהול וייעוץ בהטמעה של פרויקטים טכנולוגיים חדשים, פיתוח מערכות מותאמות אישית, וייעול תהליכים פנימיים.
- ייעוץ טכנולוגי – ייעוץ בהתאמת פתרונות טכנולוגיים לצרכים העסקיים, כולל התמקדות במערכות מידע, תוכנות מותאמות, ושירותי ענן.
שירותי מחשוב IT מספקים לארגונים את היכולת להישאר מעודכנים מבחינה טכנולוגית, להימנע מבעיות טכניות ולהבטיח תפקוד תקין של מערכות המחשוב, כל זאת תוך שמירה על עלויות אופטימליות ושיפור היעילות.
עם זאת, לדגמי בינה מלאכותית המתארחים בענן יש חיסרון משמעותי שיהפוך לרלוונטי יותר ב-2025 – המחיר.
"העובדה שאנו יכולים להפעיל מודלים קטנים של שפה על NPU באופן רציף ברקע כדי לפקח על מה שקורה, זה משהו שהענן לא יכול לעשות, או לפחות יהיה הרבה יותר יקר מנקודת מבט של תשתית", אמר שרוט.
נראה שהמהדורה האחרונה של OpenAI של ChatGPT Pro, שכבת פרימיום חדשה למשתמשים חזקים, מובילה את הנקודה הזו הביתה. ChatGPT Pro מספק גישה בלתי מוגבלת לדגם ה-o1 החדש של החברה וגישה עדיפות למחולל הווידאו Sora, אך מחירו עומד על 200$ לחודש. המחיר לכל אסימון שמשלמים מפתחי אפליקציות כדי להפוך את o1 לזמין למשתמשים הוא תלול באופן דומה.
משתמשים ומפתחים שפונים ל-NPU של מחשב נייד של Windows, לעומת זאת, יכולים למעשה להשתמש בו מתי שהם רוצים בחינם. זו ללא ספק הולכת להיות הלבנה האחרונה שהונחה בדרך לקראת AI במכשיר. למפתחים ולמשתמשים יהיו גם הכלים וגם התמריצים להסתמך על NPU של מחשב נייד Windows במידת האפשר כדי לצמצם עלויות.
נותר לראות באיזו מהירות יתרחש המעבר לעבר AI במכשיר, ועד כמה הוא יתפשט דרך האקולוגית של התוכנה של Windows, אבל סביר להניח ש-2025 תהיה נקודת מפנה ענקית.
