מהפכת ה-AI: NVIDIA ו-Dell מציגות את העתיד המואץ של סוכני AI
כנס Dell Technologies World שנערך לאחרונה חשף חדשות מרעישות בתחום הבינה המלאכותית (AI), בהובלתם של מייקל דל, יו"ר ומנכ"ל Dell, וג'נסן הואנג, מייסד ומנכ"ל NVIDIA. הכנס הציג את השילוב בין טכנולוגיות NVIDIA למערכות Dell, והדגיש את השפעתן על תעשיית ה-AI העולמית.
NVIDIA Vera Rubin NVL72, המעבד החדש של החברה, מביא עמו בשורה בתחום האינפרנס של AI סוכני, עם עלות מופחתת משמעותית של עשירית לכל טוקן. דל הציג את המערכת החדשה, שמהירה ב-50% ממעבדים מסורתיים ומספקת ביצועים מהירים פי 3 בשאילתות נתונים ארגוניות. יותר מ-5,000 חברות, ביניהן Lilly, Samsung ו-Honeywell, כבר משתמשות בטכנולוגיה זו לשיפור תהליכי הייצור והפרודוקטיביות.
השילוב בין Dell ו-NVIDIA לא רק משפר את הביצועים, אלא גם מציע פתרונות מאובטחים לפריסת מודלים מתקדמים וסוכנים אוטונומיים מאחורי פרימטר הארגון. המפעל החדש של AI של Dell, המשלב את טכנולוגיית NVIDIA, מתמקד בצרכים הארגוניים ומציע פתרונות שיובילו את השוק בעידן הסוכנים.
השקעות ה-AI העולמיות צפויות להגיע ל-3-4 טריליון דולר עד 2030, עם גידול בצריכת טוקנים של 3,400%. הביקוש לטכנולוגיות AI כבר הפך לפרבולי, והמפעל החדש של Dell ו-NVIDIA מציע פתרון לאתגרים החדשים. השדרוגים האחרונים כוללים את Dell PowerEdge XE9812, המציע עלות נמוכה פי 10 לכל טוקן לעומת פתרונות קודמים, ושרתי PowerEdge נוספים עם ביצועים משופרים ויכולות מחשוב מתקדמות.
המבנה החדש של Dell PowerRack מציע מערכת משולבת לחלוטין הכוללת מחשוב, רשת ואחסון, עם ניהול חשמל ואופטימיזציה תוכנתית. זה מאפשר עומסי עבודה מואצים של AI ו-HPC בקנה מידה ארגוני, ללא הצורך בהרכבת רכיבים נפרדים.
בין הדוברים המרכזיים בכנס היה דיוגו ראו מ-Lilly, שתיאר את ההתקדמות במדעי החיים המונעת על ידי AI. גם Samsung ו-Honeywell הציגו את השימושים שלהם בטכנולוגיה בעיצוב שבבים ובמקרים תעשייתיים נוספים.
המעבר של ארגונים מהענן הציבורי לפריסות AI באתר מראה על שינוי תפיסתי, שבו 67% מעומסי העבודה של AI מתבצעים כעת מחוץ לענן. התשובה לאתגרי הפריסה והאבטחה של מודלים מתקדמים מצויה בשימוש במחשוב סודי של NVIDIA, המאפשר הגנה על נתונים ומודלים קנייניים תוך שמירה על יעילות וביצועים.
המהפכה בעולמות ה-AI מחייבת חשיבה מחודשת על תשתיות ופריסות טכנולוגיות. כיצד אתם רואים את השפעת ה-AI על הארגון שלכם, ואילו צעדים אתם נוקטים כדי להישאר בחזית הטכנולוגיה? נשמח לשמוע את דעתכם ולהתחיל דיון בנושא.