דף הבית הודעות לעיתונות עסקים, מימון וכספים המכון לחדשנות טכנולוגית של איחוד האמירויות הערביות מחולל מהפכה במודלי שפה של בינה מלאכותית עם ארכיטקטורה חדשה
המכון לחדשנות טכנולוגית של איחוד האמירויות הערביות מחולל מהפכה במודלי שפה של בינה מלאכותית עם ארכיטקטורה חדשה
חיים נוי 14/08/24 |  צפיות: 227

המכון לחדשנות טכנולוגית של איחוד האמירויות הערביות מחולל מהפכה במודלי שפה של בינה מלאכותית עם ארכיטקטורה חדשה

* Falcon Mamba 7B הוא מודל השפה במרחב המצב (SSLM) ממקור פתוח המדורג במקום הראשון בעולם מבחינת ביצועיו, כפי שאומת באופן בלתי תלוי על ידי Hugging Face.

*ל-SSLMs יש עלות זיכרון נמוכה והם אינם דורשים זיכרון נוסף על מנת ליצור בלוקים שרירותיים ארוכים של טקסט

*הביצועים של Falcon Mamba 7B אף עולים על אלה של מודלים מסורתיים של ארכיטקטורת טרנספורמר, כגון Llama 3.1 8B של Meta ו-7B של Mistral

*מודל חדש משקף את החדשנות והגישה החלוצית של אבו דאבי במחקר ובפיתוח של בינה מלאכותית

אבו דאבי, איחוד האמירויות הערביות, 12 באוגוסט 2024, (BUSINESS WIRE):

המכון לחדשנות טכנולוגית Technology Innovation Institute (TII), מרכז מחקר מדעי גלובלי מוביל ועמוד התווך במחקר היישומי של מועצת המחקר הטכנולוגי של אבו דאבי (ATRC), הציג מודל שפה גדול חדש מסדרת Falcon, Falcon Mamba 7B. המודל החדש הוא מודל השפה במרחב המצב (SSLM) ממקור פתוח המדורג במקום הראשון בעולם מבחינת ביצועיו, כפי שאומת באופן בלתי תלוי על ידי Hugging Face.

כ-SSLM הראשון עבור Falcon, הוא שונה ממודלים הקודמים של Falcon, המשתמשים כולם בארכיטקטורה המבוססת על טרנספורמר. מודל Falcon Mamba 7B החדש מהווה דוגמה נוספת למחקר החלוצי המתבצע על ידי המוסד ולכלים ולמוצרים פורצי הדרך שהוא מעמיד לרשות הקהילה בפורמט של מקור פתוח.

פייסל אל-באנאי, המזכיר הכללי של ATRC ויועץ לנשיא האיחוד האמירויות לענייני מחקר אסטרטגי וטכנולוגיה מתקדמת, אמר: "Falcon Mamba 7B הוא מודל הבינה המלאכותית הרביעי ברציפות של TII המדורג במקום הראשון ומחזק את מעמדה של אבו דאבי כמרכז גלובלי למחקר ופיתוח של בינה מלאכותית. הישג זה מדגיש את המחויבות הבלתי מתפשרת של איחוד האמירויות לחדשנות".

עבור מודלים של ארכיטקטורת טרנספורמר, הביצועים של Falcon Mamba 7B עולים על אלה של Llama 3.1 8B ו-Llama 3 8B של Meta, ו-7B של Mistral על פי אמות המידה החדשות שנקבעו על ידי HuggingFace. בינתיים, בכל הקשור ל-SSLMs האחרים, Falcon Mamba 7B מתעלה על כל המודלים ממקור פתוח לפי אמות המידה הישנות ויהיה המודל הראשון בלוח התוצאות החדש של HuggingFace, המבוסס על אמות מידה מחמירות יותר.

ד"ר נג'וואה אאראג', המנהלת הכללית של TII, אמרה: "המכון לחדשנות טכנולוגית ממשיך למתוח את הגבולות של הטכנולוגיה עם המודלים של הבינה המלאכותית מסדרת Falcon. Falcon Mamba 7B מהווה דוגמה לעבודה חלוצית באמת וסולל את הדרך להמצאות עתידות בתחום הבינה המלאכותית אשר יחזקו את היכולות האנושיות וישפרו את החיים".

מודלים של מרחב מצב מצטיינים במיוחד בהבנה של מצבים מורכבים המתפתחים עם הזמן, כגון ספר שלם. זאת מכיוון ש-SSLMs אינם דורשים תוספת של זיכרון כדי לעכל כמויות גדולות של מידע.

לעומת זאת, מודלים המבוססים על טרנספורמר יעילים מאד בזכירה ובשימוש במידע שעובד על ידם בשלב מוקדם יותר ברצף. עובדה זו הופכת אותם לטובים מאד במטלות כגון יצירת תוכן, אולם מכיוון שהם משווים כל מילה עם כל מילה אחרת, הדבר דורש עוצמה חישובית משמעותית.

ל-SSLMs יכולים להימצא שימושים בתחומים שונים כגון משימות של אומדנים, תחזיות ובקרה. בדומה למודלים של ארכיטקטורת טרנספורמר, הם מצטיינים גם במטלות של עיבוד שפה טבעית וניתן להשתמש בהם עבור תרגום מכונה, סיכום טקסט, ראייה ממוחשבת ועיבוד קול.

ד"ר חכים חאסיד, החוקר הראשי בפועל של יחידת AI Cross-Center ב-TII, אמר: "כאשר אנו מציגים את Falcon Mamba 7B, אני גאה באקוסיסטם השיתופי של TII אשר טיפח את הפיתוח שלו. גרסה זו מהווה צעד משמעותי קדימה, המעניק השראה לנקודות מבט רעננות ומניע עוד יותר את מסע החיפוש אחר מערכות חכמות. אנו ב-TII מותחים את הגבולות של SSLM ומודלים של טרנספורמר כדי להצית חדשנות נוספת בתחום הבינה המלאכותית היוצרת.

מודלי השפה הגדולים של Falcon רשמו יותר מ-45 מיליון הורדות, נתון המוכיח את ההצלחה יוצאת הדופן של המודלים. Falcon Mamba 7B ישוחרר תחת TII Falcon License 2.0, רישיון התוכנה המתירני המבוסס על Apache 2.0 וכולל מדיניות שימוש מקובל המקדמת את השימוש האחראי בבינה מלאכותית. ניתן למצוא מידע נוסף על המודל החדש בכתובת FalconLLM.TII.ae.

גלריית תמונות/מולטימדיה אפשר למצוא בכתובת – https://www.businesswire.com/news/home/54107705/en

*מקור: AETOSWire

אשת קשר

ג'ניפר דוואן, מנהל תקשורת בכירה
[email protected]

מקור: Technology Innovation Institute

.

תוכן הודעה זו בשפת המקור, הוא הגרסה הרשמית והמהימנה היחידה של מסמך זה. התרגומים הם למטרות נוחות בלבד ויש להצליבם עם המסמך בשפת המקור, שהוא הגרסה היחידה של טקסט זה שהוא בעל תוקף משפטי.

*** הידיעה מופצת בעולם על ידי חברת התקשורת הבינלאומית Business Wire


דירוג המאמר:

תגיות של המאמר:

 חיים נוי

חיים נוי, עיתונאי, עורך ראשי של סוכנות החדשות הבינ"ל IPA, לשעבר עורך ראשי של סוכנות הידיעות עתים, חבר תא מבקרי התיאטרון באגודת העיתונאים



 


מאמרים נוספים מאת חיים נוי
 
Via מכריזה על תמחור הנפקה ראשונית לציבור
Via Transportation, Inc. ‏("Via"), ספקית מובילה של טכנולוגיה לרשתות תחבורה ציבורית, הכריזה היום על תמחור ההנפקה הראשונית שלה לציבור של 10,714,285 מניות רגילות מסוג Class A במחיר הנפקה של 46.00 דולר למניה.

Polygon Labs ו-Cypher Capital מרחיבות את הגישה המוסדית ל-POL ברחבי המזרח התיכון
Polygon Labs, צוות הפיתוח המרכזי מאחורי האקו סיסטם של Polygon, שילב כוחות עם Cypher Capital, חברת השקעות גלובלית המתמחה בנכסים דיגיטליים וחדשנות Web3, כדי להרחיב את הגישה המוסדית ל-POL, האסימון המקורי של Polygon. לאחר שרכשה לאחרונה פוזיציה משמעותית ב-POL, חברת Cypher Capital תשתף פעולה עם Polygon Labs באסטרטגיות מובנות שיאפשרו למשקיעים מוסדיים לקבל חשיפה, לייצר תשואה ולחזק את הצמיחה והאבטחה של הרשת.

Andersen Consulting מרחיבה את יכולותיה באסיה פסיפיק עם VDB Loi
Andersen Consulting מרחיבה את יכולותיה בקמבודיה, בווייטנאם ובלאוס ומצרפת את VDB Loi, להרחבת יכולות הייעוץ בתחום המיסוי והמשפטים. VDB Loi מנוהלת על ידי ג'ין לוי, המכהנת גם כדירקטורית מנהלת ב-Andersen בקמבודיה ובווייטנאם.

סקר בקרב אחיות מהגרות מראה שיעורי שביעות רצון גבוהים עבור אלה שמשתמשים במגייס מוסמך
בסקר חדש, אחיות/אחים בעלות/בעלי השכלה זרה ואנשי מקצוע אחרים בתחום הבריאות שמהגרים לעבוד בארצות הברית ממשיכים לתת ציונים גבוהים לחברות גיוס המוסמכות על ידי הברית לשיטות גיוס בינלאומיות אתיות (Alliance for Ethical International Recruitment Practices).

קרן הביוטק Sarat Ventures Y Innovations תשקיע בחברות בשלבים מוקדמים עם דגש על ערב הסעודית ואזור המזרח התיכון וצפון אפריקה
בצעד היסטורי לקראת מיצוב ערב הסעודית כמרכז עולמי לביוטכנולוגיה, Sarat Ventures Y Innovations Biotech Fund (בריטניה) הודיעה היום על השקת קרן ביוטכנולוגיה, המעוגנת על ידי Allocator One, שצפויה להשקיע כ-50 מיליון דולר בחברות ביוטק בעלות קשרים אסטרטגיים לשווקים בערב הסעודית ולאזור המזרח התיכון וצפון אפריקה הרחב יותר.

תחום החוזים העתידיים של Bitget מדורג במקום השלישי עבור ETH בין ATH חדשים, מדגיש הדו"ח החודשי
Bitget, בורסת המטבעות הקריפטוגרפים המובילה וחברת Web3, פרסמה את דו"ח השקיפות שלה לאוגוסט 2025, המציג את מעמדה המחוזק כאחת השחקניות החדשניות והחסינות ביותר בתעשיית הנכסים הדיגיטליים.

ClickUp מגיעה במהירות להכנסות חוזרות שנתיות בסך 300 מיליון דולר, צמיחה של 400% במכירות AI
עושה סוף לזליגת עבודה באמצעות פתרון Converged AI Workspace הראשון

Parking Guidance Systems מכריזה על מיזוג גלובלי עם INDECT ו-ParkZen
Parking Guidance Systems, LLC ‏(PGS), החברה המובילה בארה"ב לטכנולוגיות חניה מותאמות, הכריזה על מיזוג אסטרטגי עם INDECT Electronics & Distribution GmbH ‏(INDECT) ו-ParkZen. PGS, החברה המובילה בתהליך, מתרחבת מעבר לבסיסה שבארה"ב במטרה לספק פתרונות חנייה מקיפים ובינלאומיים.

Veritas Capital סוגרת את קרן הדגל התשיעית שלה בגיוס מלא של 14.4 מיליארד דולר
הגיוס מהווה גידול של 35% לעומת הקרן השמינית ומעלה את היקיף הנכסים המנוהלים של החברה לסך של למעלה מ-54 מיליארד דולר החברה ממשיכה במשימתה לחולל שינוי בעסקי שלטון וטכנולוגיה

מנהל התפעול של Bitget, ווגאר אוסי זאדה, הרצה על חינוך בלוקצ'יין ב-TEDx מנילה
Bitget, בורסת המטבעות הקריפטוגרפים המובילה וחברת Web3, גאה לחלוק את הרצאתו של מנהל התפעול ווגאר אוסי זאדה (Vugar Usi Zade) "מיליארד המוחות הבאים: מדוע חינוך בלוקצ'יין חשוב יותר מהבלוקצ'יין עצמו" שהועברה ב-8 בספטמבר בפארק TEDx Forbes, שנערכה ב-Bonifacio High Street Cinemas בעיר הגלובלית בוניפאסיו במנילה.
     
 
שיווק באינטרנט על ידי WSI