דף הבית הודעות לעיתונות עסקים, מימון וכספים המכון לחדשנות טכנולוגית של איחוד האמירויות הערביות מחולל מהפכה במודלי שפה של בינה מלאכותית עם ארכיטקטורה חדשה
המכון לחדשנות טכנולוגית של איחוד האמירויות הערביות מחולל מהפכה במודלי שפה של בינה מלאכותית עם ארכיטקטורה חדשה
חיים נוי 14/08/24 |  צפיות: 133

המכון לחדשנות טכנולוגית של איחוד האמירויות הערביות מחולל מהפכה במודלי שפה של בינה מלאכותית עם ארכיטקטורה חדשה

* Falcon Mamba 7B הוא מודל השפה במרחב המצב (SSLM) ממקור פתוח המדורג במקום הראשון בעולם מבחינת ביצועיו, כפי שאומת באופן בלתי תלוי על ידי Hugging Face.

*ל-SSLMs יש עלות זיכרון נמוכה והם אינם דורשים זיכרון נוסף על מנת ליצור בלוקים שרירותיים ארוכים של טקסט

*הביצועים של Falcon Mamba 7B אף עולים על אלה של מודלים מסורתיים של ארכיטקטורת טרנספורמר, כגון Llama 3.1 8B של Meta ו-7B של Mistral

*מודל חדש משקף את החדשנות והגישה החלוצית של אבו דאבי במחקר ובפיתוח של בינה מלאכותית

אבו דאבי, איחוד האמירויות הערביות, 12 באוגוסט 2024, (BUSINESS WIRE):

המכון לחדשנות טכנולוגית Technology Innovation Institute (TII), מרכז מחקר מדעי גלובלי מוביל ועמוד התווך במחקר היישומי של מועצת המחקר הטכנולוגי של אבו דאבי (ATRC), הציג מודל שפה גדול חדש מסדרת Falcon, Falcon Mamba 7B. המודל החדש הוא מודל השפה במרחב המצב (SSLM) ממקור פתוח המדורג במקום הראשון בעולם מבחינת ביצועיו, כפי שאומת באופן בלתי תלוי על ידי Hugging Face.

כ-SSLM הראשון עבור Falcon, הוא שונה ממודלים הקודמים של Falcon, המשתמשים כולם בארכיטקטורה המבוססת על טרנספורמר. מודל Falcon Mamba 7B החדש מהווה דוגמה נוספת למחקר החלוצי המתבצע על ידי המוסד ולכלים ולמוצרים פורצי הדרך שהוא מעמיד לרשות הקהילה בפורמט של מקור פתוח.

פייסל אל-באנאי, המזכיר הכללי של ATRC ויועץ לנשיא האיחוד האמירויות לענייני מחקר אסטרטגי וטכנולוגיה מתקדמת, אמר: "Falcon Mamba 7B הוא מודל הבינה המלאכותית הרביעי ברציפות של TII המדורג במקום הראשון ומחזק את מעמדה של אבו דאבי כמרכז גלובלי למחקר ופיתוח של בינה מלאכותית. הישג זה מדגיש את המחויבות הבלתי מתפשרת של איחוד האמירויות לחדשנות".

עבור מודלים של ארכיטקטורת טרנספורמר, הביצועים של Falcon Mamba 7B עולים על אלה של Llama 3.1 8B ו-Llama 3 8B של Meta, ו-7B של Mistral על פי אמות המידה החדשות שנקבעו על ידי HuggingFace. בינתיים, בכל הקשור ל-SSLMs האחרים, Falcon Mamba 7B מתעלה על כל המודלים ממקור פתוח לפי אמות המידה הישנות ויהיה המודל הראשון בלוח התוצאות החדש של HuggingFace, המבוסס על אמות מידה מחמירות יותר.

ד"ר נג'וואה אאראג', המנהלת הכללית של TII, אמרה: "המכון לחדשנות טכנולוגית ממשיך למתוח את הגבולות של הטכנולוגיה עם המודלים של הבינה המלאכותית מסדרת Falcon. Falcon Mamba 7B מהווה דוגמה לעבודה חלוצית באמת וסולל את הדרך להמצאות עתידות בתחום הבינה המלאכותית אשר יחזקו את היכולות האנושיות וישפרו את החיים".

מודלים של מרחב מצב מצטיינים במיוחד בהבנה של מצבים מורכבים המתפתחים עם הזמן, כגון ספר שלם. זאת מכיוון ש-SSLMs אינם דורשים תוספת של זיכרון כדי לעכל כמויות גדולות של מידע.

לעומת זאת, מודלים המבוססים על טרנספורמר יעילים מאד בזכירה ובשימוש במידע שעובד על ידם בשלב מוקדם יותר ברצף. עובדה זו הופכת אותם לטובים מאד במטלות כגון יצירת תוכן, אולם מכיוון שהם משווים כל מילה עם כל מילה אחרת, הדבר דורש עוצמה חישובית משמעותית.

ל-SSLMs יכולים להימצא שימושים בתחומים שונים כגון משימות של אומדנים, תחזיות ובקרה. בדומה למודלים של ארכיטקטורת טרנספורמר, הם מצטיינים גם במטלות של עיבוד שפה טבעית וניתן להשתמש בהם עבור תרגום מכונה, סיכום טקסט, ראייה ממוחשבת ועיבוד קול.

ד"ר חכים חאסיד, החוקר הראשי בפועל של יחידת AI Cross-Center ב-TII, אמר: "כאשר אנו מציגים את Falcon Mamba 7B, אני גאה באקוסיסטם השיתופי של TII אשר טיפח את הפיתוח שלו. גרסה זו מהווה צעד משמעותי קדימה, המעניק השראה לנקודות מבט רעננות ומניע עוד יותר את מסע החיפוש אחר מערכות חכמות. אנו ב-TII מותחים את הגבולות של SSLM ומודלים של טרנספורמר כדי להצית חדשנות נוספת בתחום הבינה המלאכותית היוצרת.

מודלי השפה הגדולים של Falcon רשמו יותר מ-45 מיליון הורדות, נתון המוכיח את ההצלחה יוצאת הדופן של המודלים. Falcon Mamba 7B ישוחרר תחת TII Falcon License 2.0, רישיון התוכנה המתירני המבוסס על Apache 2.0 וכולל מדיניות שימוש מקובל המקדמת את השימוש האחראי בבינה מלאכותית. ניתן למצוא מידע נוסף על המודל החדש בכתובת FalconLLM.TII.ae.

גלריית תמונות/מולטימדיה אפשר למצוא בכתובת – https://www.businesswire.com/news/home/54107705/en

*מקור: AETOSWire

אשת קשר

ג'ניפר דוואן, מנהל תקשורת בכירה
[email protected]

מקור: Technology Innovation Institute

.

תוכן הודעה זו בשפת המקור, הוא הגרסה הרשמית והמהימנה היחידה של מסמך זה. התרגומים הם למטרות נוחות בלבד ויש להצליבם עם המסמך בשפת המקור, שהוא הגרסה היחידה של טקסט זה שהוא בעל תוקף משפטי.

*** הידיעה מופצת בעולם על ידי חברת התקשורת הבינלאומית Business Wire


דירוג המאמר:

תגיות של המאמר:

 חיים נוי

חיים נוי, עיתונאי, עורך ראשי של סוכנות החדשות הבינ"ל IPA, לשעבר עורך ראשי של סוכנות הידיעות עתים, חבר תא מבקרי התיאטרון באגודת העיתונאים



 


מאמרים נוספים מאת חיים נוי
 
זום תפרסם ב- 25/11 את התוצאות הכספיות לרבעון השלישי של שנת הכספים 2025
Zoom Video Communications, Inc. (נאסד"ק: ZM) הודיעה היום כי תפרסם את תוצאותיה הכספיות לרבעון השלישי של שנת הכספים 2025 ביום שני, 25 בנובמבר 2024, לאחר סגירת השוק

Flashpoint משיקה כלי חינמי להערכה של מניות בחברות טכנולוגיה פרטיות
Flashpoint Venture Capital, חברה בינלאומית לניהול השקעות טכנולוגיות עם יותר מ-500 מיליון דולר AUM, המתמקדת בחברות טכנולוגיה אירופאיות וישראליות, השיקה כלי חינמי שנועד לעזור ליחידים להעריך את ערך המניות שלהם בשלב הצמיחה בחברות טכנולוגיה פרטיות.

בכל שנייה בשנה האחרונה 3 בנות ו-2 בנים חוו אלימות מינית בילדים
Together for Girls, שותפות גלובלית הפועלת למיגור אלימות נגד ילדים ובני נוער, חושפת השנה את ממצאיו של מאמץ מחקרי נרחב החושף את השכיחות העולמית של אלימות מינית בילדות (CSV) השנה, הכולל נתונים המייצגים 193 מדינות ורלוונטיים לחוויותיהם של 2.4 מיליארד צעירים. ב-12 החודשים האחרונים, 82 מיליון בנות ו-69 מיליון בנים חוו צורה כלשהי של אלימות מינית, כ-3 בנות ו-2 בנים בשנייה

Berkshire Partners מודיעה על סגירת קרן XI עם התחייבויות של כ-7.8 מיליארד דולר
מדובר בגיוס הכספים הגדול ביותר במהלך 40 שנות קיומה של החברה

XPENG מתפרסמת כעת ברשימות "Tech 50" ו-"China 500" של Fortune China
* XPENG מדורגת בין רשימות Fortune Tech 50 ו-Fortune China 500 עבור חדשנות מובילה בתחום ניידות הבינה המלאכותית

חברת Matia מגייסת 10.5 מיליון דולר בסבב גיוס Seed ומשיקה פלטפורמה מאוחדת ל- DataOps
חברת MATIA הודיעה היום, יום שלישי 29.10.2024, על גיוס 10.5 מיליון דולר בסבב גיוס Seed וחושפת את פלטפורמת DataOps שפיתחה החברה המשלבת יכולות איסוף וייבוא נתונים, ניטור וקטלוג.

SmartDV בחרה ב-MosaIC כנציגת מכירות ה-IP שלה בישראל
שותפות חדשה מרחיבה את גישת ה-IP וה-VIP לקהילת תכנון השבבים הישראלית

2ONE® Nicotine Pouches מצטרפות ל-MBM Motorsports כנותנת חסות עבור מספר מרוצים
ג'וש ביליקי וצ'אד פינצ'אם יקבלו הזדמנות להתחיל מרוץ ב-NASCAR Cup Series עם 2ONE Pouches No. 66

חברת ביטוח הבעלות אליאנט נשיונל (Alliant National Title Insurance Company) מתקשרת בהסכם לרכישתה על ידי Dream Finders Homes
חברת ביטוח הבעלות (טייטל) Alliant National ‏("Alliant National") הכריזה היום כי חתמה על הסכם סופי במסגרתו היא תירכש על ידי Dream Finders Homes, Inc ("DFH") (NYSE: DFH).

eXp Realty מתניעה התרחבות גלובלית: טורקיה, פרו ומצרים אמורות להצטרף ב-2025
עם הוספת שווקים חדשים אלה, eXp Realty תרחיב את נוכחותה הגלובלית ל-27 מדינות
     
 
שיווק באינטרנט על ידי WSI