דף הבית הודעות לעיתונות עסקים, מימון וכספים המכון לחדשנות טכנולוגית של איחוד האמירויות הערביות מחולל מהפכה במודלי שפה של בינה מלאכותית עם ארכיטקטורה חדשה
המכון לחדשנות טכנולוגית של איחוד האמירויות הערביות מחולל מהפכה במודלי שפה של בינה מלאכותית עם ארכיטקטורה חדשה
חיים נוי 14/08/24 |  צפיות: 142

המכון לחדשנות טכנולוגית של איחוד האמירויות הערביות מחולל מהפכה במודלי שפה של בינה מלאכותית עם ארכיטקטורה חדשה

* Falcon Mamba 7B הוא מודל השפה במרחב המצב (SSLM) ממקור פתוח המדורג במקום הראשון בעולם מבחינת ביצועיו, כפי שאומת באופן בלתי תלוי על ידי Hugging Face.

*ל-SSLMs יש עלות זיכרון נמוכה והם אינם דורשים זיכרון נוסף על מנת ליצור בלוקים שרירותיים ארוכים של טקסט

*הביצועים של Falcon Mamba 7B אף עולים על אלה של מודלים מסורתיים של ארכיטקטורת טרנספורמר, כגון Llama 3.1 8B של Meta ו-7B של Mistral

*מודל חדש משקף את החדשנות והגישה החלוצית של אבו דאבי במחקר ובפיתוח של בינה מלאכותית

אבו דאבי, איחוד האמירויות הערביות, 12 באוגוסט 2024, (BUSINESS WIRE):

המכון לחדשנות טכנולוגית Technology Innovation Institute (TII), מרכז מחקר מדעי גלובלי מוביל ועמוד התווך במחקר היישומי של מועצת המחקר הטכנולוגי של אבו דאבי (ATRC), הציג מודל שפה גדול חדש מסדרת Falcon, Falcon Mamba 7B. המודל החדש הוא מודל השפה במרחב המצב (SSLM) ממקור פתוח המדורג במקום הראשון בעולם מבחינת ביצועיו, כפי שאומת באופן בלתי תלוי על ידי Hugging Face.

כ-SSLM הראשון עבור Falcon, הוא שונה ממודלים הקודמים של Falcon, המשתמשים כולם בארכיטקטורה המבוססת על טרנספורמר. מודל Falcon Mamba 7B החדש מהווה דוגמה נוספת למחקר החלוצי המתבצע על ידי המוסד ולכלים ולמוצרים פורצי הדרך שהוא מעמיד לרשות הקהילה בפורמט של מקור פתוח.

פייסל אל-באנאי, המזכיר הכללי של ATRC ויועץ לנשיא האיחוד האמירויות לענייני מחקר אסטרטגי וטכנולוגיה מתקדמת, אמר: "Falcon Mamba 7B הוא מודל הבינה המלאכותית הרביעי ברציפות של TII המדורג במקום הראשון ומחזק את מעמדה של אבו דאבי כמרכז גלובלי למחקר ופיתוח של בינה מלאכותית. הישג זה מדגיש את המחויבות הבלתי מתפשרת של איחוד האמירויות לחדשנות".

עבור מודלים של ארכיטקטורת טרנספורמר, הביצועים של Falcon Mamba 7B עולים על אלה של Llama 3.1 8B ו-Llama 3 8B של Meta, ו-7B של Mistral על פי אמות המידה החדשות שנקבעו על ידי HuggingFace. בינתיים, בכל הקשור ל-SSLMs האחרים, Falcon Mamba 7B מתעלה על כל המודלים ממקור פתוח לפי אמות המידה הישנות ויהיה המודל הראשון בלוח התוצאות החדש של HuggingFace, המבוסס על אמות מידה מחמירות יותר.

ד"ר נג'וואה אאראג', המנהלת הכללית של TII, אמרה: "המכון לחדשנות טכנולוגית ממשיך למתוח את הגבולות של הטכנולוגיה עם המודלים של הבינה המלאכותית מסדרת Falcon. Falcon Mamba 7B מהווה דוגמה לעבודה חלוצית באמת וסולל את הדרך להמצאות עתידות בתחום הבינה המלאכותית אשר יחזקו את היכולות האנושיות וישפרו את החיים".

מודלים של מרחב מצב מצטיינים במיוחד בהבנה של מצבים מורכבים המתפתחים עם הזמן, כגון ספר שלם. זאת מכיוון ש-SSLMs אינם דורשים תוספת של זיכרון כדי לעכל כמויות גדולות של מידע.

לעומת זאת, מודלים המבוססים על טרנספורמר יעילים מאד בזכירה ובשימוש במידע שעובד על ידם בשלב מוקדם יותר ברצף. עובדה זו הופכת אותם לטובים מאד במטלות כגון יצירת תוכן, אולם מכיוון שהם משווים כל מילה עם כל מילה אחרת, הדבר דורש עוצמה חישובית משמעותית.

ל-SSLMs יכולים להימצא שימושים בתחומים שונים כגון משימות של אומדנים, תחזיות ובקרה. בדומה למודלים של ארכיטקטורת טרנספורמר, הם מצטיינים גם במטלות של עיבוד שפה טבעית וניתן להשתמש בהם עבור תרגום מכונה, סיכום טקסט, ראייה ממוחשבת ועיבוד קול.

ד"ר חכים חאסיד, החוקר הראשי בפועל של יחידת AI Cross-Center ב-TII, אמר: "כאשר אנו מציגים את Falcon Mamba 7B, אני גאה באקוסיסטם השיתופי של TII אשר טיפח את הפיתוח שלו. גרסה זו מהווה צעד משמעותי קדימה, המעניק השראה לנקודות מבט רעננות ומניע עוד יותר את מסע החיפוש אחר מערכות חכמות. אנו ב-TII מותחים את הגבולות של SSLM ומודלים של טרנספורמר כדי להצית חדשנות נוספת בתחום הבינה המלאכותית היוצרת.

מודלי השפה הגדולים של Falcon רשמו יותר מ-45 מיליון הורדות, נתון המוכיח את ההצלחה יוצאת הדופן של המודלים. Falcon Mamba 7B ישוחרר תחת TII Falcon License 2.0, רישיון התוכנה המתירני המבוסס על Apache 2.0 וכולל מדיניות שימוש מקובל המקדמת את השימוש האחראי בבינה מלאכותית. ניתן למצוא מידע נוסף על המודל החדש בכתובת FalconLLM.TII.ae.

גלריית תמונות/מולטימדיה אפשר למצוא בכתובת – https://www.businesswire.com/news/home/54107705/en

*מקור: AETOSWire

אשת קשר

ג'ניפר דוואן, מנהל תקשורת בכירה
[email protected]

מקור: Technology Innovation Institute

.

תוכן הודעה זו בשפת המקור, הוא הגרסה הרשמית והמהימנה היחידה של מסמך זה. התרגומים הם למטרות נוחות בלבד ויש להצליבם עם המסמך בשפת המקור, שהוא הגרסה היחידה של טקסט זה שהוא בעל תוקף משפטי.

*** הידיעה מופצת בעולם על ידי חברת התקשורת הבינלאומית Business Wire


דירוג המאמר:

תגיות של המאמר:

 חיים נוי

חיים נוי, עיתונאי, עורך ראשי של סוכנות החדשות הבינ"ל IPA, לשעבר עורך ראשי של סוכנות הידיעות עתים, חבר תא מבקרי התיאטרון באגודת העיתונאים



 


מאמרים נוספים מאת חיים נוי
 
תאריך היעד לתביעה נגד MGX ביום שני: רוזן, משרד עורכי דין מהשורה הראשונה, מעודד את המשקיעים ב- Metagenomi, Inc לקבל ייעוץ
תאריך היעד לתביעה נגד MGX ביום שני: רוזן, משרד עורכי דין מהשורה הראשונה, מעודד את המשקיעים ב- Metagenomi, Inc לקבל ייעוץ לפני תאריך יעד חשוב של 25 בנובמבר בתביעה ייצוגית בניירות ערך – MGX

Bitget Wallet השיקה ערכת כלים למסחר במטבעות ממ כדי להעצים את הסוחרים ב-Solana בעת זינוק בשוק
Bitget Wallet השיקה ערכת כלים למסחר במטבעות ממ המאפשרת אסטרטגיות מסחר מתקדמות במהלך הבום בשוק מטבעות הממ בנובמבר

תזכורת למועד לתביעה נגד BMBL: רוזן, יועץ למשקיעים מיומן, מעודד את משקיעי Bumble Inc לקבל ייעוץ
תזכורת למועד לתביעה נגד BMBL: רוזן, יועץ למשקיעים מיומן, מעודד את משקיעי Bumble Inc לקבל ייעוץ לפני תאריך יעד חשוב של 25 בנובמבר בתביעה ייצוגית בניירות ערך – BMBL

התראת מועד לתביעה נגד FNA: רוזן, יועץ למשקיעים גלובלי, מעודד משקיעים ב- Paragon 28, Inc שצברו הפסדים העולים על 100 אלף דולר להבטיח ייעוץ
התראת מועד לתביעה נגד FNA: רוזן, יועץ למשקיעים גלובלי, מעודד משקיעים ב- Paragon 28, Inc שצברו הפסדים העולים על 100 אלף דולר להבטיח ייעוץ לפני תאריך יעד חשוב של 29 בנובמבר בתביעה ייצוגית בניירות ערך שהוגשה לראשונה על ידי החברה - FNA

רוזן, משרד עורכי דין מוביל לזכויות משקיעים, מעודדים את משקיעי iLearningEngines, Inc לקבל ייעוץ
רוזן, משרד עורכי דין מוביל לזכויות משקיעים, מעודדים את משקיעי iLearningEngines, Inc לקבל ייעוץ לפני תאריך יעד חשוב בתביעה ייצוגית בניירות ערך – AILE

רוזן, יועץ למשקיעים מוביל, מעודד את משקיעי Humacyte, Inc לקבל ייעוץ
רוזן, יועץ למשקיעים מוביל, מעודד את משקיעי Humacyte, Inc לקבל ייעוץ לפני תאריך יעד חשוב בתביעה ייצוגית בניירות ערך – HUMA

רוזן, יועץ גלובלי המדורג במקום הראשון, מעודד את המשקיעים ב- WM Technology, Inc להבטיח ייעוץ
רוזן, יועץ גלובלי המדורג במקום הראשון, מעודד את המשקיעים ב- WM Technology, Inc להבטיח ייעוץ לפני תאריך יעד חשוב בתביעה ייצוגית בניירות ערך שהוגשה לראשונה על ידי החברה – MAPS

אנדרסן מקדמת את פעילות הערכת השווי הגלובלית ב-10 מדינות באזור אסיה-פסיפיק
אנדרסןAndersen , חברת השירותים המקצועיים הרב-תחומיים העצמאית בעלת קצב הצמיחה המהיר ביותר בעולם, ממשיכה להרחיב את פעילות הערכת השווי הגלובלית שלה ולהעמיק את קשריה באזור אסיה-פסיפיק באמצעות ההוספה של חברות שותפות באוסטרליה, בסין, באינדונזיה, במלזיה, בפיליפינים, בסינגפור, בקוריאה הדרומית, בטאיוואן ובווייטנאם.

Xsolla מרחיבה את מיצובה המוביל בתחום החידושים ופיתוחי המשחקים ב-APAC, באמצעות שותפות אסטרטגיות חדשות עם העיר בוסאן וחברת BDAN
Xsolla תקים את מטה APAC, תרחיב את ההזדמנויות להתפתחות של כישורים ותעודד פיתוחי Web3 בבוסאן

Advanced Communications and Electronic Systems (ACES) ו-Radisys חותמות על מזכר הבנות להאצת החדשנות והפיתוח של רשתות 5G אלחוטיות פתוחות (ORAN)
Advanced Communications and Electronic Systems Company (ACES), חברה חדשנית מובילה בתחום הטכנולוגיה אשר בסיסה בסעודיה, ו-Radisys® Corporation, מובילה עולמית בפתרונות טלקום פתוחים, התקשרו ביניהן באמצעות מזכר הבנות (MoU) לצורך שיתוף פעולה בפיתוח טכנולוגיית G ORAN5 (Open Radio Access Network) ותאים סלולריים קטנים.
     
 
שיווק באינטרנט על ידי WSI