חברת (DSG)Data Science Group משיקה את Evolve, פתרון מתקדם לבקרה ורגולציה של מערכות AI. הפתרון, המושק לאחר שנתיים של פיתוח, בעת שהנציבות האירופית מפרסמת את הצעתה לרגולציה חדשה לבקרת טכנולוגיות AI (Artificial Intelligence Act, 21 אפריל 2021), עונה על הדרישה לכלים לניטור ותיקון בעיות בביצועי מערכות AI ולעמידה ברגולציה.
על פי ההצעה של הנציבות האירופית, הרגולציה תחייב חברות וארגונים העושים שימוש בטכנולוגיות AIבפיקוח וניטור הדוקים אחרי ביצועי יישומי מערכות קריטיות בעלות השפעה מהותית על פרטים והחברה במגוון נושאים הנוגעים בשגרת היום יומית שלנו. הרגולציה החדשה תיושם בכל מדינות האיחוד ומהווה סמן לרגולציות ותקינות עתידיות במדינות נוספות, זאת בדומה לתקנות GDPR המתייחסות לשימוש שחברות עושות במידע פרסונלי דיגיטלי. עבירה על כללי הרגולציה יכולה להוביל לקנסות, עד 6% מהמחזור הגלובלי. המטרה של הרגולציה, על פי הפרסומים, הינה להפוך את אירופה למרכז גלובלי של AI אמין.
Evolve מאפשר נראות (observability) ייחודית לצורך ניטור וגילוי שינויים בנתונים המוזנים תכופות למודלי AI קיימים, הכוללים בין היתר סחף בהתפלגות נתונים קריטיים למודל, אשר גורמים להידרדרות בביצועי המודל לאורך זמן. ההדרדרות הינה מהותית בסביבה עסקית פיננסית, אך הרת גורל בסביבה של אפליקציות דיאגנוסטיקה רפואית, העושות שימוש במידע קליני לצורך ניבוי הדרדרות במצבם של חולים.
ד"ר אילן ששון, מנכ"ל Data Science Group אמר כי: "מערכות AI נמצאות כיום בבסיס תשתיות קריטיות רבות, בתחומי רפואה, פיננסים, ממשל, שיטור, חינוך ועוד. לכן הנציבות האירופאית רואה את הבקרה על מערכות אלו בגדר חובה, שכן רווחתם של פרטים ובמקרים מסויימים חייהם תלויים בתפעול תקין שלהן לאורך זמן. חברות טכנולוגיה ישראליות, מסטארט-אפים עד חברות טכנולוגיה גדולות, המעוניינות להציע פתרונות מבוססי AIלשווקי מטרה באיחוד יהיו מחויבות לעמוד ברגולציה הזו - שילוב Evolve במערכות ה-AI שלהן מהווה תעודת ביטוח ותו תקןלכך".
Evolve מגלה במהירות את שורש הבעיה הנעוצה בהידרדרות המודלים. הפתרון כולל יותר מ-30 כלים ייחודיים, המבצעים מעקב אחר תקינות מערכות ה-AI בסביבת ייצור וכן רכיב ייעודי לניהול היסטורית גרסאות הנתונים, המספק באופן אוטומטי תובנות והצעות לפתרון בעיות, לפני שהן משפיעות על התוצאות העסקיות הנגזרות מאיכות המודלים מבוססי AI.
הפתרון מגובה בגישה מבוססת פטנט בתהליך של החברה, Error-driven Data Science (EDDS), הכוללת מתודולוגיה ייחודית לאנליזת root cause וכלים לניתוח עמוק ואינטראקטיבי. הפתרון נבנה מתוך הניסיון והידע של DSG בהטמעה ובניטור פתרונות AI ולמידת מכונה בטווח רחב של תעשיות ומקרי בוחן.
Evolve פועל לאורך מחזור החיים של מערכת ה-AI, מאפשר תיקון נקודתי וחוסך את הצורך בבניה מחדש של כלל המודל. לפני השקת מערכת AI הפתרון חושף סוגיות של אימות נתונים והטיות ובודק נקודות תורפה. לאחר עליה לאוויר הפתרון מבצע נטור מתמשך ומתריע על בעיות בתקינות המודל, מידע חסר ושחיקת נתונים. אם מתגלות בעיות, Evolve מספק תובנות למדעני נתונים על דרכים אפשריות לפתרון הבעיות שמתגלות.