למי השירות מיועד
השירות מיועד להנהלות, ליועצים משפטיים ולגורמי פרטיות, טכנולוגיה וניהול סיכונים בארגונים שמשתמשים בכלי AI, מפתחים פתרונות מבוססי AI או פועלים בשוק האירופי.
ממשל AI נועד לחבר בין צורכי הארגון לבין שיקולים משפטיים וטכנולוגיים, וליצור מסגרת מעשית למיפוי שימושים, הגדרת אחריות, קביעת כללים ובקרה שוטפת.
המסגרת הרגולטורית
ישראל. בישראל אין כיום חוק רוחבי אחד המסדיר את כלל שימושי הבינה המלאכותית. פיתוח מערכות AI והשימוש בהן עשויים להיות כפופים לדין הקיים, לרבות חוק הגנת הפרטיות, ולהוראות מגזריות לפי תחום הפעילות. מסמך עקרונות המדיניות הממשלתי משנת 2023 הוא מסמך מדיניות ולא חקיקה מחייבת כשלעצמו.
האיחוד האירופי. תקנת הבינה המלאכותית (EU AI Act) חלה בהתאם לסעיף 2 שלה, ובנסיבות המפורטות בו גם על גורמים שמחוץ לאיחוד. על פי סעיף 113 בנוסחו המתוקן, הוראות מסוימות בפרק III ביחס למערכות בסיכון גבוה יחולו החל מ-2 בדצמבר 2027 לגבי מערכות לפי סעיף 6(2) ונספח III, והחל מ-2 באוגוסט 2028 לגבי מערכות לפי סעיף 6(1) ונספח I. הוראות אחרות כבר חלות. יש לבחון את תחולת החובות, החריגים והמועדים לפי סוג המערכת ותפקיד הארגון.
תקנים ומסגרות מקצועיות. ISO/IEC 42001 הוא תקן בינלאומי למערכת ניהול AI, ואילו NIST AI RMF היא מסגרת וולונטרית לניהול סיכוני AI. הם אינם חקיקה מחייבת מכוח עצמם, אף שדרישות חוזיות או מגזריות עשויות להשפיע על אופן השימוש בהם.
רכיבי הליבה המרכזיים
דין ורגולציה. בחינת ההוראות החלות על פיתוח מערכות AI והשימוש בהן, לרבות פרטיות, קניין רוחני וחובות ייעודיות, ככל שהן רלוונטיות.
ניהול סיכונים. זיהוי והפחתה של סיכונים טכנולוגיים ועסקיים, כגון חשיפת מידע רגיש, תקיפות על מערכות AI, הטיות ותוצרים לא מהימנים.
אתיקה והוגנות. קביעת גבולות לשימוש ובחינת סיכוני הפליה, שאלות של הוגנות והשפעה על אנשים בהחלטות הנתמכות ב-AI.
שקיפות ואחריותיות. הגדרת אחריות, בקרה אנושית ורמת השקיפות וההסבר הנדרשת בהתאם לשימוש ולדין החל.
ממשל נתונים. מיפוי מידע המשמש לפיתוח, לאימון ולהפעלת מערכות AI, וקביעת כללים להזנת מידע תוך התייחסות לפרטיות, לסודיות ולקניין רוחני.
מתודולוגיית העבודה
מיפוי שימושים. אילו כלים בשימוש, על ידי מי, לאילו משימות ועם איזה מידע. כולל כלים שהוטמעו בתוכנות קיימות.
סיווג סיכון. אילו שימושים מותרים, אילו מחייבים בדיקה ואילו אסורים.
מדיניות וכללים. מדיניות שימוש, כללי הזנת מידע, בקרה אנושית על תוצרים (Human Review) ונוהל חריגים.
ספקים. בחינת תנאי השימוש, שמירת המידע, אימון מודלים והרשאות.
הדרכה וסקירה. הדרכה לפי תפקיד ומנגנון עדכון תקופתי.
תוצרים אפשריים
- מרשם כלים ושימושים
- מדיניות שימוש ב-AI
- תהליך אישור כלים
- הערכת סיכוני AI
- הערכת השפעה על הפרטיות למערכות AI
- בחינת תחולה ומוכנות לדרישות EU AI Act
- ליווי בהיערכות ליישום ISO/IEC 42001
- הדרכות להנהלה ולעובדים
סודיות ומידע רגיש
הגנה על מידע חסוי, עסקי או אישי חשובה לארגונים בכל תחום פעילות. לצד חובות מכוח דין או הסכם, עשויות לחול גם חובות סודיות מקצועיות, למשל על עורכי דין, רואי חשבון ופסיכולוגים, בהתאם לנסיבות. לכן חשוב לבחון את סוגי המידע המוזנים לכלים, את תנאי הספקים, את הרשאות הגישה ואת הבקרה על תוצרים. הבדיקה מותאמת לפעילות הארגון ואינה מוגבלת לענף מסוים.