רשות שוק ההון ביטוח וחסכון – הצוות הבין-משרדי לבחינת שימושי בינה מלאכותית במגזר הפיננסי פרסם דוח ביניים להערות הציבור
ההתפתחויות האחרונות בטכנולוגיות בינה מלאכותית AI מעוררות עניין חסר תקדים, על רקע הפוטנציאל שלהן לחולל מהפכה בחיינו. במיוחד היכולות החדשות של בינה מלאכותית יוצרת (AI Generative ) ומודלי שפה גדולים (Large Models Language), כפי שנחשפו לציבור הרחב מסוף שנת 2022 והתחזיות בדבר הבינה המלאכותית הכללית )AI Purpose General), הובילו להכרה בהשפעה יוצאת הדופן שעשויה להיות לבינה מלאכותית כבר בעתיד הקרוב.
השימוש ביישומי בינה מלאכותית התרחב, המחקר וההשקעות בתחום הבינה המלאכותית גדלו מאוד, וכך גם הניסיונות המעשיים להטמיע בינה מלאכותית בפעילויות עסקיות רבות ומגוונות. השיח ביחס לפוטנציאל ולסיכונים
הנובעים מההתקדמות בתחום הבינה המלאכותית והאסדרה המתאימה נמצא כעת בראש סדר היום העולמי.
בעולמות הפיננסיים השימוש בבינה מלאכותית אינו חדש, אולם ההתפתחויות הטכנולוגיות מעוררות ציפייה כי בינה מלאכותית, במובנה הרחב והמתקדם, תשולב עם הזמן באופן משמעותי יותר במגוון שימושים אפשריים. כך למשל,
יישומים של בינה מלאכותית עשויים לשמש בפעולות ליבה בתהליכי קבלת ההחלטות בתחומי האשראי, הביטוח וההשקעה, בממשקי עבודה מול לקוחות ומשקיעים (כגון בירור צרכי הלקוח, התאמת מוצרים, וטיפול בבקשות),
ובייעול תהליכים פנימיים כגון ניהול סיכונים ומניעת הונאות.
ככל שההבטחה הגלומה בהתקדמות הבינה מלאכותית אכן תתממש, היא עשויה להניב יתרונות רבים מאוד לציבור הרחב, ובהם שיפור ניכר באיכות המוצרים והשירותים הפיננסיים, הוזלת עלויות, הגברת תחרות והנגשת השירותים.
בד בבד מעוררת כניסתה של הבינה המלאכותית אתגרים וסיכונים שונים, בהם אתגרים חדשים וייחודיים כגון האתגר בהבנת אופן פעולת מערכות בינה מלאכותית ותוצריהן, ואתגרים קיימים העשויים להשתנות ולהתעצם עם שילובן
של מערכות אלה, כגון סיכוני אפליה או מניפולציה.
מספר המלצות מרכזיות בדוח הביניים:
לתפיסתו של הצוות, ככלל, יש לעודד פעילות AI בסקטור הפיננסי, לצד קביעת רגולציה מותאמת מקום בו הדבר נדרש ולרוב באמצעות כלי אסדרה "רכים" וגמישים.
הצוות מדגיש את הצורך באימוץ גישה מבוססת סיכונים, לפיה היקף הרגולציה יותאם למהותיות השירות הפיננסי והשפעתו על הלקוח. לדוגמה, צ'ט-בוט AI המספק שירות לקוחות בסיסי יידרש לעמוד בדרישות רגולטוריות מצומצמות יותר בהשוואה למערכת חיתום אשראי מבוססת AI, שלהחלטותיה השפעה משמעותית על הפרט. גישה זו תאפשר לגופים הפיננסיים למקד משאבים בניהול סיכונים בשירותים המהותיים יותר.
הסברתיות: בעיית "הקופסה השחורה" לפיה לא ניתן להסביר באופן מלא את תוצריהן של מערכות AI היא אחד האתגרים המורכבים ביחס לטכנולוגיה זו. הדוח מבחין בין הסברתיות כללית, בנוגע לאופן פעולת המערכת, ובין הסברתיות פרטנית, בנוגע להחלטות ספציפיות. ההמלצה היא שתחול חובת הסברתיות כללית, בעוד שחובת הסברתיות פרטנית תיקבע בהתאם לנסיבות הנוגעות למהות ההחלטה, לקיומה של מעורבות אנושית, וכדומה.
מעורבות אנושית: אחד הכלים הנפוצים המוצעים על מנת להתמודד עם האתגרים הגלומים בפעילות של בינה מלאכותית הוא מעורבות ופיקוח אנושי. ישנה גם ביקורת על דרישה זו שעלולה לצמצם את התועלת בשימוש בטכנולוגיה. בדוח עורך הצוות הבחנה בין סוגים שונים של מעורבות אנושית – מעורבות בזמן אמת מול מעורבות בדיעבד, מעורבות בכל החלטה פרטנית מול מעורבות על פעילות המערכת בכללותה. הצוות ממליץ על מודל מדורג של מעורבות אנושית, שיכלול חובת בקרה אנושית כללית, ומעורבות ישירה בהחלטות בשימושים שיסווגו בסיכון בינוני או גבוה (כגון החלטות מהותיות).
חובות יידוע וגילוי: הצוות סבור כי יש ליידע את הציבור על שימוש במערכות AI או אינטראקציה עם מערכות כאלה בנוסף לחובות גילוי בדבר מאפייני הבינה המלאכותית והשלכותיה שישתלבו בדרישות הגילוי הקיימות בתחום הפיננסי. הצוות מדגיש את הצורך כי הגילוי ייעשה תוך מניעת ״“AI washing (הצגת שווא או הגזמה ביחס לשימוש ב-AI ) וכן הקפדה שהיידוע והגילוי יהיו בשפה פשוטה ונייטרלית.
הונאות ודיסאינפורמציה: הדוח מתייחס להשפעת התקדמות ה-AI על סיכוני הונאה ודיסאינפורמציה במערכת הפיננסית, החל מהתחזות ללקוחות ועד להשלכות מערכתיות רחבות, וממליץ לרגולטורים כיצד לעדכן ולהרחיב את מנגנוני ההתמודדות עם סיכונים אלה.
פרטיות והגנה על מידע אישי: הדוח כולל סקירה של האתגרים העומדים בפני ההגנה על הזכות לפרטיות הנובעים ממאפייני מערכות AI ורגישות המידע הפיננסי. הדוח כולל הצעות לכלים ואמצעים להתמודדות עם אתגרים אלה, ובין היתר ממליץ לרגולטורים הפיננסיים להכווין גופים מפוקחים לבצע הערכת סיכונים ביחס לזיהוי חוזר של מידע אישי, וכן לאמץ כלים ארגוניים לניהול וצמצום הסיכונים לפרטיות הכרוכים בפיתוח מערכות בינה מלאכותית כגון: תסקיר השפעה על פרטיות, יישום והטמעת תפיסות של עיצוב לפרטיות, וזאת בנוסף למינוי ממונה על הגנת הפרטיות.
הדוח כולל המלצות בתחומים רבים נוספים: כללי ממשל תאגידי שיאפשרו ניהול סיכונים ביחס לשימושי AI במוסד הפיננסי; כללי אחריות ביחס למערכות AI, המבהירים על מי מוטלת האחריות בנוגע לתפקוד המערכות; אמצעים למניעת אפליה; סיכונים והזדמנויות בהיבטי תחרות וכדומה.
דוח הביניים פורסם לאחר תהליך שכלל למידה של הטכנולוגיה, הבנת היישומים שלה בתחום הפיננסי, ניתוח היבטים משפטיים ורגולטוריים של AI, שיתוף ידע בין הגורמים השותפים להכנת דוח הביניים, פרסום קול קורא ומפגשים עם גורמים רבים מהתעשייה, האקדמיה, הממשל, וכן רגולטורים וארגונים זרים העוסקים בקביעת מדיניות בתחום.
לדוח קדמה סקירה מקיפה שערכו חוקרים מאוניברסיטת תל אביב (פרופ׳ אסף חמדני, פרופ׳ דן עמירם, פרופ׳ קובי קסטיאל, וד״ר ארי אחיעז) יחד עם מחלקת ייעוץ וחקיקה במשרד המשפטים. חוקרים אלה המשיכו ללוות את הצוות בשלב גיבוש ההמלצות.
בראש הצוות הבין-משרדי לבחינת שימושי בינה מלאכותית במגזר הפיננסי עומדים עו"ד אמיר וסרמן היועץ המשפטי של רשות ניירות ערך, ועו"ד שרית פלבר, ראשת אשכול חדשנות טכנולוגית ותקציב בייעוץ וחקיקה (משפט כלכלי), משרד המשפטים. בנוסף חברים בצוות גב' אילנית מדמוני, מנהלת יחידת החדשנות בטכנולוגיה פיננסית בפיקוח על הבנקים בבנק ישראל, גב' אביבה וייס, מנהלת מחלקת ניהול סיכונים ומנהלת מחלקת פיקוח על טכנולוגיות מידע וסייבר ברשות שוק ההון, ביטוח וחיסכון, עו"ד דודי קופל, המשנה ליועץ המשפטי במשרד האוצר, ועו"ד איל שפירא, מנהל תחום בכיר תכנון ומדיניות ברשות התחרות. עו"ד תום גולדרייך, ראש תחום טכנולוגיות פיננסיות במחלקה הבינלאומית ברשות ניירות ערך, מרכז את עבודת הצוות.