בינה מלאכותית בעולם יישוב הסכסוכים

בינה מלאכותית בעולם יישוב הסכסוכים

מאת: עו”ד יעקב אנוך. שותף בכיר וראש מחלקת המיזוגים והרכישות במשרד מ. פירון ושות’.

בהמשך ליום העיון המרתק שאירח המוסד לאחרונה בעניין סכסוכים הקשורים בבינה מלאכותית, נבקש לסקור, בקיצור רב, שורה של נקודות השקה בין התפתחות הטכנולוגיה והבינה המלאכותית לבין יישוב סכסוכים  בכלל ומוסד הבוררות בפרט.

ביום העיון[1] עלו לדיון שאלות מעניינות בדבר אופיים החדש של סכסוכים אשר צפויים להתעורר אגב השימוש הגובר והולך בטכנולוגיה שביסודה בינה מלאכותית.

כך, מובן הוא, שמערכות שתפתחנה יכולות פעולה עצמאיות צפויות להציב אתגרים פוטנציאליים מעניינים בפני מערכת המשפט. בקצה הסקאלה, שעודנו דמיוני למדי, עומדים רובוטים תבוניים לגמרי מהסוג המוכר מספריו של אסימוב או מסרטי המדע הבדיוני. קיומם, כשיגיע, יעלה שאלות בדבר ההצדקה להכיר בהם כישויות משפטיות נפרדות, ואולי אף כיצורים בעלי זכויות כשל בני אדם, או בעלי חיים. אלה שאלות פילוסופיות לא פחות ממשפטיות ומכל מקום אין הן מחייבות דיון והכרעה בעתיד הנראה לעין.

לעומת הרובוטים האמורים, קיימות כבר כיום, ומתפתחות כל העת, מערכות אוטונומיות, לומדות. שילובן של אותן מערכות אוטונומיות בחיי המסחר והיומיום מעלה סוגיות משפטיות  רבות אשר רלוונטיות לימינו אנו. להלן נסקור חלק מהן.

מהו משטר האחריות החל?

על מי תוטל האחריות בגין כשל בפעילותן של מערכות אוטונומיות?

מובן כי במקרים כאלה עולות שאלות רבות שאינן שונות מן השאלות החלות בהקשרים קונבנציונאליים (כגון חלוקת האחריות בין גורמים מעורבים שונים ובהם המשתמש, מתכנני המערכת, ספקי המידע על בסיסה היא מקבלת את החלטותיה, משווקים מפיצים ויבואנים למיניהם; כיצד יוגדר סטנדרט ההתנהגות הסביר לגבי כל גורם שכזה וכיו”ב).[2]

אלא שבצד השאלות המסורתיות עולות שאלות חדשניות יותר. כך למשל, קושי משמעותי בייחוס אחריות לנזק שנגרם כתוצאה מפעילותה של מערכת אוטונטמית הוא בכך שאופני פעולתן של מערכות כאלה (בעיקר מערכות המשלבות machine learning) הינם בלתי צפויים כמעט בהגדרתם. בהיות הצפיות רכיב הכרחי ברכיבי הקשר הסיבתי המשפטי, אי הצפיות האינהרנטית של התנהגותן של מערכות כאלה יכולה למנוע הטלת אחריות (שהרי אם לא ניתן יהיה להוכיח קשר סיבתי לנזק שנגרם לא תקום אחריות).[3]

דרך אחת שבה ניתן להתמודד עם בעיה זו היא הטלת אחריות מוחלטת. זוהי גישה קיצונית, ואף מחמירה יותר ממשטרי האחריות החמורה הקיימים בדין הישראלי כיום.[4] אחריות מוחלטת קיצונית יותר, בכך שלהבדיל מאחריות חמורה, אין היא מאפשרת למזיק כל טענות הגנה.

הרציונל העומד בבסיסה של הטלת אחריות מוחלטת (ואף אחריות חמורה) הוא, לא פעם, שמצב הדברים שיצרה התנהגותו גורמת הנזק של הנתבע אינו ראוי, גם אם התנהגותו הייתה ראויה. יוצא איפוא שהטלת האחריות המוחלטת או החמורה היא בחירה של מדיניות שמניחה שניתן למנוע או לשפר את אותו מצב דברים יסודי ובעייתי על ידי הטלת האחריות האמורה ושידור המסר: “עליך לשאת בתוצאות התנהגותך בין שנהגת כראוי ובין שלאו”.[5]

נראה, כי קביעת מדיניות שכזו ביחס לשימוש במערכות אוטונומיות אינה בהכרח רצוייה, שהרי צפוי שמערכות אלה צפויות דווקא לייצר ערך מצרפי חיובי מובהק. כך למשל, מקובל לחשוב, שהשימוש ברכב אוטונומי, בטיחותי יותר מרכב רגיל, ועתיד להפחית מספרן של תאונות הדרכים[6], ואם כך – מדוע נרצה להטיל את האחריות על מי שמסייע להגשמת מטרה זו, שגם תוצאותיה, בראיית מאקרו, הינן תוצאות ראויות?

אחד הפתרונות שעלו בספרות להתמודדות עם שאלת הטלת האחריות המשפטית הינו ביטוח חובה למערכת הבינה המלאכותית, לעיתים בשילוב עם קרן פיצויים למקרים שאותם לא יכסה הביטוח. פתרון שכזה הינו פתרון מיידי להטלת אחריות אך אינו משקף משטר אחריות בהיר והוגן דיו.[7] מעבר לכך, הפתרון מעלה שאלה נוספת ברורה מאליה והיא על מי לשאת בפרמיית הביטוח או לממן את קרן הפיצויים?

דילמת הקרונית

דילמת הקרונית הינה דילמה פילוסופית מוכרת ולה גרסאות רבות. בגרסתה הבסיסית מציגה היא את מצב הדברים הבא: על פסי רכבת דוהרת קרונית שיצאה משליטה לעבר קבוצה של חמישה עובדים אשר צפויים להיהרג מפגיעתה. בידיו של פלוני האפשרות להסיט את הקרונית למסלול אחר שבו צפוייה היא להרוג רק אדם אחד. השאלה הנשאלת, כמובן, היא אם ראוי שפלוני יסיט את הקרונית ממסלולה ויקריב חייו של אדם כדי להציל חמישה אחרים. הדילמה מעלה אינספור שאלות אשר ניתן לחדד בנקל על ידי הכנסת וריאציות בדילמה המקורית (כגון מה אם מדובר לא בחמישה אל מול אחד, אלא בעשרת אלפים מול אחד, ומה אם הקרונית דוהרת לעבר האחד דווקא אבל האחד הוא בעל היכולת להסיטה ממסלולה ולהרוג חמישה, ומה אם החמישה צפויים להיהרג בהסתברות גבוהה אך לא וודאית ואילו האחד ייהרג בוודאות, ומה אם החמישה זרים לבעל יכולת ההכרעה בעוד האחד הוא בנו, ועוד ועוד).

בעוד הפילוסופים מרבים לעסוק בשאלה, משום שהם עוסקים בהכרעה המוסרית הנכונה, המשפט דווקא מגלה לא פעם סובלנות להכרעות בנסיבות קשות על ידי כך שהוא מאפשר מתחמי סבירות מסויימים שסובלים פתרונות שונים (בין נורמטיבית ובין משום שלא באמת ניתן להוכיח את העובדות הנדרשות).

הכנסתן לפעולה של מערכות אוטונומיות מביאה את דילמת הקרונית לעולם המציאות באופן חד עד כדי כאב. כך, בעניינה של מכונית אוטונומית, יהיה בידי המתכנת (ואולי אף בידי בעל הרכב – אם תותר לו אפשרות קונפיגורציה בעניין) לקבוע אילו שיקולים “ישקול” הרכב במקרי קצה. האם יגן על נוסעי הרכב בכל מחיר, גם אם המחיר הוא פגיעה קשה יותר ביותר בני אדם אחרים?

מכיוון שמדובר בהכרעות שתתקבלנה מראש, בשיקול דעת קר, ולא בהכרעה של רגע תחת לחץ נסיבות מתפתחות, טבעי פחות יהיה להחיל את מתחמי הסבירות המקובלים. קצרה יריעת רשימה זו מלכסות את המורכבויות שעניין זה יעלה, אבל מובן שכל פתרון יכול להביא לסכסוכים  שונים (חלקם אפילו כפתרון מובנה – כך למשל אין המכוניות המסורתיות מגבילות מהירות למהירות המותרת. הכרעה זו משקפת מדיניות – נאפשר לבעל הרכב לפעול באופן לא חוקי, אבל הוא יישא בתוצאות בחירתו – האם תוחל אותה מדיניות גם ביחס לבחירות קונפיגורטיביות במערכות בינה מלאכותית? לא ברור).

יתרונות הבוררות (לא פעם, הבינלאומית) בהקשרם של סכסוכים שעניינם בינה מלאכותית

נראה, כי לפחות ביחס לחלק מהסכסוכים שצפויים להתעורר בקשר עם יישומה של טכנולוגיית הבינה המלאכותית, מאפייניהם יתאימו להתדיינות בבוררות ולא בבתי המשפט. הכוונה פחות לסכסוכים בין משתמשי קצה לבין יצרני המערכות או משווקיהן (אמנם סביר שהיצרנים או המשווקים ירצו בהחלת פתרון של בוררות, אבל סביר שהדבר לא יתאפשר, בין היתר מכח הסדרים מסוגם של אלה שתוארו לעיל (כגון אחריות מוחלטת או חמורה)). הכוונה היא בעיקר לסכסוכים בין חברות שתספקנה פתרונות ומערכות מבוססי בינה מלאכותית. כך למשל, בדוגמה החוזרת על עצמה של המכונית האוטונומית, תהיינה מעורבות חברות רבות: יצרניות הרכב השונות, יצרניות מערכות שונות שתוטמענה בכלי הרכב השונים, חברות שתספקנה מידע למערכות הרכב השונות, חברות שתספקנה תשתית תקשורת מגוונת לכלי הרכב ועוד ועוד.

סכסוכים בין הגורמים שתוארו לעיל צפוי שיהיו בסכומים גבוהים, יתאפיינו במורכבות טכנית גבוהה, יהיו בעלי השלכות מרחיקות לכת, יחשפו סודות מסחריים של החברות המעורבות, יהיו עלולים להקים חשיפות לאותן חברות מעורבות כלפי צדדים שלישיים ועוד ועוד.

נסיבות אלה מתאימות במיוחד לניהול על דרך של בוררות (בינלאומית מן הסתם) אשר תאפשר, בין היתר, סודיות, קביעת מומחיות מתאימה של טריבונל הבוררות, קביעת הדין החל והכלים שייעשה בהם שימוש בבוררות (כולל בניית פתרונות מתאימים לשימוש במומחים[8], גילוי מסמכים ושלל הליכים מקדמיים ועוד).

ייעול הליך הבוררות באמצעות שימוש במערכת הבינה המלאכותית

נקודת השקה מעניינת אחרת בין הבינה המלאכותית לבין הליכי יישוב הסכסוכים בכלל והבוררות בפרט, היא הפוטנציאל הגלום בשילובה של הבינה המלאכותית בעצם מערכת ישוב הסכסוכים והאפשרות הנובעת מכך להפיכת המערכת ליעילה יותר, מהירה יותר, זולה יותר ואף לכזו שאינה מושפעת מהטיות או דעות קדומות.[9]

מישור ראשון וקל יחסית שבו כבר רואים השפעה של מערכות מתקדמות המציגות מאפיינים של בינה מלאכותית, הוא בתמיכה בשלל היבטים טכניים של ההליך.

בהקשר זה יכולים (ולא פעם כבר עושים) הצדדים לסכסוך לעשות שימוש בטכנולוגיית הבינה המלאכותית, למשל באופנים הבאים[10]:

  1. התגבשות החוזה – בשלב זה, בהתבסס על נתוני העסקה, מקום ביצועה, החוק החל, מקום מושבם של הצדדים וכדומה, ניתן יהיה לעשות שימוש בטכנולוגיה כך שעל סמך עיבוד הנתונים יוצע הסעיף המתאים ליישוב סכסוכים ביחס לסוג העסקה.
  2. פרוץ הסכסוך – יישומים מסוימים מספקים למשתמשים מידע המאפשר להם לתכנן אסטרטגיית תביעה או הגנה (מידע הנוגע לאופן שבו פסק השופט או הבורר במקרים דומים בעבר, למשך הזמן שנדרש עד להגעה להכרעה במקרים דומים וכד’). בעתיד, עשויה הטכנולוגיה להפוך דינמית יותר ואף להציע אסטרטגיה מתאימה ולשנותה תוך כדי התקדמות ההליך.
  3. חיפוש משפטי – שימוש בטכנולוגיה לייעול חיפושים משפטיים. בינה מלאכותית עשויה לייעל את החיפוש המשפטי באמצעות ניתוח הקשרן של מילים, ומידע רלוונטי לתיק. יישומים מסוימים אף מאפשרים חיזוי של תוצאת ההכרעה בסכסוך בעלות נמוכה יחסית ובזמן קצר. להיבט זה היסטוריה ארוכה של ישומים, אך מובן שהשילוב של הגידול בנפח המידע וההתקדמות בטכנולוגיות החיפוש, הוא בעל משמעות רבה.
  4. אדמיניסטרציה – במגוון משימות אדמינסטרטיביות נעשה שימוש בטכנולוגית הבינה המלאכותית, כגון הפקת נספחים, סיכומם ועריכתם של מסמכים.
  5. גילוי מסמכים והליכים מקדמיים – אחד מיישומי הטכנולוגית הבינה המלאכותית מסייע לקצר את זמן בדיקת המסמכים הרבים בשלב הגילוי באמצעות ניתוח המסמכים, סיווג חשיבותם, הפנייה לחלקים הרבלנטיים בהם וכד’. מובן שכלים שכאלה הם בעלי ערך אף לצד המגלה, בכל הקשור בחיפוש במאגרי המידע הארגוניים (ההתנגשות בין עצמת כלים אלה לבין ההעדפה, לפעמים, שלא למצוא, חורגת מתחום רשימה זו).
  6. במהלך ההליך המשפטי – ניתן להשתמש בטכנולוגית הבינה המלאכותית לסקירת מסמכים תוך הכנה לחקירה נגדית, לצורך ניתוח הצהרות עדים לשם מציאת סתירות בין גרסאותיהם השונות, גרסאות עדים אחרים או מסמכים וראיות שבתיק, ועוד ועוד.

אלא שייתכן שימוש בטכנולוגיות האמורות במישור הרבה יותר מהפכני – שילוב שלהן בתהליך ההכרעה בהליך השיפוטי. הדבר מעורר חשש טבעי אך נראה שחשש זה פוחת, עם התפתחות הטכנולוגיה, לרבות בתחום עיבוד השפה הטבעית.[11]

לצורך ייעול הכרעת הסכסוך, ניתן לשלב את טכנולוגיית הבינה המלאכותית באופנים שונים[12]:

  1. החלפת שופט או בורר אנושי במערכת בינה מלאכותית – זוהי הגישה הקיצונית ביותר המציעה להחליף את הטריבונל השיפוטי במערכת המבוססת על טכנולוגיית הבינה המלאכותית. אין ספק כי המחשבה על מחשב המכריע בסכסוכים משפטיים ללא מעורבות אנושית מעוררת התנגדות רבה.

עם זאת, קשה להתעלם מן העובדה שמערכת שכזו עשויה לפתור את הבעיות הנחשבות לחמורות ביותר במערכת ההכרעה השיפוטית המקובלת ובהן: האיטיות והסרבול, היעדר העקביות, השפעתן של שלל הטיות פסיכולוגיות, חשש לאי יושר במקרים מסויימים, אי הבנה או אי היכרות עם הראיות והטענות וכד’.

מנגד, כמובן שלא ניתן יהיה לחשוב על יישום פתרון מוחלט שכזה, עד אשר תפותחנה מערכות מתקדמות דיין, שתעמודנה בסטנדרטים מתקדמים של בקרת איכות ואשר תשרינה אמון ציבורי בדרגה המתאימה. מובן שתהליך זה חייב יהיה לכלול בקרה מתאימה על האלגוריתם המכריע, על מנת שניתן יהיה לבטוח בכך שהוא משקף את הדין במובן הרחב (החוק, הפסיקה הרלוונטית, שיקולי מדיניות מתאימים וכד’).

כך, ניתן להעריך, שמערכות שכאלה אינן ישימות בעתיד הנראה לעין, ממש כמו אותם רובוטים תבוניים עליהם דיברנו בפתח רשימה זו. עם זאת ניתן לחשוב על סכסוכים מסויימים בהם המחשבה של הכרעה “רובוטית” היא טבעית יותר – ועל כך הנקודה הבאה.

  1. עניינים נקודתיים שיעמדו להכרעה של מלאכותית – מאפיינים של עניינים מסויימים העומדים להכרעה בפני שופטים או בוררים מצדיקים, אינטואיטיבית, הכרעה ממוחשבת מבוססת בינה מלאכותית. כך, למשל, שאלות עובדתיות רבות המוכרעות על פי התרשמותו של השופט, על בסיס ראיות המוצגות בפניו בכשרון רב יותר או פחות על ידי הצדדים, עשויות להיות מוכרעות באופן מדוייק, מהיר ועקבי על ידי מערכות ממוחשבות. לדוגמא – אינספור שעות ועדויות מומחים מושחתות על הניסיון לחשב את ההשלכות של איחורים בניהולו של פרוייקט. בנקל ניתן להניח, שבהנחה שהעובדות שביסוד האיחור והמתודולוגיה התיאורטית שבה בוחרים ידועים, הרי שכלי ממוחשב ייתן תוצאה נכונה, עקבית ומהירה.

כך גם בעולמם החדש של החוזים החכמים טבעי לחשוב על מערכת ממוחשבת שתכריע אוטומטית בין הצדדים ואף תאפשר, כדרכם של חוזים חכמים, אכיפה אוטומטית של ההכרעה האמורה. למעשה אף קיימת פלטפורמה דיגיטלית ליישוב סכסוכים המבוססת על טכנולוגיית הבלוקצ’יין ואוכפת את ההכרעה בסכסוך באופן אוטומטי.[13]

נראה איפוא, שבהקשרם של סכסוכים מסויימים או בעניינן של נקודות ספציפיות בעלות מאפיינים מתאימים, ניתן כבר היום לקבל הכרעה “רובוטית” יעילה.

בהקשר זה ברורים יתרונותיה של הבוררות. בהיות הבוררות כלי הנתון, במידה רבה מאד, לעיצובם של הצדדים, הם יהיו חופשיים להגדיר בדיוק, עם התפתחות כלים מן הסוג הנדון, באילו מן הכלים ייעשה שימוש בהליך יישוב הסכסוכים ביניהם ובאלו לא ניתן יהיה לעשות שימוש. בעתיד, כשכלים כאלה יהפכו יותר ויותר נפוצים (עדי כדי החלתם במסגרת מערכת בתי המשפט המקובלת), יוכלו צדדים שיעדיפו שלא ייעשה שימוש במערכות האמורות בעניינם, להחיל ביניהם בוררות שתנוהל באופן מסורתי ולא תיעזר בכלים האמורים.

  1. בורר או שופט אנושי אשר נתמך במערכת הבינה המלאכותית – מאליו מובן, כי כל אותם אופנים שבהם יכולים הצדדים להיעזר בבינה מלאכותית כפי שתואר במישור הראשון לעיל, הם מישורים שבהם יכול הטריבונל (שופט או בורר) לעשות שימוש בעצמו בבינה מלאכותית. נראה כי שימוש כזה מעורר הרבה פחות אנטגוניזם וסביר שייתפש בהמשך ישיר וטבעי של השימוש המקובל בכלי מחקר ממוחשבים.

ברשימה זו הצגנו היבטים שונים שבהם צפויה הבינה המלאכותית להשפיע על עולם יישוב הסכסוכים. מובן, כי אין באמור כדי לעמוד אלא על קצה קצהה של ההשפעה שתיוודע לטכנולוגיה האמורה בהקשר הנדון. עוד זיהינו, כי הבוררות, בהיותה גמישה ונתונה לעיצוב הצדדים, מאפשרת, באופן טבעי, לצדדים להחיל או לא להחיל פתרונות חדשים אשר מתהווים בעולמה המתפתח של הבינה המלאכותית.


* תודה לעו”ד ליהיא בכר על תרומתה הראוייה למאמר זה.

[1] Singapore – webinar – “Don’t Sue Me, Sue The Robot!”: Arbitrating Artificial Intelligence liability dispute, https://www.conventuslaw.com/report/singapore-webinar-dont-sue-me-sue-the-robot/

[2] Lee Gluyas and Stefanie Day, Artificial Intelligence – Who Is Liable When AI Fails To Perform? https://cms.law/en/gbr/publication/artificial-intelligence-who-is-liable-when-ai-fails-to-perform

[3] ישראל גלעד, “דיני נזיקין – גבולות האחריות” (תשע”ב- 2012) עמ’ 578.

[4] אחריות חמורה המוטלת למשל על בעליו של כלב בתובענה בשל נזק גוף שנגרם על ידי כלב. במקרה כזה האחריות מוטלת על בעלי הכלב על בסיס יסודות עובדתיים בלבד, גם אם אין שום אשם מצד המזיק אך קיימים סייגים מסוימים לטענות הגנה מצד המזיק (סעיפים 41א-41ג לפקודת הנזיקין (נוסח חדש),  תשכ”ח-1968‏).

[5] ישראל גלעד, “דיני נזיקין – גבולות האחריות” (תשע”ב-2012), פרק 12: אחריות חמורה, הפרת חובה חקוקה וחזקות התרשלות, 1157.

[6] Lawrence Karp and Richard Kim, Insuring Autonomous Vehicles an $81 billion opportunity between now and 2025 (2017), https://www.accenture.com/_acnmedia/pdf-60/accenture-insurance-autonomous-vehicles-pov.pdf

[7]Report from the Expert Group on Liability and New Technologies Formation, Liability for Artificial Intelligence and other emerging digital technologies, Justice and Consumers (2019) https://ec.europa.eu/transparency/regexpert/index.cfm?do=groupDetail.groupMeetingDoc&docid=36608

[8] פרקטיקת ה-hot-tubbing הנהוגה בבוררות בינלאומית מאפשרת עימות בין המומחים של הצדדים השונים במקום חקירה נגדית של כל חוקר בנפרד [ראו Alasdair McAlpine, Hot-Tubbing In International Arbitration: Do We Need A Protocol? (May 1, 2018) http://arbitrationblog.practicallaw.com/hot-tubbing-in-international-arbitration-do-we-need-a-protocol/]

[9] Sonal Kumar Singh, Anish Jaipuriar and Sayantika Ganguly, India: Artificial Intelligence In Arbitration: Revolutionary Or Impractical (January 19, 2021) https://www.mondaq.com/india/arbitration-dispute-resolution/1027248/artificial-intelligence-in-arbitration-revolutionary-or-impractical

[10] Charlie Morgan and Rebecca Reed, Dispute Resolution in the Era of Big Data and AI, (September 18, 2019) https://www.herbertsmithfreehills.com/latest-thinking/dispute-resolution-in-the-era-of-big-data-and-ai

[11] מדובר בחקר השפה האנושית בטכניקה של לימוד מכונה המציעה סינתזה של ייצוגים קלאסיים ואלגוריתמים לשפה האנושית. [ראו https://www.bookdepository.com/Introduction-Natural-Language-Processing-Jacob-Eisenstein/9780262042840?pdg=dsa-455198798077:cmp-1534083735:adg-64071767728:crv-303058946593:pos-:dev-c&gclid=Cj0KCQiA7YyCBhD_ARIsALkj54qckcQspkYhAspPV0ehERvoiRIxcbLwcSu4MChnhH2VA0SgVSr7iPgaAuyIEALw_wcB ]

[12]  Anandaday Misshra, Artificial Intelligence (AI) & its Effect on Arbitration (Juny 23, 2020) https://taxguru.in/corporate-law/artificial-intelligence-ai-effects-arbitration.html

[13] Kleros, the Blockchain Dispute Resolution Layer, Next Generation Internet, (Dec. 20, 2019), www.ngi.eu/blockchainsforsocialgood/2019/12/20/kleros-the-blockchain-dispute-resolution-layer/