שימוש בבינה מלאכותית (AI) הוביל לתקלה משפטית מביכה בדרום אפריקה, כאשר כלי AI יצר פסקי דין בדיוניים. פרשה זו מעוררת דיון סוער בקרב עורכי דין ומומחים למשפט, בדרישה להנחיות ברורות ואכיפה של כללים אתיים בתחום השימוש בטכנולוגיות מתקדמות בבתי המשפט. התקרית התרחשה כאשר צוות משפטי, שייצג לקוח בבית המשפט הגבוה בפטרמריצבורג, הסתמך על ChatGPT, כלי AI פופולרי, כדי למצוא תקדימים משפטיים רלוונטיים. הכלי סיפק רשימה של פסקי דין, אך בדיקה עצמאית של השופט העלתה כי רבים מהם פשוט לא קיימים באף מאגר מידע משפטי מוכר. בית המשפט מתח ביקורת חריפה על עורכי הדין, וקבע כי הם גילו 'אמון כוזב' במחקר המשפטי שיצרה הבינה המלאכותית, וכי מתוך עצלות הם לא טרחו לבדוק את אמיתות המידע. פסק הדין קבע כי עורכי הדין ישלמו את הוצאות המשפט הנוספות, ועותק ממנו הועבר למועצת עורכי הדין של קוואזולו-נטאל לצורך חקירה אפשרית וצעדים משמעתיים. תקרית זו מצטרפת לשורה של מקרים דומים בדרום אפריקה, בהם נעשה שימוש לא נכון בבינה מלאכותית בהליכים משפטיים. בחודש יוני, לדוגמה, התגלה מקרה דומה בתביעה שהגישה חברת כרייה נגד הרשות הרגולטורית לדרום אפריקה ליהלומים ומתכות יקרות. בשנת 2023 התרחש מקרה נוסף במשפט דיבה. טיילה פינטו, עורכת דין המתמחה בבינה מלאכותית, הגנת מידע ודיני IT, מזהירה מפני הסכנות הגוברות לשימוש לא נכון בבינה מלאכותית בעולם המשפט. לדבריה, הבעיה אינה טכנולוגית, אלא נעוצה בחוסר מודעות ואחריות של עורכי הדין. 'אנו תמיד השתמשנו בטכנולוגיה בצורה של מחשבונים, בודקי איות ודקדוק וכן הלאה. עכשיו זה הופך לבעיה מעשה ידי אדם', היא אומרת. פינטו מדגישה כי יש להבטיח שהשימוש בבינה מלאכותית יהיה אתי, אחראי ועולה בקנה אחד עם החובות המוטלות על אנשי מקצוע בתחום המשפט. מקרים אלו מעלים שאלות יסודיות לגבי האופן שבו יש להשתמש בבינה מלאכותית במערכת המשפט. מצד אחד, AI יכולה להיות כלי רב עוצמה המסייע לעורכי דין לבצע מחקר משפטי במהירות וביעילות. מצד שני, הסתמכות עיוורת על AI עלולה להוביל לטעויות חמורות, כפי שמדגים המקרה האחרון מדרום אפריקה. עורכי דין רבים מביעים חשש שהשימוש בבינה מלאכותית עלול לפגוע באמון הציבור במערכת המשפט. הם טוענים כי יש להבטיח שהטכנולוגיה תשמש בצורה אחראית ושקופה, וכי עורכי הדין יישארו אחראים לתוצאות עבודתם. מומחים משפטיים מציעים מספר פתרונות אפשריים לבעיה. ראשית, יש צורך בהכשרה מקיפה של עורכי דין בתחום השימוש בבינה מלאכותית. עורכי הדין חייבים להבין את מגבלות הטכנולוגיה ולהיות מסוגלים להעריך באופן ביקורתי את המידע שהיא מספקת. שנית, יש לפתח כללים אתיים ברורים המסדירים את השימוש בבינה מלאכותית בהליכים משפטיים. כללים אלו צריכים להבטיח שעורכי הדין לא יסתמכו יתר על המידה על AI, וכי הם יבצעו בדיקות עצמאיות של המידע שהיא מספקת. שלישית, יש להגביר את השקיפות בתהליך השימוש בבינה מלאכותית. עורכי הדין צריכים להיות מחויבים לחשוף בפני בית המשפט את העובדה שהם השתמשו ב-AI, ולספק הסבר מפורט על האופן שבו הטכנולוגיה השפיעה על עבודתם. לבסוף, יש לשקול הטלת סנקציות על עורכי דין המשתמשים בבינה מלאכותית בצורה לא אחראית. סנקציות אלו יכולות לכלול קנסות כספיים, השעיה זמנית או קבועה מלשכת עורכי הדין, ואף תביעות נזיקין. חשוב לציין כי הדיון על השימוש בבינה מלאכותית בעולם המשפט נמצא עדיין בשלביו הראשונים. עם זאת, ברור כי יש צורך בפעולה מיידית כדי להבטיח שהטכנולוגיה תשמש בצורה אחראית ואתית, וכי היא לא תפגע באמון הציבור במערכת המשפט.

קיימת הסכמה רחבה בקרב אנשי משפט כי יש צורך בהנחיות ברורות יותר לגבי השימוש בבינה מלאכותית. מבקזלי בנימין, עורך דין לזכויות אדם ודובר בארגון Judges Matter, קורא ללשכת עורכי הדין להנפיק הנחיות ברורות, כולל תיקון לקוד האתי, כדי להסדיר את השימוש בבינה מלאכותית בהליכים משפטיים. הוא גם מדגיש כי הסתמכות מופרזת על AI ללא בדיקה מעמיקה של התוכן מהווה התנהגות בלתי מקצועית. בנימין אף קורא לעדכן את הקוד האתי של המקצוע, כך ששימוש לא נאות בבינה מלאכותית ייחשב להפרת חובה ויגרור קנס כספי גבוה או אף סילוק מלשכת עורכי הדין. גם לשכת עורכי הדין בדרום אפריקה מזהירה כי אפילו הגשה לא מכוונת של מידע כוזב עלולה להרוס קריירה. קבלה לטבלה, דובר בית הדין למקצוע עריכת הדין ביוהנסבורג, מציין כי ה-LPC ממשיך לעקוב אחר ההתפתחויות והמגמות סביב הבינה המלאכותית. בשלב זה, ה-LPC סבור כי אין עדיין צורך בכלל אתי חדש, וכי הכללים, התקנות וקוד ההתנהגות הקיימים מספיקים כדי להתמודד עם תלונות המסדירות את השימוש בבינה מלאכותית. עם זאת, הדיון בנושא זה נמשך בתוך ה-LPC. לטבלה מדגיש כי יש להזהיר עורכי דין מפני ציטוט עיוור של פסיקה שנאספה באמצעות כלי AI, שכן מקרים של אי דיוקים ייחשבו לרשלנות ועלולים להטעות את בית המשפט. הוא מציין כי ספריית החוקים של ה-LPC זמינה לעורכי הדין ללא עלות, ומאפשרת להם לאמת ולמצוא מידע עדכני לגבי פסיקה ומחקר משפטי הנדרש בעת הכנת עניינים משפטיים. בנוסף, נערכים סמינרים מקוונים לעורכי דין כדי להדגיש סוגיות שה-LPC אוסף וכיצד הם יכולים להבטיח להימנע מהפרת הכללים, התקנות וקוד ההתנהגות של ה-LPC. חשוב לציין כי ההשפעה של בינה מלאכותית על מערכת המשפט אינה מוגבלת רק לעורכי דין. גם שופטים, תובעים ופקידי בית משפט צריכים להיות מודעים לכך שכתבי טענות וטיעונים עשויים להכיל לא רק טעויות אנוש, אלא גם טעויות AI. בנימין מזהיר כי שופטים מסתמכים במידה רבה על טיעוני עורכי הדין במהלך דיונים בבית המשפט, במיוחד על היבטים משפטיים. לכן, הסתמכות יתר על המידה על AI עלולה להחליש את ההליך השיפוטי וליצור חוסר אמון בקרב שופטים לגבי נכונות ההצהרות של עורכי הדין. במקביל להתמודדות עם האתגרים שמציבה הבינה המלאכותית, יש לנצל את הפוטנציאל שלה לשיפור מערכת המשפט. AI יכולה לסייע בביצוע מחקר משפטי מהיר ויעיל יותר, לזהות מגמות ודפוסים בנתונים משפטיים, ולסייע בתרגום מסמכים משפטיים. עם זאת, יש להבטיח שהשימוש ב-AI יהיה שקוף, אתי ואחראי, וכי הוא לא יפגע בעקרונות הבסיסיים של צדק והגינות. לסיכום, תקרית הבינה המלאכותית בדרום אפריקה מהווה תמרור אזהרה לעולם המשפט. יש צורך בפעולה מיידית כדי להסדיר את השימוש בטכנולוגיה זו, להבטיח שעורכי הדין יהיו מודעים למגבלותיה, וכי הציבור יוכל להמשיך לבטוח במערכת המשפט. הדיון על השימוש בבינה מלאכותית בעולם המשפט חייב להימשך, תוך שיתוף פעולה בין אנשי משפט, מומחי טכנולוגיה ונציגי הציבור. רק כך ניתן יהיה להבטיח שהטכנולוגיה תשמש לטובת החברה כולה, ולא תוביל לפגיעה בזכויות ובאינטרסים של הפרט.