בינה מלאכותית זקוקה לאתיקה ורגולציה

תמצית

עד לאחרונה אמנם נעשו ניסיונות להסדיר חלקים כמו זיהוי פנים או פרטיות (האסדרה הכללית להגנה על מידע באיחוד האירופי – GDPR) אך לא נעשה מהלך מקיף המגדיר כיצד משתמשים בבינה מלאכותית, תחת איזה מגבלות ולאילו מטרות.

במציאות זו, סוגיות כמו אתיקה בפיתוח בינה מלאכותית נותרו ללא מענה נאות, וחברות ולקוחות נאלצו להתמודד עימן בעיקר בכוחות עצמם, אם בכלל. לאחרונה הוצגה טיוטה לכללי רגולציה של מערכות בינה מלאכותית על ידי האיחוד האירופי, שסימן עצמו בשנים האחרונות כמוביל עולמי בכל הנוגע לאסדרה של חברות ומערכות טכנולוגיה. המסמך מעלה כמה עקרונות מרכזיים:

• איסור על שימוש בבינה מלאכותית למעקב נטול אבחנה.
• איסור על מערכות בינה מלאכותית לדרג אשראי חברתי באמצעות הערכת אמינות של אדם, התנהגות חברתית או תכונות אופי.
• קבלת אישור מיוחד לשימוש במערכות זיהוי ביומטרי במרחבים ציבוריים.
• חובת מתן התרעה לאנשים כשהם מבצעים פעולה מול מערכת בינה מלאכותית. 
• פיתוח מערך פיקוח חדש על מערכות בינה מלאכותית היוצרות "סיכון-גבוה" לאדם (מכוניות אוטונומיות, מערכות גיוס עובדים, החלטות משפטיות ודירוג אשראי), והקמת מאגר מידע זמין לציבור בדבר סיכוני מערכות אלו, של מערכות סיכון-גבוה, שיהיה זמין לציבור.
• יצירת מועצה אירופית לבינה מלאכותית (European Artificial Intelligence Board), שתכלול נציגים מכל המדינות החברות באיחוד, ותסייע לנציבות האיחוד להחליט אילו מערכות הן בסיכון גבוה ומה השינויים והמגבלות הנדרשים.

קיימות לא מעט ביקורות על ההצעה. חלק טוענים שהתיאור של מערכות בינה מלאכותית שייאסרו הוא מעורפל ועמוס בשפה לא ברורה שתיצור מקום לפרצות רציניות. חלק טוענים שהרגולציה מחמירה מידי ותפגע בחברות ההזנק של המדינות המעורבות. דעות דומות נשמעו גם לפני כניסת כללי ה-GDPR לתוקף. בפועל ההשפעה שלהם על יכולות תעשיית ההייטק באירופה הייתה אפסית, ומנגד הם שימשו השראה לחקיקת חוקי פרטיות דומים במדינות אחרות והפכו למעשה לסטנדרט בתחום. לרגולציה החדשה יכולה להיות השפעה דומה, בעיקר מכיוון שהיא מחייבת חברות שפועלות באיחוד או משפיעות על אזרחיו לפעילות מתואמת, וענקיות כמו פייסבוק, גוגל, אמזון ומיקרוסופט יידרשו לעמוד בכללי הרגולציה בפעילותן מול האיחוד, ועם הזמן, מול כל השאר.

המחסור ברגולציה הוא אחד החסמים המשמעותיים של כלי הרכב האוטונומיים, והרגולציה היא תנאי הכרחי, כמו גם מוקש עיקרי, בדרך לממש את החזון. כך, תעשיית הרכב האוטונומי נמצאת בצומת הדרכים שבין החזון לבין העיצוב והייצור ההמוני. בשוק הרכב בשונה משווקים אחרים, יש צורך ברגולציה עוד טרם עליית הרכבים על הכביש. ונדרש מענה לסוגיות כגון אבטחת סייבר, פרוצדורות רישוי, היבטי פרטיות (היכן היה, לאן בכוונתנו לנסוע, וחיישנים אחרים), ממשק בין חקיקה של מדינות שונות, והכי חשוב, הגדרות מדיניות ודינים לתאונות שייגרמו על ידי רכב אוטונומי. הבעיה הבסיסית היא שמומחי משפט אינם יודעים כיצד להתמודד עם חוסר ההבנה שלהם ביחס לדרך פעולתה של מערכת לומדת ולמנגנון קבלת ההחלטות שלה.