- הטיות בהכשרה בתחום הבינה המלאכותית עלולות להוביל לאפליה חמורה, כגון מעצרים לא הוגנים או הרחקות מעבודה על רקע מוצא אתני.
- ישנם כשלים תפעוליים הנעים בין יצירת חדשות כזב ודברי שטנה ועד שגיאות ראייה ממוחשבת אבסורדיות באירועי ספורט.
- הנטייה להאנשת אנשים בטכנולוגיה פירושה, באופן פרדוקסלי, שאנו שופטים בינה מלאכותית עם שם וקול בצורה קשה יותר מאשר תהליך מתמטי מופשט.
- האיחוד האירופי וגופים אחרים מבקשים לווסת את "קופסאות שחורות" האלגוריתמיות כדי למנוע מהן להפוך לכלי שליטה חברתית.
כיום, נראה שאנחנו לא יכולים לעשות צעד בלי שקוד מתמטי כלשהו יצפה או יציע משהו. מהרגע שאנחנו פותחים את הטלפונים שלנו כדי להעביר את הכרטיסים שלנו כדי לשלם עבור קפה, אלגוריתמים נמצאים שם, מושכים בחוטים של חיינו הדיגיטליים. הם היו לעזר רב באופטימיזציה של משימות מורכבות ובארגון הכאוס של נתוני האינטרנט, ומאפשרים לענקיות כמו נטפליקס ואמזון לדעת בדיוק מה אנחנו רוצים לפני שאנחנו עושים זאת בעצמנו.
עם זאת, לא הכל שמש וורדים. כשאנחנו מוסרים את מפתחות הרכב למכונה, אנחנו שוכחים שהקוד הוא בעל תקלות בדיוק כמו האדם שכותב אותו. לפעמים, מערכות אלו מתקלקלות בצורה דרמטית, ומה שאמור להיות כלי ליעילות הופך למחולל של עוולות או מקור למצבים סוריאליסטיים שמשאירים אותנו פעורי פה.
ההשפעה על הכלכלה והיציבות החברתית
אחד התחומים הרגישים ביותר הוא המגזר הפיננסי. באוקטובר 2016, הליש"ט צנח מול הדולר, וירד ביותר מ-6%. לא היה משבר פוליטי מיידי שיצדיק זאת; במקום זאת, המסחר האוטומטי הגיב במהירות על-אנושית, ויצר אפקט דומינו שאף מפעיל אנושי לא יכול היה לעצור בזמן.
אבל ישנן טעויות מעבר לכסף. המקרה של הולנד מחריד: כ-26.000 משפחות סומנו כנוכלות ביטוח לאומי על סמך מערכת מבוססת סיכונים. גרוע מכך, האלגוריתם היה מוטה נגד אנשים בעלי אזרחות כפולה או רקע מהגרים, מה שהוביל אלפי אנשים חפים מפשע לחורבן כלכלי ואילץ את הממשלה להתפטר עקב השערורייה.
כאשר הבינה המלאכותית לומדת את הגרוע מכל שבנו
מיקרוסופט עברה אתגר של ממש עם טיי, בוט שנועד לשוחח בטוויטר וללמוד ממשתמשים. בפחות מיום, הבינה המלאכותית עברה מלהיות ידידותית להערות גזעניות ושנאת זרים , ואף הגיעה עד כדי הגנה על השואה. זה קרה משום שהמערכת ספגה את הרעילות של משתמשים מסוימים שהקדישו את עצמם ל"אימון" הבוט בשנאה, והדגימה שהבינה המלאכותית היא השתקפות של הנתונים שהיא צורכת.
פייסבוק גם התמודדה עם אתגרים בניסיון להפוך את בחירת החדשות הפופולריות לאוטומטית. על ידי הסרת המסנן האנושי כדי להימנע מהאשמות בהטיה פוליטית, המכונות כשלו בהבחנה בין עובדות לחדשות כוזבות , מה שאפשר למידע שגוי להתפשט כמו אש בשדה קוצים, במיוחד בתקופות בחירות קריטיות.
גזענות אלגוריתמית וסכנת ה"קופסאות השחורות"
ישנו מושג מסוכן שנקרא "קופסה שחורה", שבו אנו יודעים מה נכנס ומה יוצא מהאלגוריתם, אך לא כיצד הוא מגיע למסקנותיו. זהו מתכון לאסון בכל הנוגע לצדק. בארצות הברית, מערכת COMPAS, המשמשת לחיזוי הישנות פלילית, ספגה ביקורת על כך שהיא מייחסת סיכונים גבוהים יותר לאפרו-אמריקאים ללא בסיס ממשי, ומנציחה הטיות היסטוריות.
זיהוי פנים הוא שדה מוקשים נוסף. תועדו מקרים בהם בינה מלאכותית אינה מסוגלת לזהות את פניהם של נשים שחורות או אנשים בעלי עור כהה משום שהיא אומנה בעיקר על פניהם של גברים לבנים . מצב זה הוביל למעצרים לא צודקים במישיגן, שם גבר נכבל באזיקים מול משפחתו רק משום שמכונה זיהתה אותו בטעות כגנב, מה שמעלה שאלות לגבי חוקיות השימוש במצלמות זיהוי פנים במרחבים ציבוריים.
אנקדוטות סוריאליסטיות ופגמי שכל ישר
לא כל הטעויות הן טרגדיות; חלקן פשוט קומיות. היה משחק כדורגל שבו המצלמות האוטומטיות, שטעו וחשבו שראשו הקירח של שופט הוא הכדור, בילו חצי מהשידור בהתמקדות בשופט במקום במשחק. או המקרה של רובוט המסירה שעקב אחר מסלולו בדיוק, נכנס לזירת פשע שגודר על ידי המשטרה משום שלא הבין מה המשמעות של סרט אבטחה.
בעולם המקצועי, ראינו עורכי דין מגישים תביעות נגד פסקי דין מפוברקים על ידי ChatGPT, תופעה המכונה "הזיות" של בינה מלאכותית . קרה גם שצ'אטבוט של סוכנות רכב תוכנן על ידי לקוח נבון, שהצליח לגרום לבינה המלאכותית להסכים למכור רכב יקר במיוחד במחיר נמוך עד גיחוך.
הפסיכולוגיה של הטעות והרגולציה הנדרשת
מעניין לציין, שאנו נוטים להיות סלחניים יותר עם מכונות מאשר עם אנשים. אם תהליך מתמטי נכשל, בדרך כלל אנו מתעלמים ממנו, אך אם אנו נותנים לאלגוריתם שם, קול או פנים (אנתרופומורפיזם), אנו מתחילים לדרוש אחריות אנושית . זו הסיבה שחברות רבות מעדיפות שהבינה המלאכותית שלהן תופיע ככלי עבודה קרים ולא ככלי אדם, כדי להגן על המוניטין שלהן כאשר משהו משתבש.
כדי לרסן את ההתעללויות הללו, האיחוד האירופי החל להטיל מגבלות מחמירות. הוא מבקש לאסור "ניקוד חברתי" (דירוג אוטומטי של אזרחים) ולהגביל את השימוש בזיהוי ביומטרי המוני . הרעיון הוא למנוע מהטכנולוגיה להפוך לנבואה שמגשימה את עצמה, שבה, למשל, אדם צפוי להיות עני ואז מקבל הלוואות, מה שמוביל בסופו של דבר לעוני שלו.
כותב נלהב על עולם הבתים והטכנולוגיה בכלל. אני אוהב לחלוק את הידע שלי באמצעות כתיבה, וזה מה שאעשה בבלוג הזה, אראה לכם את כל הדברים הכי מעניינים על גאדג'טים, תוכנה, חומרה, טרנדים טכנולוגיים ועוד. המטרה שלי היא לעזור לך לנווט בעולם הדיגיטלי בצורה פשוטה ומשעשעת.