בינה מלאכותית הולכת ונעשית שזורה בל יינתק במרקם הקיום שלנו, ולוקחת על עצמה משימות שפעם היו רק מחוזות האינטלקט האנושי. מאבחון ניואנסים של מחלות ועד לחיזוי מגמות בשוק, מערכות AI נפרסות יותר ויותר כמכשירים אדירים לפענוח וניווט במורכבות העולם שלנו. עם זאת, כמו השפעתם של פורצי בינה מלאכותית, כך גם החרדה מפני התפשטות ההטיה. האקסיומה המצוטטת לעתים קרובות, "זבל פנימה, זבל החוצה", מרמזת שבינה מלאכותית רק משקפת את הדעות הקדומות החברתיות המוטבעות בנתוני ההכשרה שלה. בעוד שהתבוננות זו טומנת בחובה מעט אמת, היא רק מגרדת את פני השטח של נרטיב הרבה יותר עמוק - וללא ספק מטריד יותר.

הנושא החשוב ביותר הוא מעבר לשיקוף ההטיה של AI. זהו התפקיד הטרנספורמטיבי של AI כאדריכל של הידע הקולקטיבי ומערכות האמונה שלנו. בתפקידה המתהווה כיוצר ידע וגם כבורר מידע, AI מאלץ אותנו להתעלות מעל פרדיגמת ה"נתונים פנימה, הטיה החוצה" הפשטנית. במקום זאת, עלינו להתעמת עם האפיסטמולוגיה של הטיית בינה מלאכותית - הדרכים שבהן הטיה כזו מעוותת באופן יסודי את הגישה שלנו לידע, מטה את החקירה המדעית ומנציחה אי צדק אפיסטמי עמוק.

קחו בחשבון את מערכות הבינה המלאכותית שהפכו לבסיס של מערכת המידע האקולוגית של המאה ה-21 שלנו. מנועי חיפוש, אלגוריתמי המלצות במדיה חברתית ופלטפורמות סטרימינג וכלי מחקר מתוחכמים שנועדו לנפות מערכי נתונים רחבים הם כולם סמל למהפכה הטכנולוגית הזו. לא עוד רק צינורות פסיביים של ידע קיים, מערכות אלו התפתחו לאוצרים ומתורגמנים פעילים. כתוצאה מכך, כאשר הטיה חודרת למערכות אלו, ההשלכות חורגות הרבה מעבר למיקום השגוי של כמה פרסומות; יש להם את הכוח לעוות בעדינות - או בגלוי - את הבנתנו את העולם.

דמיינו לעצמכם מנוע חיפוש מותנה אלגוריתמית כדי להעלות תוצאות המהדהדות נרטיבים תרבותיים דומיננטיים. עבור קהילות מודרות, זה יכול להתבטא כהצגה בלתי פוסקת של מידע המסונן דרך עדשה זרה, או גרוע מכך, כמצגי שווא שיטתיים של ההיסטוריה והחוויות שלהם. כמו כן, מערכות המלצות מוטות במדיה החברתית יכולות ליצור תאי הד דיגיטליים המחזקים סטריאוטיפים קיימים ומצמצמים את החשיפה לנקודות מבט מגוונות. אם אלגוריתמים מקשרים בהתמדה דמוגרפיה מסויימת לטרופים שליליים, אנשים מקבוצות אלה עלולים להיות מופגזים באופן לא פרופורציונלי בתוכן המחזק נרטיבים מזיקים, ובכך להעמיק את אי השוויון החברתי.

תוצאות כאלה חורגות מתחום השתקפות גרידא. כאשר בינה מלאכותית מפסלת באופן פעיל את נוף המידע, היא הופכת לסוכן רב עוצמה של אי צדק אפיסטמי. התפיסה של הפילוסופית מירנדה פריקר על אי צדק אפיסטמי מקפלת בתוכו את הנזקים הנגרמים ליחידים כאשר הם מונעים שלא בצדק ביכולתם לדעת, להבין ולתרום למאגר הידע הקולקטיבי שלנו. מערכות בינה מלאכותית מוטות יכולות להחמיר אי צדק אפיסטמי בכמה דרכים קריטיות:

• השתקת קולות שוליים: פלטפורמות המופעלות על ידי בינה מלאכותית המעניקות פריבילגיות לנקודות מבט דומיננטיות מפחיתות באופן שיטתי את התובנות העולות מקהילות שוליות ומטשטשות אותן. זה לא רק נושא של ייצוג; היא מעכבת באופן פעיל את הטיפוח וההפצה של ידע המועשר בחוויות מגוונות.
• מעוות חקירה מדעית: ככל שבינה מלאכותית מיידעת יותר ויותר מתודולוגיות מחקר - על ידי ניתוח נתונים, זיהוי דפוסים ואפילו ניסוח השערות - הטיות המוטמעות בכלים הללו מסתכנות בהניב מסקנות פגומות. זה, בתורו, מנציח פרדיגמות מוטות בתוך קהילות מדעיות ומכוון לא נכון את המחקר העתידי, במיוחד בתחומים כמו רפואה ומדעי החברה.
• שחיקת האמון במערכות ידע: החשיפה המתמשכת של קבוצות שוליות למידע מוטה עלולה לשחוק את האמון במערכות אלה המתווכות בינה מלאכותית כפוסקי אמת אמינים. שחיקה זו באמינות עלולה להוביל להתנתקות ממקורות ידע חיוניים, ולבצר עוד יותר את הפערים החברתיים.

בעוד ששיח אתי עכשווי על הטיית בינה מלאכותית מתמקד לעתים קרובות בזיהוי והפחתה, מאמצים אלה אינם מספיקים, למרות שהם חיוניים, בבידוד. עלינו להרחיב את השיחה כדי לחקור את ההשלכות האפיסטמיות העמוקות של AI מוטה. אי אפשר לדחות את הטיית ההתייחסות לתרגיל טכני של מערכי נתונים או אלגוריתמים של "ביטול הטיה". במקום זאת, זה מחייב בחינה ביקורתית של האופן שבו מערכות בינה מלאכותית הן מנציחות והן מעצימות מבני כוח מושרשים בתחום של ייצור והפצת ידע.

מבחינה היסטורית, היצירה וההפצה של ידע נשלטו על ידי דינמיקה כוחנית המעניקה פריבילגיה למוסדות, קולות ונקודות מבט מסוימים, תוך דחיקה לשוליים של אחרים. אם מערכות בינה מלאכותית מפותחות ונפרסות ללא מודעות חדה לדינמיקה הזו, הן מסתכנות באוטומציה והחמרת אי-השוויון הללו. לדוגמה, אם מערכי הנתונים המועסקים בהכשרה נגזרים בעיקר ממקורות מערביים, ממוקדי גברים, מערכות הבינה המלאכותית שיתקבלו כנראה ישקפו ויגדילו את ההטיות הללו - וירחיקו עוד יותר נקודות מבט לא-מערביות ונשיות.

כיצד, אם כן, נוכל להבטיח שבינה מלאכותית תופיע כמכשיר של צדק אפיסטמי במקום וקטור של פגיעה אפיסטמית? התשובה טמונה בהתעלות מעבר לפתרונות טכניים צר, ובאימוץ פרדיגמה הוליסטית, מודעת חברתית הכוללת:

• ביקורת אפיסטמית: מעבר לביקורות אלגוריתמיות קונבנציונליות המתמקדות במדדי הוגנות, עלינו לבצע "ביקורות אפיסטמיות" שמעריכות באופן ביקורתי כיצד מערכות בינה מלאכותית משפיעות על ייצור והפצת הידע, עם תשומת לב מיוחדת לקולות שוליים.
• עיצוב ופיתוח משתתפים: מעורבות פעילה של קהילות מגוונות בתכנון ופיתוח של מערכות בינה מלאכותית - במיוחד אלו המשולבות באצירת מידע - היא הכרחית. הכללות כזו מבטיחה שזווית ראייה מרובת שזורה מלכתחילה, ומפחיתה את הסיכון של חיזוק ההטיות הקיימות.
• שקיפות והסבר עם עדשה אפיסטמית: יוזמות שקיפות צריכות להתרחב מעבר להבהרה בלבד של מכניקה אלגוריתמית כדי לחשוף במפורש את ההנחות האפיסטמיות וההטיות הפוטנציאליות המוטמעות במערכות בינה מלאכותית. ההסבר חייב להיות מכוון לפענוח כיצד מערכות אלו מעצבות ידע ואת נקודות המבט שלהן הן מעלות או מדכאות.
• קידום פלורליזם אפיסטמי: חיוני לטפח מערכות בינה מלאכותית שמעריכות ומקדמות ריבוי של פרדיגמות ידע. אימוץ פלורליזם אפיסטמי כרוך בזיהוי ואימות של דרכים מגוונות של ידיעה, במקום להיכנע למסגרת אפיסטמולוגית מונוליטית ודומיננטית.

לסיכום, התייחסות לאפיסטמולוגיה של הטיית בינה מלאכותית מחייבת שינוי פרדיגמה בהמשגה שלנו של טכנולוגיות אלו. בינה מלאכותית אינה כלי ניטרלי אלא כוח רב עוצמה שיכול לעצב באופן עמוק את הבנתנו את העולם ואת הגישה שלנו לידע. על ידי הקמת צדק אפיסטמי ופירוק חרוץ של המנגנונים שבאמצעותם בינה מלאכותית מוטה מנציחה פגיעה אפיסטמית, אנו יכולים להשתדל לבנות מערכות המשמשות צינורות אמיתיים לידע, העצמה וקידום חברה שוויונית יותר.