AI לומד ממדיה חברתית? האם ראית מדיה חברתית?
By
Galit Feige
עם OpenAI שוקלת להשיק פלטפורמת מדיה חברתית משלה ו-Perplexity AI בוחנת לאחרונה רכישה של TikTok, ברור שחברות בינה מלאכותית מתעניינות יותר ויותר לנצל את הכוח של המדיה החברתית. זה הגיוני לחלוטין - פלטפורמות חברתיות מספקות זרם אינסופי של אינטראקציות אנושיות אמיתיות ונתונים, בדיוק מה שמודלים של AI צריכים לשפר.
עם זאת, יש לי חששות.
המדיה החברתית היא לא רק מרכז לשיחות אמיתיות ואינטראקציות משמעותיות; זה גם המקום שבו פורחים מידע מוטעה, תיאוריות קונספירציה והתנהגויות רעילות.
הקולות האפלים האלה מוגברים לעתים קרובות מכיוון שמחלוקות מעודדות מעורבות, מה שהופך את התוכן הרועש ביותר לא בהכרח הטוב ביותר או המדויק ביותר.
השאלה שעלינו לשקול ברצינות היא זו: האם אנחנו רוצים שמערכות ה-AI העתידיות שלנו יעצבו על ידי הסביבה הזו? בינה מלאכותית לומדת מהתוכן שהיא נתקלת בה, ואם היא מוזנת בעיקר מהקולות החזקים ביותר - לרוב המזיקים ביותר - אנו מסתכנים באימון אלגוריתמים שמחזקים התנהגויות שליליות במקום אינטראקציות פרודוקטיביות ואמינות.
חברות בינה מלאכותית רואות בבירור ערך בנתונים העצומים של המדיה החברתית - אבל אולי כדאי לעצור ולשאול אם התוכן שהן לומדות ממנו משקף את המיטב של התקשורת האנושית, או פשוט את הקולני ביותר. אחרי הכל, איכות ה-AI שלנו קשורה ישירות לאיכות הנתונים שהוא צורך.
