מה הקשר בין רשתות חברתיות, AI והקצנה פוליטית?

הרשתות החברתיות עברו בשנים האחרונות מהפכה. רובנו שמנו לב שהן הפכו ממקום שבו אנחנו מתעדכנות ומתעדכנים בחברים ומשפחה – לרשת מדיה של צפייה פאסיבית בסרטון אחרי סרטון.

נכון?

אבל כיוון שכל זה התחיל לקרות עוד לפני פרוץ GPT לחיינו, מעטים שמו לב שמה שאפשר את המהפך -

הוא אלגוריתמי AI.

אבל מה השינוי הזה עושה לנו? ספוילר: הקצנה. משמעותית. במיוחד פוליטית.

וחודשים ספורים לפני הבחירות בישראל, כדאי יותר מתמיד שנשים לב לתופעה הזו.

סליחה? מה בין סרטוני חתולים חמודים להקצנה פוליטית?

בואו נבין.

מרשת חברתית לאלגוריתם AI

טיקטוק הראתה לכולם מאיפה משתין ה-AI

בתחילת הדרך, הרשתות החברתיות היו תוכנה: מערכת שאפשרה לנו לבחור מי ייכנס לפיד שלנו, מה נראה, ועם מי נתחבר. האלגוריתם היה פשוט הרבה יותר והציג לנו, לפי סדר כרונולוגי, את מה שהאנשים – והמותגים – שבחרנו מפרסמים.

כלומר, לא את כל המותגים בחרנו. פרסומות היו שם מההתחלה. אבל אחוז הבחירה בפיד היה קרוב ל-100.

מי ששינתה את הכללים היתה, לא במפתיע, טיקטוק. עוד ב-2022, אפילו לפני שצ'אט GPT הפך להיות הבסטי הסודי של כולנו. והיא הצליחה כל כך, שכולם הלכו אחריה.

70% מהצפייה ב-TikTok מגיעה מהמלצות אלגוריתמיות, לעומת 30% בלבד באינסטגרם של לפני כמה שנים. מחקר שפורסם ב-2024 תיאר את המעבר הזה כ-"from active users to passive watchers" — ממשתמשים שבוחרים, לצופים שצורכים. 

אחריה, כאמור, עברו כולם: כבר לפני שנתיים, מארק צוקרברג התגאה ש"יותר מ-50% מהתוכן באינסטגרם מגיע מהמלצות AI".

מתוך Fortune, לחצו לכתבה מ-2022 (!)

מה השתנה שאיפשר את זה? AI, כמובן. וספציפית, שני דברים שקרו בו-זמנית:

ראשית, עוצמת מודלי ה-AI. האלגוריתמים של היום לא רק מסתכלים על לייקים ותגובות — הם מנתחים מאות פרמטרים בכל רגע: מה מופיע בסרטון עצמו (זיהוי תמונה, פנים, עצמים), הטון הרגשי של התגובות, קצב הגלילה, שעה ביום, ואפילו כמה שברירי-שניות עצרנו לפני שגללנו הלאה.

שנית, יכולות הלמידה של המודלים. בניגוד לתוכנה רגילה שנשארת קבועה עד לעדכון הבא, מודל AI לומד כל הזמן. הוא משתפר עם כל אינטראקציה. ככל שאנחנו משתמשים יותר, הוא מכיר אותנו טוב יותר.

התוצאה: הפיד הפך לחדר שנבנה סביבנו, בדיוק למידות שלנו.

נוח מאוד. אבל גם בעייתי מאוד.

כי התוצאה החברתית של חדר מפנק, עם תכנים שלא מאתגרים אותנו ואת הדיעות שלנו...

היא הקצנה. חזקה. לטוב ולרע.

ההקצנה הזו לא מכוונת. אף אחד מאחורי הרשתות האהובות עלינו לא גורם לה במודע.

אבל היא כן נובעת משלושה מנגנונים טכניים-חברתיים, שמשפיעים עלינו.

3 מנגנוני ההקצנה ברשתות החברתיות מבוססות ה-AI

מנגנון ראשון: אקו צ'יימברז. מכירים? אז עוד יותר

מה קורה כשאנחנו לא רואים, לא שומעים ולא רוצים לדבר עם הצד השני? נכון, הקצנה.

את המונח "אקו-צ'יימברז" רובנו שמענו - הנטייה של הרשתות להקיף אותנו רק בהדהוד של דעות שאנחנו כבר מחזיקים בהן. הבעיה היא, שכשאנחנו שומעים רק את הדיעות הקרובות לנו, זה מנגנון הקצנה בפני עצמו.

דמיינו, פיזית, חדר מלא באנשים עם דיעות דומות לשלכם – בין אם פוליטיות, או דיעות לגבי מגדר, סוציאליזם או חיסונים.

עצם השהייה בחדר הזה גורמת לנו –

1.להרגיש שיש הרבה אנשים שחושבים כמונו. שזה הדבר הנכון, כי הוא פופולארי. גם אם הוא בעצם לא, כי רק האנשים בחדר חושבים כמונו, וכל שאר האנשים בעולם לא.

2.להביע ולשמוע דיעות קצת יותר קיצוניות, בלי שיאתגרו אותן. זו נטייה טבעית – תדמיינו מישהי שהסכימה איתכם בכל עד כה, מביעה דיעה טיפ-טיפה יותר קיצונית. מחוץ לחדר, כנראה שיאתגרו אותה. בתוך החדר? היא תהפוך למנהיגה.

כלומר, המנגנון הזה בעצמו, האלגוריתם מבוסס-ה-AI שעוטף אותנו בתכנים דומים, מעודד הקצנה.

מנגנון שני: מכונת הכעס

ברוכים הבאים לחדר הזעם המותאם-אישית שלכם

אפילו בתוך החדר הנעים שארגן לנו ה-AI שלומד אותנו, אנחנו נחשפים לדיעות שונות מדי פעם.  

אז מה הבעיה?

 מחקר במגזין המדע המוביל-PNAS  מצא שחשיפה לדעות מנוגדות ברשתות אקו-צ'מבריות לא מקטינה הקצנה פוליטית, היא מגבירה אותה. למה?

כי כשאנחנו כן שומעים את הצד השני, זה בדרך כלל את הגרסאות הכי מעצבנות שלו.

ה-AI לא בוחר בגרסאות המאוזנות — הוא בוחר בגרסאות שיגרמו לנו להגיב.

תגובה היא הפעולה עם הכי הרבה מאמץ בסושיאל — ולכן הסיגנל החזק ביותר לאלגוריתם שזה תוכן שכדאי להפיץ. וסוגי התוכן שמפיקים הכי הרבה תגובות? התכנים הלעומתיים. המעצבנים.

מסמכים פנימיים של מטא שדלפו חשפו שתגובת כעס שוות פי חמישה מלייק רגיל. הם ידעו. הם חקרו את ההשפעות - ועצרו את המחקר.

כשה-AI נכנס לתמונה זה מסלים: הוא לא רק יודע שכעס מייצר תגובות - הוא לומד מה ספציפית מכעיס אותך. לא כעס גנרי. הכעס שלך, המדויק.

חברו אקו-צ'יימברז עם מכונת כעס — וקיבלתם הקצנה לצד קיטוב. כעס ושנאה. נשמע מוכר מהשנים האחרונות?

מנגנון שלישי: פריצת חלון השיח

זה לא כל כך נעים לראות חלון שיח פרוץ

"חלון השיח" (Overton Window) הוא מונח סוציולוגי שמתאר את "מה שמקובל לדבר עליו בחברה". הוא יכול להיות דכאני — עד לא מזמן, ללכת לטיפול פסיכולוגי היה "לא מקובל". אבל הוא גם מה שמאפשר לחברה לעשות רגולציה עצמית על הקצוות שלה.

הרשתות מבוססות ה-AI פרצו את החלון הזה לחלוטין. האלגוריתם והזמינות הגלובלית מאפשרים לכל אחת ואחד למצוא את קבוצת הדומים, האקו-צ'יימבר הפרטי שלהם. ולכן, "מה שמקובל לדבר בחדשות" הפך ל"לא נכון, הנה, יש הרבה אנשים כמוני ברשת". 

מחקר מהמגזין המדעי המולטי-דיספלינרי "סייג'", מ-2005, מדגים בצורה ברורה כיצד הרשתות שינו לחלוטין את חלון השיח בבריטניה – עם תכנים פוליטיים שמגיעים מקבוצות שוליים, הולכים ומתנרמלים ולבסוף מגיעים לעומק הפוליטיקה.

וה-AI הוא חלק מהותי מהמנגנון הזה: הוא לא רק מאפשר למצוא קהילות מהדהדות — הוא מייצר אותן. מנתב אוטומטית אנשים עם נטיות דומות אחד לשני, גם בלי שחיפשו.

בין אם הם א.נשים שעברו טראומה דומה, א.נשים שסובלים מבריונות בגלל אוטיזם ורוצים תמיכה, או... א.נשים שלא מאמינים לבחירות ובעד לפרוץ לקפיטול.

קחו את שלוש המנגנונים, ופתאום נהיה ברור הרבה יותר מה קורה בעולם בשנים האחרונות, נכון? 

ה-AI הוא לא שטן, ויש גם צד אחר

זה מלאך לא ידעתי או שטן הסתבכתי

אלגוריתמי ה-AI והמנגנונים שדיברתי עליהם עושים גם הרבה טוב: עוזרים לחבר אנשים בודדים לקהילה תומכת. מאפשרים לאנשים עם הפרעת קשב למצוא תכנים שמשפרים את איכות החיים שלהם, לנרמל הכרה בפוסט-טראומה, בטרנסג'נדריות, באלימות משטרתית מוגזמת.

הם עשו שינוי אדיר בתחומים שבהם החברה דיכאה את הבודד בכך שהוציאה אותו מחוץ לחלון השיח.

בינה מלאכותית היא לא שטן — היא כלי עם עוצמה אדירה לטוב ולרע.

הבעיה מתחילה כשהיא נמצאת בידיים מסחריות, ואז השימוש בה הוא לא "מה שטוב לחברה", אלא מה שיביא לחברות האלה יותר כסף. גם במחיר איום לאותה חברה.

ולכן, זה בידיים שלנו לצפות, להבין – ולשנות.

מה אפשר לעשות?

We Can Change It

אפשר לדחוף לשינויים עולמיים בפיקוח על האלגוריתמים... אבל יש גם לא מעט שאפשר לעשות בעצמנו.

מגוון מדינות ברחבי העולם מתחילות להגביל רשתות חברתיות אלגוריתמיות מבוססות-AI, ספציפית, מתחת לגיל מסוים. מה חשבתם על העובדה שאוסטרליה מגבילה רשתות כאלה מתחת לגיל 16 לפני שקראתם?

ומה אתם חושבים עכשיו? 

זה צעד חשוב בכיוון הנכון – להגביל את ההקצנה הזו בגיל שבו המוח עדיין מתפתח, ולא מאתגר את עצמו. כחברה, חשוב שנדרוש יותר רגולציה על החברות המסחריות – בכלל. ועל הרשתות האלה, שמביאות להקצנה, קיטוב ושנאה, בפרט.

אבל תהליכי רגולציה לוקחים שנים, והן מדמנה של אינטרסים, סביר להניח שהמצב לא ישתנה בשנים הקרובות.

הנה הצ'ק ליסט האישי שלי, של -

מה אפשר לעשות ברמה האישית, של כל אחת ואחד מאיתנו?

מול עצמי

לזהות מתי אני בתוך מכונת הכעס — לפני שמגיבים לפוסט מעצבן, לבדוק רגע: "חשוב לי להגיב כדי לדון - או כי עצבנו אותי?"

לצאת מהאקו-צ'יימבר — לעקוב במודע אחרי אנשים (מעניינים. ורגועים) שחושבים אחרת, שאפשר לנהל איתם שיחה. לא כדי להסכים — כדי לא לחיות בתוך הד בלבד.

לשים לב למה הפיד מראה לי — להתאמן שוב ושוב בשאלה "למה אני רואה את זה?". התשובה מלמדת משהו על מה ה-AI חושב שאני.

מול אחרים

להבין שההקצנה לא רק באשמתם – כן, אנחנו א.נשים בוגרות ובוגרים, עם היכולת לבחור את התגובות שלנו. אבל אנחנו גם תחת השפעת המנגנונים האלה, ואולי אנחנו יכולות ויכולות לבחור בעצמנו בסלחנות, ולהבין שצריך לעשות שינוי גם באיך אנחנו מתעצבנים מול הצד השני. בכל סוג של ויכוח.

לשאול הרבה שאלות – הטחת דיעות מנוגדות היא מה שהתרגלנו אליו מהרשתות. אם אנחנו חכמות וסלחנים מספיק בשביל לעבור מ"להחזיר להם!!!" לסוג דיון אחר, אפשר לעבור לדיון של של שאלות, שמעודד א.נשים לדבר על עצמן.ם, אישית, ולא רק על "הצד". זה מחזיר את הדיון לצד האנושי שלו.

וזו גם מגמה עולה בעולם, בדיוק בזכות השאלות ש-AI מעודד אותנו להמשיך לשאול מולו.

ולסיום - הטריק האהוב עלי בתחום!

להשתמש ב-AI כדי להירגע ולשכנע – הראיתי במאמר על פרסומות מבוססות-AI, עד כמה AI טוב יותר בלשכנע. בגלל שהוא לא מתעצבן, לא לעומתי אלא חנפני, ועורך דיאלוג. אם כבר נגררתי לויכוח פוליטי או ערכי ברשת, אני אוהבת לתת לצ'אט החביב עלי (קלוד במקרה הזה, אבל כולם טובים) את הטענה של הצד הנגדי, ולשאול אותו מה אני יכולה להגיד כדי לגרום לצד השני להרגיש שמקשיבים לו, ודרך זה לשכנע אותו בערכים שלי.

נסו ותהנו!

נשארת עם שאלה? יש לך דוגמה מעניינת? רוצה להזמין ממני הרצאה בנושא? ליצירת קשר.