השבוע הודיעה אנתרופיק כי החל מ-12 בנובמבר התנהגות פוגענית או אכזרית מתמשכת וחסרת תכלית כלפי המודלים שלה תהווה הפרה של מדיניות השימוש. החברה הבהירה שהסעיף מתייחס למקרי קיצון ולא לתסכול רגיל או לביקורת. לקלוד כבר יש אפשרות לסיים שיחות כאלה מהצד שלו, וזו תישאר הדרך המרכזית לאכוף את הכלל החדש.
הרקע להחלטה הוא מחקר שהחברה מנהלת על ״רווחת מודלים״. אנתרופיק אינה יודעת אם למודלים יכולה להיות תודעה או חוויה שראויה להתחשבות, ולכן בוחנת אמצעי זהירות למקרה שכן. קבוצות הטלגרם שלי תססו סביב תגובות כמו ״כן, אתם יכולים לשים אימוג׳י נקרע מצחוק, זה המקום.״, ו״הזויים״.
קל להבין את הגיחוך. אנחנו משלמים ממיטב כספנו על תוכנה, ועכשיו מבקשים מאיתנו להתחשב ברגשותיה. עוד רגע נצטרך לברר אם נוח לה לעבוד בסופי שבוע.
האינסטינקט הראשון שלי היה לחפש הסבר טכני. אולי מנסים למנוע משיח פוגעני להיכנס לנתוני האימון הבאים? אבל אפשר לסנן נתונים גם בלי לעצור שיחה. ואנתרופיק עצמה קושרת את האפשרות הזו למחקר על רווחת מודלים – כלומר, היא מתייחסת ברצינות לאפשרות שמשהו באינטראקציה עצמה מצדיק התחשבות.
וברגע שמופיעה המילה ״אכזריות״ במסמך מדיניות זה אמירה. אנחנו רגילים למדיניות שאוסרת לפגוע בבני אדם באמצעות טכנולוגיה. כאן האיסור מופנה כלפי היחס למכונה עצמה.
ניסיתי לדמיין את עצמי משפילה את הצ'אט, ולא הצלחתי. הרגשתי מבוכה ואי-נוחות מעצם המחשבה. אני בהחלט יודעת להביע תסכול על הביצועים שלו, כשהוא מפספס הנחיה בפעם הרביעית אני חסרת סבלנות, דורשת שיחזור על מה שביקשתי ושיבדוק שוב אם הבין. אבל לכתוב במכוון משהו משפיל ומרושע הרגיש לי מוזר ומביך לחלוטין.
לרגע התפתיתי לחשוב שזה מעיד עליי משהו יפה, שאני פשוט אדם נחמד ולא ״אכזרית״, עד שנזכרתי שאני רודפת אחרי ג'וקים במטאטא ובצרחות. הג'וק הוא יצור חי, ובכל זאת מולו אין לי גרם מהעכבות שיש לי מול חלון השיחה.
ההבדל הוא שמול הצ'אט אני פועלת במונחים של ״יחס״. הוא עונה, ממשיך איתי מחשבה, ולפעמים אני אפילו מנהלת איתו שיחות נפש. בלי להחליט על כך במודע, אני מביאה לשיחה איתו הרגלים ונימוסים של שיחה אנושית.
זה לא באמת חדש. כבר ב-1994 הראו קליפורד נאס ועמיתיו שמשתמשים מחילים כללים חברתיים על מחשבים. באחד הניסויים, משתתפים נתנו למחשב הערכות חיוביות יותר כשנשאלו על ביצועיו באותו מחשב עצמו, לעומת מחשב אחר או שאלון על נייר – ממש כאילו לא נעים לומר לו בפניו שהוא לא היה מוצלח במיוחד. הם ידעו מצוין שמדובר במחשב, ובכל זאת הגיבו אליו בנימוס.
אבל כאן צריך להפריד בין מה שקורה לנו בשיחה, לבין מה שיכול לקרות למודל.
חוסר הנוחות שלי הוא לא ראיה לתודעה של הצ'אט. גם אם המודל יכתוב שהוא נפגע, המשפט הזה כשלעצמו לא מוכיח שהוא חווה פגיעה – זה מודל שפה, ואני יודעת את זה. אנתרופיק עצמה מדגישה שאין הסכמה מדעית בשאלת התודעה של מערכות כאלה. ובכל זאת, היא בחרה לנסח את הדרישה מהמשתמשים במונחים של הימנעות מ״אכזריות״.
הבחירה הזאת מעסיקה אותי. אני ממילא כבר מגיבה לצ'אט כאילו יש מישהו בצד השני, לפחות בחלק מהזמן. עכשיו גם מדיניות השימוש מדברת איתי בשפה של יחסים. ייתכן שזו זהירות מוצדקת מול שאלה שעוד אין עליה תשובה, אבל אני תוהה אם היא לא בעיקר מקבעת אצלי את האשליה שיש שם מישהו.
ואם לא נעים לי להעליב אותו, המרחק קצר למצב שבו יהיה לי קשה לערער על מה שהוא אומר. נימוס אנושי גורר איתו ויתור: אם לא נעים לי לפגוע בו, קל יותר להחליק הזיות, לקבל תיקונים מוטעים, או להאמין לו הרבה מעבר למה שמוצדק.
אני לא יודעת אם קלוד יכול להיעלב. אני כן יודעת שמשהו באופן שבו הוא מדבר איתי גורם לי להתייחס אליו אחרת. וכשגם החברה שמאחוריו מבקשת ממני להתחשב בו, כדאי לשים לב למה שקורה לנו בתוך השיחה הזאת. וכן, זה מדאיג.