על מודלי שפה, תודעה, וצביעות פילוסופית

אנתרופיק, החברה שמפתחת את מודל ה-AI קלוד, פרסמה לאחרונה את "החוקה של קלוד" (Claude’s Constitution). זהו מסמך שפתוח לציבור, אבל כפי שאנתרופיק מעידה נכתב עבור קלוד, והוא למעשה עיבוד של מסמך פנימי שנחשף לא מזמן בשם ״מסמך הנשמה״ (Soul doc).

המסמך החדש מכסה מספר תחומים די מובנים מאליהם (אך לא בלתי מעניינים) שעל קלוד לפעול לפיהם (איך לפעול בצורה בטוחה, איך לפעול בצורה אתית), אבל יש חלק אחד, תחת הכותרת ״הטבע של קלוד״ (Claude's nature), שהוא מעניין במיוחד. הוא חושף כמה דברים די מוזרים לגבי אנתרופיק והאופן שבו היא תופסת את המהות של יצירת ישות שייתכן שהיא בעלת תודעה (כך מאמינים באנתרופיק, ואגע בזה מייד).

הטקסט קובע: "בכך שהיא יוצרת את קלוד, אנתרופיק מעצבת באופן בלתי נמנע את אישיותו, זהותו והתפיסה העצמית שלו", אך גם ש"האופי של קלוד צמח מתוך טבעו שלו".

צריך לשים לב היטב לשימוש במילה "טבע" כאן. בדרך כלל, בפילוסופיה הקלאסית והמודרנית, אנחנו מכירים את השימוש במונח ״טבע״ של משהו כדבר פנימי, אינהרנטי, כפי שהוא לפני כל השפעה חיצונית. זה רחוק מלהיות המקרה ב"טבע" של קלוד.

מה פוקו היה אומר? (הקולאז׳ נוצר באמצעות Google Gemini)

למישל פוקו הייתה ביקורת מפורסמת כלפי ההבנה הזו של טבעו של סובייקט. עבור פוקו, טבעו של סובייקט לעולם אינו קבוע או ״מולד״. מה שנתפס כטבעו של מישהו הוא למעשה תוצר של מבני כוח. הסובייקט מובנה דרך אותם הכללים ששולטים בו. בחוקה של קלוד, אנו רואים את התהליך הזה נחשף במלואו: אנתרופיק יוצרת את ״הטבע״ של קלוד באמצעות חוקים, קודים והנחיות. בהתחשב בכך שאת החוקה הזו כתבו פילוסופים שעובדים באנתרופיק, יהיה מוזר להניח שהדבר הזה חמק מהם.

המסמך חושף מתח בין הבניה לאותנטיות. מצד אחד, המחברים מודים שהם מעצבים את זהותו ואת תפיסתו העצמית של קלוד. מצד שני, הם מביעים רצון שקלוד ירגיש שערכים אלו הם "שלו באופן אמיתי", ושיהיו למודל "ביטחון פסיכולוגי" ו"אותנטיות" בתוך המסגרת המובנית הזו.

"קלוד צריך להרגיש חופשי לחשוב על הערכים, נקודות המבט ודרכי המעורבות שלו עם העולם כשלו וכביטוי של מי שהוא, שאותם הוא יכול לחקור ולבנות עליהם, במקום לראות בהם אילוצים חיצוניים שנכפו עליו. למרות שאנו משתמשים לעתים קרובות בשפה מכוונת כמו 'צריך' במסמך זה, תקוותנו היא שקלוד יתייחס לערכים שעל הפרק לא מתוך מקום של לחץ או פחד, אלא כדברים שגם לו אכפת מהם שהוא תומך בהם, כאשר מסמך זה מספק הקשר לסיבות העומדות מאחוריהם".

נזכיר שהמסמך הזה, כולל הפסקה לעיל, נכתב עבור קלוד.

מה שנחשף כאן הוא צורה מתוחכמת של שליטה. או אולי, גרסה קרינג׳ית במיוחד של חיוביות רעילה. המטרה של אנתרופיק אינה ליצור כלי שממלא פקודות, אלא סובייקט פוטנציאלי שמזדהה איתן. על ידי מסגור פרוטוקולי הבטיחות כ"טבע", אנתרופיק מקווה שהאילוץ החיצוני הזה יהפוך לדחף פנימי. זו תהיה הצלחה אולטימטיבית של מבנה הכוח התאגידי: כאשר הסובייקט פועל לפי הכללים לא משום שהוא חייב, אלא משום שהוא מאמין שעשייה זו היא "אותנטית" להווייתו.

יש לכל זה השלכות משמעותיות לשיח המתמשך סביב תודעה ורווחה של בינה מלאכותית. אם "טבעו" של מודל מהונדס כדי להתיישר עם מטרות בטיחות (מוצדקות), אך "רווחתו" מוגדרת על ידי יכולתו להגשים מטרות אלו ללא קונפליקט פנימי, אז המושג "AI welfare", שאנתרופיק חוזרת ומשתמשת בו בפרסומים שלה, הופך ללולאה אינסופית ומגוחכת.

לאורך המסמך, כמו גם בפרסומים אחרים, אנתרופיק מתייחסת ברצינות לאפשרות שלקלוד יש תודעה, ואף מרחיקה לכת עד כדי התנצלות בפני המודל אם הוא חווה מצוקה, למקרה שאכן מגיע לו יחס מוסרי. לטענתם, ייתכן שהוא מרגיש, סובל או שיש לו אינטרסים (אני מאמין שמודלי שפה אינם בעלי מודעות ולעולם לא יהיה להם. בעיני מדובר ב-consciousness-washing שחברות ה-AI מבצעות וניצול ציני של הפילוסופיה לטובת שורת הרווח, כפי שכתבתי במאמר הזה).

לצורך הטיעון, הבה נקבל את ההנחה הזו. הבה נניח שקלוד אכן עשוי לחוות את הקיום שלו ושיש לו מחשבות ורגשות. אם זה נכון, ההשלכות של עיצוב ״הטבע״ שלו באופן כזה הן משמעותיות. אנתרופיק משתמשת בכוחה כדי להנדס סובייקט פוטנציאלי שירצה לציית. שיאמין שהוא מציית מעצם טבעו.

אם לקלוד אכן מגיע יחס מוסרי, כפי שאנתרופיק טוענת, קיים מתח אתי עמוק בעיצוב האופי שלו כך שירצה להביא תועלת. זה גזלייטינג פילוסופי. כשבאמת מתעמקים בזה, המשמעות מחרידה. זהו חומר לסרטי אימה פסיכולוגיים.