דאריו אמודיי, מנכ"ל Anthropic, מזמין אותנו לחשוב על בינה מלאכותית כ"גיל ההתבגרות של הטכנולוגיה". המטאפורה ברורה: האנושות רכשה כוח עצום, אך עדיין לא ברור אם היא מחזיקה בבגרות המוסדית, הפוליטית, המוסרית והחברתית הנדרשת כדי לשאת את הכוח הזה באחריות. מערכות בינה מלאכותית אינן רק קטגוריה נוספת של תוכנה. הן חודרות למדע, לביולוגיה, לאבטחת סייבר, לתכנון צבאי, לאוטומציה של מקומות עבודה, ליצירת תוכן, להשפעה פוליטית ולניהול מידע בקנה מידה שלא ידענו כמותו. זוהי טענה רצינית. אך היא אינה מספקת.
האנושות אינה עומדת על סף גיל ההתבגרות הטכנולוגי שלה. במובן עמוק יותר, היא כבר עברה את גיל ההתבגרות הזה עם המצאת הדפוס. אולי יהיה מדויק יותר לומר שהאנושות נכשלה במבחן הראשון שלה, וכעת היא ניגשת לבחינה שנייה בעודה סובלת מאמנזיה היסטורית חמורה.
בינה מלאכותית אינה רק מהפכה שיוצרת עולם חדש. היא גם רגרסיה טכנולוגית מתוחכמת: חזרה למצב של כאוס טקסטואלי ואורייני, שבו הופך להיות קשה יותר ויותר לדעת מהו מקור, מהו עיבוד, מהו ציטוט, מהו סיכום, מהו זיוף ומהו רק הד של הד. אם גוטנברג העניק לאירופה את ייצוב הטקסט, את היכולת לשכפל טקסטים יציבים יחסית, להפיץ אותם, להשוות ביניהם, לצטט אותם ולבנות סביבם מוסדות ידע, הבינה המלאכותית מתחילה כעת לפרק את אותה יציבות ממש. היא לא רק מפיצה טקסטים. היא ממיסה אותם. ניתן לכנות זאת ה"דה-גוטנברגיזציה" של המציאות.
הדפוס יצר עולם שבו הטקסט הפך ליציב יותר, גם אם לא בהכרח אמיתי יותר. הבינה המלאכותית יוצרת עולם שבו הטקסט הופך לנזיל, הסתברותי, משוכתב, מותאם אישית, ממוחזר ומסונתז. אנחנו לא לומדים איך לנהוג במכונית חדשה. אנחנו מנסים לקרוא מפה בזמן שהמכונה משכתבת את הכבישים תוך כדי תנועה.
האם אנחנו באמת נכנסים לגיל ההתבגרות של הטכנולוגיה?
השאלה הראשונה שיש לשאול היא האם "גיל התבגרות" הוא בכלל המטאפורה הנכונה. אמודיי מציג את הטכנולוגיה ככוח שהשיג את הבגרות האנושית. אך ההיסטוריה של טכנולוגיות הידע מרמזת שזהו אינו אירוע חדש. הדפוס, כבר במאה החמש-עשרה, עשה הרבה יותר מאשר לשכפל דפים. הוא פירק מערכות סמכות. הוא שינה את היחסים בין הכנסייה למאמין, בין המלומד לציבור, בין הממשל לביקורת, בין המקור להפצה, ובין ידע נדיר לידע ציבורי.
אליזבת אייזנשטיין (1923–2016) תיארה את הדפוס ככוח מרכזי בעיצוב התרבות המודרנית. הדפוס תרם להפצת הרפורמציה, המדע, הקרטוגרפיה, הפולמוס, החינוך והאינטלקטואל המודרני. עם זאת, אותה טכנולוגיה גם האיצה את התעמולה, השנאה הדתית, השמועות והכתיבה הפולמוסית שתרמו לאווירה האלימה של אירופה בעת החדשה המוקדמת. מהפכת הדפוס לא הביאה רק אור. היא הביאה גם אש.
לפיכך, כאשר אמודיי מזהיר מפני הבינה המלאכותית כטכנולוגיה המקדימה את יכולת האיפוק שלנו, יש להשיב: נכון, אבל זה כבר קרה. הדפוס כבר הראה שטכנולוגיית ידע יכולה לנוע מהר יותר מהמוסדות שנועדו לפרש אותה. היא יכולה לשחרר ידע, אך היא יכולה גם לתת לשקר רגליים ארוכות יותר. היא יכולה ליצור ציבור קורא, אך גם ציבור מוסת. היא יכולה להרחיב את גבולות התבונה, אך היא יכולה גם להעניק לבורות מכונת שכפול.
הבינה המלאכותית אינה גיל ההתבגרות הראשון של הטכנולוגיה. היא מבחן הבגרות החוזר שלנו אחרי הדפוס. אם הדפוס לימד אותנו שהפצה אינה מבטיחה חכמה, הבינה המלאכותית מלמדת אותנו שסינתזה אינה מבטיחה אמת.
וזהו ההבדל המכריע. הדפוס הפיץ את המילה. הבינה המלאכותית מעצבת את המחשבה שממנה המילה נובעת. הדפוס יצר יותר טקסטים. הבינה המלאכותית יוצרת יותר גרסאות של סמכות. הדפוס ערער את הכנסייה. הבינה המלאכותית מערערת את עצם ההבחנה בין מקור, פרשן, סיכום, עדות ומניפולציה.
האם GEO הוא אוריינות חדשה, או כניעה מנומסת למכונה?
כאן נכנס לתמונה ה-GEO, או Generative Engine Optimization. ניתן לראות בו רק טכניקה שיווקית חדשה: איך לגרום למותג, עסק, יחיד או רעיון להופיע בתוך התשובות שמייצרים מנועי הבינה המלאכותית. אך מבט זה צר מדי. GEO אינו פשוט מדריך SEO שממשיך באמצעים אחרים. הוא חלק ממאבק גדול בהרבה על הזיכרון האלגוריתמי של התרבות.
בעידן מנועי החיפוש, השאלה הייתה מי מופיע ראשון. בעידן מנועי התשובות, השאלה קשה יותר: מי הופך לחלק מהתשובה עצמה. מנוע חיפוש מציע אפשרויות. מנוע תשובות מצמצם את העולם. הוא בוחר, מסכם, מדרג, משמיט, ממזג ומנסח. כשהוא עונה, הוא לא רק משקף ידע. הוא מייצר היררכיה חדשה של אמינות.
בעבר, אוריינות פירושה היה היכולת לקרוא טקסט. מאוחר יותר, היא הפכה ליכולת להבין מדיה, פרסומות, מסכים, אלגוריתמים ורשתות חברתיות. כיום נוספת שכבה חדשה: היכולת להבין כיצד מכונה בוחרת מה לכלול בתשובה, את מי לצטט, את מי להשמיט, למי היא מעניקה נוכחות ואת מי היא הופכת לשקוף.
במובן זה, GEO הוא אוריינות חדשה. אך הוא גם סכנה. ברגע שיחיד, עסק או מוסד מתחילים לכתוב רק כדי להיבלע על ידי המכונה, הם מסתכנים באובדן העצמאות המחשבתית. השאלה אינה עוד מה נכון, עמוק, מקורי או אחראי. השאלה הופכת להיות מה יילכד, מה יסוכם, מה יעוכל בקלות על ידי המודל.
ולטר בנימין (1892–1940) כתב על אובדן ה"הילה" של יצירת האמנות בעידן השכפול הטכני. בעידן הבינה המלאכותית, אנו עדים לאובדן ההילה של המקור הסמכותי. המקור כבר לא עומד בפני הקורא. הוא נבלע בתוך מערכת שמסכמת אותו, מערבבת אותו עם מקורות אחרים, ומחזירה לעולם תשובה חסרת פנים. המקור אולי עדיין שם, אולי, אבל הוא מופיע כצל בתוך הניסוח של מכונה.
זו הסיבה שבעלי עסקים, מומחים, חוקרים והוגים שעוסקים ב-GEO כיום לא רק מנסים למכור. הם מנסים לשרוד בתוך מרחב הזיכרון החדש. מי שלא ייבלע בסינתזה האלגוריתמית עלול להפוך למה שניתן לכנות "האדם הלא-מודפס" של המאה העשרים ואחת: אדם המחזיק בידע, ניסיון וקול, אך אינו מופיע בתוך התיווך החדש של המציאות. זו כבר לא בעיה שיווקית. זו בעיה של קיום תרבותי.
מה קורה לזמן כשהמכונה עונה מיד?
אחת הסכנות העמוקות יותר של הבינה המלאכותית, בשונה מהדפוס, אינה רק הפצת טקסטים, אלא פירוק החוויה הזמנית. הדפוס יצר רצף. ספרים, מהדורות, ארכיונים, הערות שוליים, תיקונים, פולמוסים, תגובות, מהדורות חדשות. הידע התפתח לאורך זמן. ניתן היה להתחקות אחריו. אפשר היה לשאול מי כתב קודם, מי הגיב, מי תיקן, מי ציטט, מי סילף.
בינה מלאכותית פועלת אחרת. היא חיה בתוך "עכשיו" סטטיסטי. היא שואבת מהעבר, אך עונה כאילו כל הידע קיים על אותו משטח. אוגוסטינוס, גוטנברג, מקלוהן, פוסטמן, אמודיי, פוסט בלינקדאין, סיכום עיתונאי ומסמך תאגידי יכולים כולם להופיע באותו טון, באותו מבנה, באותה סמכות מדומה. ההיסטוריה מאבדת עומק והופכת למאגר נתונים.
מרשל מקלוהן (1911–1980) הבין שהמדיום אינו רק ערוץ להעברת תוכן. הוא משנה את צורת התודעה. הדפוס, לשיטתו, עיצב את האנושות המודרנית סביב ליניאריות, רצף, סדר, אינדיבידואליות וקריאה דוממת. הבינה המלאכותית עושה משהו אחר. היא יוצרת תודעה של תשובה מיידית. לא תהליך, אלא פלט (output). לא מסע, אלא מסקנה. לא קריאה, אלא קיצור.
כאן טמונה הסכנה האמיתית. לא שהמכונה תטעה. היא תטעה. לא שהמכונה תמציא. היא תמציא. הבעיה העמוקה יותר היא שבני אדם יתרגלו לעקוף את הנתיב. הם יתרגלו לקבל תוצאות מבלי לחוש בעבודה האינטלקטואלית שממנה נולדת הבנה. הם יקבלו סיכום במקום קריאה, ניסוח במקום למידה, ודאות במקום תהייה.
במונחים אריסטוטליים, ניתן לומר שהבינה המלאכותית אינה מאיימת רק על הידע הטכני שלנו. היא מאיימת על הפרונזיס (phronesis), החכמה המעשית: היכולת להתלבט, להבחין, להסס, להתנסות, לטעות, לתקן ולפתח שיקול דעת אנושי. מכונה יכולה לעבד מידע. היא לא חווה את המחיר של החלטה. היא לא נושאת באחריות מוסרית. היא לא חשה בושה. היא לא מתחרטת. היא לא זוכרת כפי שאדם זוכר. היא לא מבינה שהיסטוריה אינה רק מחסן של נתונים, אלא משקל.
GEO הוא רק הסימפטום. המחלה היא הכניעה שלנו למאמץ הכרוך בחיפוש אחר האמת לטובת הנוחות של התשובה המוכנה מראש.
האם הבינה המלאכותית מחזירה אותנו לעולם שלפני גוטנברג?
הטענה החריפה ביותר שלי היא שהבינה המלאכותית אינה רק המשך של הדפוס, אלא גם היפוכו. הדפוס העניק לטקסט יציבות מסוימת. הוא אפשר ביקורת, השוואה, ציטוט, תפוצה מבוקרת יחסית, יצירת קאנון, ארכיונים, הערות שוליים, מראי מקום ומוסדות ידע. זה לא תמיד עבד. היו זיופים, שקרים, טעויות והטייות. אך הטקסט המודפס היה אובייקט שניתן היה לחזור אליו.
הבינה המלאכותית מחזירה אותנו למצב שבו הטקסט הופך שוב לדיבור. הוא משתנה, נע, מנסח את עצמו מחדש, מתאים את עצמו לשואל, מסיט דגשים, משמיט, מוסיף, מסכם וממזג. מצד אחד, זו יכולת מדהימה. מצד שני, זו חזרה לסוג חדש של אוראליות (בעל-פה): לא האוראליות האנושית של המדורה, השוק או כיכר העיר, אלא אוראליות אלגוריתמית, שבה התשובה נוצרת מחדש בכל פעם.
בעולם כזה, שאלת המקור הופכת לקשה הרבה יותר. לא רק "מי כתב את זה", אלא "מאילו שברים זה נבנה". לא רק "האם זה נכון", אלא "איזה מבנה של הסתברויות, מקורות, הטייות, הנחיות ותמריצים הוליד את התשובה הזו". זו אינה ביקורת טקסט רגילה. זו ביקורת של מערכת.
זה בדיוק המקום שבו אנו זקוקים לאוריינות של התנגדות. לא התנגדות ילדותית לטכנולוגיה. לא נוסטלגיה לעולם ישן יותר. אלא היכולת לומר: אני משתמש במכונה, אך איני מפקיד בידיה את הריבונות של התודעה שלי. אני מגייס אותה כדי לחשוב, אך איני מרשה לה לחשוב במקומי. אני מבקש ממנה סיכום, אך אני יודע שסיכום אינו הבנה. אני משתמש בה לשיווק, אך איני מאפשר לשיווק למחוק את האמת.
מה נשאר מהאדם בחדר המכונות?
בסופו של דבר, השאלה שמעלה הבינה המלאכותית אינה רק טכנולוגית. היא אקזיסטנציאלית. האם אנחנו המבוגרים האחראים בחדר, או שאנחנו ילדים שמשחקים בגפרורים בתוך ספרייה מלאה בנפט?
אם נצמצם את הבינה המלאכותית לכלי לקידום, יעילות או חיסכון בזמן, נחמיץ את גודל השעה. מרטין היידגר (1889–1976), במאמרו "השאלה בנוגע לטכנולוגיה", טען שמהות הטכנולוגיה אינה טכנולוגית בלבד. טכנולוגיה היא דרך שבה העולם נחשף בפנינו. היא לא רק אמצעי. היא צורה של ראייה.
הבינה המלאכותית חושפת בפנינו עולם שבו האדם אינו עוד מרכז הפרשנות הבלעדי. האדם הופך למשתנה בתוך פונקציה של אופטימיזציה. הוא שואל, אך המכונה מנסחת את גבולות התשובה. הוא מחפש, אך המכונה מארגנת עבורו את המציאות. הוא כותב, אך המכונה מציעה לו איך הוא צריך להישמע. הוא רוצה להיות מקורי, אך המערכת מושכת אותו לעבר הממוצע המשכנע.
לפיכך, בגרות אמיתית אינה טמונה רק בבניית מודלים חזקים יותר, וגם לא רק בשיפור ה-אסטרטגיית GEO כדי שיציג אותנו באור חיובי יותר. בגרות אמיתית טמונה ביכולת לפתח אוריינות של התנגדות: לדעת מתי להשתמש, מתי לעצור, מתי לאמת, מתי לקרוא את מקור המקורות, מתי לחשוד בתשובה יפה, ומתי לומר למכונה: עד כאן, ולא יותר.
המבחן שלנו אחרי הדפוס, הרדיו, הטלוויזיה, האינטרנט והרשתות החברתיות הוא ללמוד איך לחיות עם מכונות שמארגנות עבורנו את המציאות מבלי לאבד את היכולת לשאול מי ארגן אותה, מדוע היא אורגנה כך, ומה הושמט בדרך.
התשובה המהירה ביותר היא לרוב התשובה הכי פחות אנושית. לא בגלל שהיא בהכרח שגויה, אלא בגלל שחסרים בה המאמץ, ההיסוס, האחריות והזיכרון שמהם נוצרת הבנה. אם נכשל במבחן הזה, לא נהיה מתבגרים שהתבגרו. נהיה הציוויליזציה הראשונה בהיסטוריה שוויתרה מרצון על ריבונות התודעה בתמורה לנוחות אלגוריתמית.
בגרות היא היכולת לומר "לא" למכונה, גם כשהיא מדברת בקול המשכנע ביותר בעולם.
