מה שמאיים על האנושות עם המחשוב של כל חיינו

2024 מְחַבֵּר: Seth Attwood | [email protected]. שונה לאחרונה: 2023-12-16 16:05

סמארטפונים, רובוטים ומחשבים מקלים על החיים שלנו, אבל אולי אנחנו מפסידים בזה משהו? הכתב שוחח עם הסופר האמריקאי ניקולס קאר על הסכנות ואף האיומים של אוטומציה יתרה.

הדעה הרווחת היא שהאוטומציה של כל דבר וכולם משפרת את איכות חיינו. מחשבים עוזרים לנו להשיג ביצועים שיא. יישומי תוכנה הופכים משימות למהירות וקלות יותר. רובוטים לוקחים על עצמם את העבודה המייגעת והקשה. הזרם המתמיד של חידושים מעמק הסיליקון רק מחזק את האמונה של אנשים שטכנולוגיות חדשות הופכות את החיים לטובים יותר.

עם זאת, יש דעה אחרת. הסופר ניקולס קאר מעביר את ההנחות של העולם הדיגיטלי המודרני לניתוח חסר פניות. החיבור שלו "Does Google Make Us Stupid?", שפורסם באטלנטיק ב-2008, עדיין שנוי במחלוקת, וכך גם רב המכר שלו מ-2010, The Shallows.

תומכי התיאוריה שהטכנולוגיה תציל את עולמנו רואים ב-Car את אחד היריבים החזקים ביותר שלהם. ומי שנזהרים מההשלכות של הקידמה הטכנולוגית על האנושות מכבדים אותה על הטיעון המאוזן שלה.

כעת קאר מתעניין בשאלה חדשה: האם עלינו לפחד שבהדרגה לא יהיו לנו משימות קשות בעולם? האם חיינו יהיו יעילים מדי הודות לטכנולוגיות חדשות?

נפגשתי עם הסופר לפני זמן מה כדי לדבר על ספרו החדש, כלוב הזכוכית: אוטומציה ואנו, ומה גרם לו לכתוב אותו.

1. הפרת המיתוס המרכזי על טכנולוגיות חדשות

טום צ'טפילד: אם אני מבין נכון, בספר "כלוב הזכוכית" אתה מנסה להפריך את המיתוס לפיו פישוט חיינו בזכות הקידמה הטכנולוגית היא בהכרח תופעה חיובית.

ניקולס קאר: הן ברמה האישית והן ברמה המוסדית, אנו רגילים לחשוב שיעילות ונוחות הן טובות כברירת מחדל, ומקסום אותן היא בהחלט מטרה ראויה. נדמה לי שהגישה הזו לטכנולוגיה על כל צורותיה, במיוחד בצורת אוטומציה ממוחשבת, היא די נאיבית. זה חל גם על הרצונות והחיים האמיתיים שלנו בעולם המודרני.

האם מחשבים יחליפו אי פעם בני אדם?

T. Ch.: ועדיין, רוב חסידי הקידמה הטכנולוגית דבקים בנקודת המבט התועלתנית, לפיה הטעויות הגדולות ביותר שאנו עושים נובעות מהזנחת היעילות וההיגיון, ולמעשה אנו בעצמנו איננו יודעים מה טוב עבורנו. לכן, מנקודת מבטם, המשימה של הקידמה הטכנולוגית היא לזהות את החסרונות של החשיבה האנושית, ולאחר מכן ליצור מערכות שיפצו על החסרונות הללו. האם הדעה הזו שגויה?

נ.ק.: מצד אחד, חידושים רבים בפיתוח טכנולוגיית המחשב ופיתוח מערכות אוטומטיות אינם קשורים כלל לקביעה הגורפת שבני אדם הם מאוד לא מושלמים בהשוואה למחשבים. כן, ניתן לתכנת מחשב לבצע פעולות מסוימות ללא הגבלת זמן באיכות עקבית. ואמנם אדם אינו מסוגל לדבר כזה.

אבל חלקם הולכים אפילו רחוק יותר וטוענים שאנשים לא מושלמים מדי, שצריך להגביל את תפקידם ככל האפשר, והמחשבים צריכים להיות אחראים לכל המשימות הבסיסיות. לא מדובר רק בניסיון לפצות על חסרונות אנושיים – הרעיון הוא להסיר כליל את הגורם האנושי, וכתוצאה מכך, כך נטען, חיינו ישתפרו בהרבה.

T. Ch.: נראה שזה לא הרעיון הכי טוב.האם יש רמה אופטימלית של אוטומציה?

נ.ק.: לדעתי, השאלה היא לא האם צריך לבצע אוטומציה של משימה מורכבת זו או אחרת. השאלה היא איך אנחנו משתמשים באוטומציה, איך בדיוק להשתמש במחשבים כדי להשלים את הידע והכישורים האנושיים, לפצות על פגמים בחשיבה ובהתנהגות האנושית, וגם כדי לעורר אנשים להפיק את המרב מהניסיון שלהם כדי להגיע לשיאים חדשים.

אנחנו הופכים לצופי צגי מחשב

הסתמכות יתרה על תוכנה יכולה להפוך אותנו לצופי צגי מחשב ולמפעילי זרימת תהליכים. מחשבים יכולים למלא תפקיד חשוב מאוד כי אנחנו רק בני אדם – אנחנו יכולים ליפול קורבן לדעות קדומות או להחמיץ מידע חשוב. אבל הסכנה היא שקל מדי להעביר את כל הפונקציות שלנו למיקור חוץ למחשבים, שלדעתי תהיה החלטה שגויה.

2. האם אתה צריך לקרב את החיים האמיתיים לתרחיש של משחק וידאו?

T. Ch.: שמחתי לציין שבספרך אתה מצטט משחקי וידאו כדוגמה לאינטראקציה בין אדם למכונה, שבה הנקודה היא להתגבר על קשיים, לא להימנע מהם. המשחקים הפופולריים ביותר הם סוג של עבודה שנותנת לשחקן תחושת סיפוק. אנחנו יכולים רק להתלונן שהעבודה שרבים מאיתנו צריכים לעשות מדי יום דורשת הרבה פחות מיומנות ומסבה לנו הרבה פחות הנאה.

משחקי וידאו מעוררים את הגיימר להתאמץ יותר ולהשתמש במוח ככל האפשר

נ.ק.: משחקי וידאו מעניינים בכך שהרעיון שלהם נוגד את העקרונות המקובלים של יצירת תוכנה. מטרת משחקי המחשב אינה בכלל לפטור את המשתמש מאי הנוחות. להיפך, הם מעוררים את השחקן להתאמץ יותר ולהשתמש במוח ככל האפשר. אנחנו נהנים ממשחקי וידאו בדיוק בגלל שהם מאתגרים אותנו עם אתגרים הולכים וגדלים. אנחנו כל הזמן מוצאים את עצמנו במצבים קשים – אבל לא במצבים שגורמים לייאוש. התגברות על כל רמה חדשה רק מחדדת את הכישורים שלנו.

תהליך זה דומה מאוד לאופן שבו אדם צובר ניסיון חיים בחיים האמיתיים. כידוע, לפיתוח היכולות, אדם צריך להתמודד שוב ושוב עם מכשולים רציניים ולהתגבר עליהם שוב ושוב תוך שימוש בכל הידע והכישורים שלו. בהדרגה, אדם מגיע לרמה חדשה, ולאחר מכן המורכבות של המכשולים עולה.

אני חושב שאנשים אוהבים משחקי וידאו מאותה סיבה שהם מקבלים סיפוק מרכישת חוויות חדשות והתגברות על מכשולים. הפתרון של משימה קשה, בתהליך של רכישת ידע חדש, הכרחי כדי להתגבר על קשיים חדשים, מורכבים עוד יותר, נותן לאדם הנאה רבה.

כניעה מוחלטת למחשב תוביל אותנו לחיים בהם יהיה מעט מקום למימוש עצמי

אחד החששות המרכזיים שאני מביע בספר הוא שהיחס שלנו להתקדמות קשור ברצון להימנע ככל האפשר מפתרון בעיות קשות. נראה לי שנקודת מבט זו סותרת את עצם המושג של סיפוק ומימוש עצמי מהחיים.

3. האם מחשבים יבטלו את הצורך באנשים?

T. Ch.: בניגוד למשחקי וידאו, בעולם האמיתי, עבודה קשה לא בהכרח מתוגמלת. העולם האמיתי הוא לא הוגן ולא מאוזן. אולי המגמה המטרידה ביותר כאן היא שהאינטרסים של הפרט (פסיכולוגית, אישית ואפילו במונחים של הישרדות) נופלים יותר ויותר מהתיישבות עם מושגי כדאיות של תאגידים וממשל. האם אתה חושש שמחשבים יחליפו סוף סוף את בני האדם?

משחקים רבים קשים למעבר ודורשים כישורים וכושר המצאה לא שכיחים מגיימרים. אז למה ששאר הטכנולוגיה רק תהפוך את החיים שלנו לקלים יותר?

נ.ק.: כשאספתי חומר לספר, נבהלתי מאוד ממאמר (ציטוטים מהם אני מצטט בטקסט), שנכתב על ידי מומחה לאסטרטגיה צבאית. לדבריו, בהתחשב בהיקף ההולך וגדל של השימוש בטכנולוגיות מחשוב בשדה הקרב, בקרוב מאוד אולי פשוט לא יהיה מקום לאדם בענייני צבא. מהירות קבלת ההחלטות גדלה כל כך שאנשים פשוט לא יכולים לעמוד בקצב של מחשבים. אנו מתקדמים בהכרח לעבר לוחמה אוטומטית לחלוטין: כלי טיס בלתי מאוישים יחליטו בעצמם מתי לירות טילים על מטרות, וחיילים רובוטיים על הקרקע יחליטו בעצמם מתי לירות.

לדעתי, מצב זה נצפה לא רק בענייני צבא, אלא גם בתחומים רבים אחרים - למשל, בעולם הפיננסים. אנשים פשוט לא עומדים בקצב של מחשבים בעת מסחר במכשירים פיננסיים, למשל.

מה מחכה לנו? אנחנו עלולים לא רק לאבד את היכולת שמבדילה אותנו ממחשבים להערכה ביקורתית של הפעולות שלנו - אולי ניישם מערכות כאלה ללא מחשבה, מתוך אמונה שהעיקר הוא מהירות קבלת ההחלטות. ואז, אם נשתכנע שטעינו, נגלה שאין דרך חזרה. לעתים קרובות מאוד מתברר שזה בלתי אפשרי לשלב אדם במערכת שנבנתה במקור על טכנולוגיית מחשב.

T. Ch.: גם אני נחרדתי כשקראתי קטע בספר שלך על לוחמה אוטומטית. קיבלתי הרגשה שאי אפשר לעצור את התהליך שיוביל אותנו למערכות לחימה אוטונומיות לחלוטין. חלק מהאימה שלי נובע מהזיכרונות של המשבר הפיננסי של 2008, שלמעשה חיסל טריליוני דולרים. לפחות עכשיו אנשים אחראים יותר לגבי הכספים שלהם. אבל אם זה יקרה בתחום הצבאי, לא יושמדו דולרים, אלא חיי אדם.

עתיד בלי אנשים?

נ.ק.: לא רק שטכנולוגיות חדשות, במיוחד טכנולוגיות תוכנה, ניתנות היום לשכפול ולהפצה במהירות רבה. הנקודה היא שכל התהליכים הללו מתרחשים בסביבה תחרותית. בין אם מדובר במירוץ חימוש או בתחרות עסקית, ברגע שאחת מהיריבות משיגה יתרון לטווח קצר על חשבון טכנולוגיה כזו או אחרת, הטכנולוגיה הזו מוכנסת מיד בכל מקום אפשרי - כי אף אחד לא רוצה להיות במקום. חִסָרוֹן.

אני חושב שבמצב הזה קל מדי לאבד את העובדה שאנחנו בעצם חיות. אנשים עברו דרך אבולוציונית במשך אלפי שנים למען יוכלו לחיות ולשרוד. תפקידה של האנושות, כמו גם תחושות הסיפוק והמימוש העצמי שלנו, קשורים קשר הדוק לחוויית החיים שלנו בעולם שקובע את הקצב הרגיל שלנו.

לכן, כאשר אנו מתנגדים לאדם, על כל יתרונותיו וחסרונותיו הפיזיים, למחשב מהיר ומדויק, נוצר רצון לוותר על כל חיינו למחשבים. עם זאת, אנחנו שוכחים שהכניעה המוחלטת למחשב תוביל אותנו לחיים שבהם לא יהיה מקום למימוש עצמי.

4. איך נהפוך את העולם לאוטומטי?

T. Ch.: אני מאמין שאנחנו צריכים להיות ביקורתיים כלפי טכנולוגיות חדשות, אבל אני מודאג מכך שאנשים יהפכו קושי מיותר ו"אותנטיות" אנטי-טכנולוגית לפטיש. ישנה אסכולה מודרנית כזו שמשבחת עבודה פיזית קשה וטוענת שכל מה שאנו עושים חייב להיות מלאכותי ואותנטי. לדעתי, עמדה כזו משבצת סנוביות ואינה מביאה בחשבון את ההישגים החיוביים האדירים שהביאה איתה הדמוקרטיזציה של הקידמה הטכנולוגית.

נ.ק.: אני מסכים איתך לחלוטין.בראיון נשאלתי כיצד היחס הזהיר שלי לקידמה יעזור, למשל, לאנשים העובדים בתנאים קשים במפעלים לעיבוד בשר. עניתי שכמובן תמיד יהיה מקום לאוטומציה של הייצור שבו צריך לשפר את תנאי העבודה של אנשים. זה רק שאתה יכול לחדש בצורה חכמה, או שאתה יכול לעשות זאת ללא מחשבה; אנחנו יכולים למצוא דרך לקחת בחשבון את הערך של החוויה האנושית ואת חשיבות המימוש העצמי, או שנוכל פשוט לשבח את היכולות של מחשבים. בחירה נכונה היא לא קלה. אם אנו תופסים את המשימה הזו אך ורק בשחור-לבן - או שנעמוד בעיוורון על עבודה פיזית קשה ומתישה בכל מצב, או להיפך, נראה את משמעות החיים בסיבריזם - זה לא יעזור למטרה.

את העבודה הקשה ביותר ודורשת דיוק יוצאת דופן מומלץ להשאיר למכונות

אנשים כל הזמן יוצרים ומשתמשים בכלים. מאז ומתמיד עלינו לקבל החלטות הקשורות בחלוקת העבודה, תוך חלוקת כמות העבודה בין אדם לכלים העומדים לרשותו. ונראה לי שהיעילות המדהימה של מחשבים בביצוע מגוון רחב של משימות רק מסבכת את תהליך קבלת החלטות כאלה.

5. מה מחכה לנו?

T. Ch.: אז האם האנושות מתקדמת להצלחה?

נ.ק.: היסטוריון תולדות הטבע תומס יוז, שהלך לעולמו בשנה שעברה, הציע את המושג "מומנטום טכנולוגי". הוא האמין שטכנולוגיות המוטמעות במבנים ובתהליכים חברתיים מתחילות להתפתח מעצמן, וגוררות איתם את החברה. בהחלט יתכן שהמסלול שלנו כבר נקבע ושנמשיך בדרכנו הנוכחית, מבלי לשאול שאלות האם אנו מתקדמים בכיוון הנכון. אני באמת לא יודע מה הולך לקרות. הכי הרבה שאני יכול לעשות זה לנסות לחשוב על השאלות הקשות באמת האלה כמיטב יכולתי.

אני מקווה שאנחנו, כיחידים וכחברים בחברה, נוכל לשמור על רמה מסוימת של הבנה של מה שקורה לנו, כמו גם על רמה מסוימת של סקרנות, ונקבל החלטות על סמך האינטרסים ארוכי הטווח שלנו., ולא על בסיס המושגים הרגילים שלנו של נוחות, מהירות, דיוק ויעילות.

יבוא היום, ורובוטים יפטרו אותנו מכל הקשיים. האם אנחנו צריכים את זה?

נראה לי שעלינו לשאוף לכך שמחשבים יעשירו את חווית החיים שלנו ויפתחו בפנינו הזדמנויות חדשות, ולא יהפכו אותנו לצופים פסיביים במסכי מוניטור. אני עדיין חושב שאם נפיק יותר מטכנולוגיות חדשות, הם יוכלו לעשות את מה שהטכנולוגיה והכלים עשו לאורך ההיסטוריה האנושית – ליצור עולם מעניין יותר סביבנו ולעזור לנו להיות טובים יותר בעצמנו. בסופו של דבר, הכל תלוי בעצמנו.