האם הסכנה של התקדמות רובוטית נכונה או מיתוס?

2024 מְחַבֵּר: Seth Attwood | [email protected]. שונה לאחרונה: 2023-12-16 16:05

כשאנחנו אומרים שרובוטים לא יחליפו אנשים, כי אין בהם שום דבר אנושי, אנחנו בכלל לא מתכוונים ליכולת יוצאת הדופן של אדם ליצור או לפעול בצורה לא הגיונית. מתישהו רובוטים יוכלו לעשות זאת. אבל לפחד מהם זה פשוט חסר טעם. למה - מסביר אנדריי סברנט, מנהל שיווק אסטרטגי ב-Yandex.

איך הטין וודמן הפך למחסל

הסופר הדגול ארתור קלארק ניסח שלושה חוקים, אחד מהם אומר: "אין להבחין בין כל טכנולוגיה מתקדמת מספיק לקסם". ניסוח זה מתאר במדויק את היחס שלנו לטכנולוגיה גבוהה. אבל בעידן התקשורתי, עם הטלוויזיה והפייסבוק, קשה יותר ויותר להיות קוסם.

דוגמה לבינה מלאכותית למדי היא הטין וודמן, שאיתו אלי (או דורותי) הייתה חברה וניהלה שיחות מתוקות. באיזה שלב ולמה הוא הפך פתאום לטרמינטור? זהו סיפור תקשורתי גרידא: הפחד מוכר היטב - עד כדי כך שהנושא הקשור לרובוטים צריך להיכלל בכותרת ההרצאה.

וזה באמת משקף את מה שקורה בראש הציבור. לאחרונה, ה-HSE ערך סקר שמראה שככל שהסובייקטיביות של הרובוט גדולה יותר, כך אנשים חוששים שהוא, כנושא, יעשה להם משהו רע. כשרובוט רק עושה כמה מטלות בית או מביא סחורה מהחנות, אף אחד לא מפחד מזה. אבל כשמדובר באחיות, חובשים, מחנכים ומכוניות בנהיגה עצמית, רוב האנשים טוענים שהם יהיו מאוד לא בנוח עם הסביבה שלהם. בינתיים, נתונים סטטיסטיים של תאונות עבור מיליון קילומטרים שנסעו מראים כי מזל טים נוטים פחות להיכנס לתאונות דרכים. כמובן, בכל זאת, אנשים ייקלעו לתאונות דרכים, אבל הם ימותו בתדירות נמוכה יותר - 300 אלף איש במקום מיליון וחצי. והמיליון יחיו, כי הנהג לא היה אדם שיכור, אלא טייס אוטומטי לא מושלם.

למה לא צריך לדרוש הסברים מרובוטים

זוכה פרס נובל לפיזיקה ריצ'רד פיינמן אמר שאף פיזיקאי לא מבין בפיזיקה קוונטית. למרבה הצער או למרבה המזל, היום יש עוד הרבה תחומים שבהם קורה משהו שאדם לא יכול להסביר.

אין טעם לדרוש פרשנות מרובוטים (מדוע התקבלה החלטה כזו, מדוע האטה המכונית וכו'). יתרה מכך, אם מסתכלים אחורה על ההיסטוריה שלנו, זה לגמרי לא הגיוני.

לדוגמה, חומצה אצטילסליצילית, שסונתזה בשנת 1853 ונרשמה בסימן המסחרי של אספירין בסוף המאה ה-19, נצרכת כיום בכמויות אדירות - כ-120 מיליארד טבליות בשנה. עם זאת, פעולתו, הקשורה, למשל, לשימוש במחלות לב, הוסברה פחות או יותר רק 70 שנה לאחר שהחל להיות בשימוש נרחב ברפואה.

פרמקולוגים מודרניים אומרים שאיש אינו יודע כיצד פועלות תרופות מודרניות מתוחכמות למחלות קשות. מעניין כמה אנשים שחוששים להיכנס לרכב בנהיגה עצמית יסרבו לטיפול בתרופה שחוסכת ב-90% מהמקרים, אבל אנחנו לא יודעים כמעט כלום על מנגנוני הפעולה שלה?

לכן, אפילו בחיי היומיום, אנחנו לא מבינים את כל מה שקורה סביבנו. וזה מאוד נאיבי לדרוש מרובוטים להסביר את פעולותיהם לפני יישום נרחב של למידת מכונה. כל עוד אנו שואפים להשיג זאת מהאלגוריתמים הנוכחיים, יגיעו מחשבים קוונטיים, ולא תהיה תקווה להבנה כלל. לכן, עדיף ללמוד לקבל את מה שאינך יכול להבין.זו לא תשובה לשאלה מה הרובוטים יעשו לנו. זו התשובה לשאלה איך לא לבזבז את כל מה שאתה מרוויח על פסיכואנליטיקאים אם רובוטים לידך.

איך ליצור עם בינה מלאכותית

הסיפור הבא על דו-קיום עם רובוטים מוקדש לרעיון שכל אדם יצירתי יכול להבין - כמה קשה למצוא מישהו שאיתו יהיה נהדר ליצור ביחד. האמן הרוסי ותואורטיקן האמנות המפורסם דמיטרי בולאטוב מנסח זאת בצורה חריפה יותר: "הנורמה החדשה היא כזו: אם אנחנו רוצים להדביק את העולם באמנות, עלינו לשים קץ לשוביניזם החלבון שלנו".

אנחנו (ב-Yandex. - T&P note) התחלנו להשתעשע עם המוזיקה שנכתבה על ידי רשתות עצביות עוד בשנת 2017, - המוזיקה שיצרנו הוכרה כמלחינה מקורית ומומחית ליצירתיות של סקריאבין, מריה צ'רנובה. כפי שציין איבן ימשצ'יקוב, מה אם הרשת העצבית אוהבת לנגן את אותו תו במשך ארבע דקות? אני חושב שזה לא יגרום לשום דבר מלבד צחוק ("התסריט תקוע"). ואם נניח שזה הומצא על ידי אדם, אז מיד יבואו בריצה מספר עצום של מתורגמנים, שיתחילו להסביר שזו מחשבה עמוקה, המבטאת את הרעיון של קיפאון מפלצתי שבו אנו חיים וכו'. זו שאלה של פרשנות לא ליצירה עצמה, אלא להקשר שניתן לנו.

כיום, אפילו בהקדמה למאמר המתמטי Music Generation with Variational Recurrent Autoencoder Supported by History, כותבים מחבריו כי משימות הכרוכות בגישה אינטואיטיבית או יצירתית נחשבו מזמן לאנושיות בלבד, אך כעת יותר ויותר אלגוריתמים הופכים לזמינים, ומוזיקה זה רק דוגמה אחת. משימות כאלה.

שנתיים לאחר מכן, כתבנו מוזיקה למוזיקאי הגדול ביותר יורי בשמט (רשת נוירונים שיצרה Yandex יצרה יצירה לוויולה ותזמורת בשיתוף עם המלחין קוזמה בודרוב. - הערת T&P). כשאתה מספר לאנשים על האירוע הזה, הם מגיבים כך: "אה, הבנו! הם אומרים שרשתות עצבים עושות עבודה טובה עם משימות שגרתיות, אז המלחין יוצר את המנגינה הזו, רעיון מבריק של היצירה, והרשת הנוירונים כנראה למדה לעשות את שאר עבודת התזמור". ההיפך הוא הנכון. המלחין קוזמה בודרוב טוען שרשת העצבים הפכה למחברת המשותפת שלה והיא זו שיצרה את הדבר הקשה ביותר, המקור, שהפך מאוחר יותר למשהו נוסף. הייתי רוצה תמיד שיהיה לי מחבר כזה, שמסוגל ליצור משהו חדש ובלתי צפוי, בלי להתעייף ובלי ליפול לדיכאון.

רשתות עצביות ופיזיות

בספר הסטרוגאצקים "יום שני מתחיל בשבת" מתוארות ישויות המכונות כפילים: הכתבה, אבל מי יודע לעשות זאת היטב. […] מאסטרים אמיתיים יכולים ליצור למידה עצמית מורכבת מאוד, מרובה תכניות." אחד מגיבורי הרומן שלח טייק כזה במכונית במקום גיבור אחר. הכפיל הוביל את המוסקוביץ' לעילא, "נשבע כשהוא ננשך על ידי יתושים ושר בהנאה במקהלה". "אליס" שלנו עדיין לא עושה את זה, אבל האקתון אחד נוסף יתחיל. מערכות הסתגלות חכמות תוארו ב-1965. עכשיו הם כבר באמת קיימים - ככפולים, שיותר טובים במיון פיסות נייר, להמציא מנגינות חדשות, לעשות תכנון מדיה וכו' וזו רק ההתחלה.

בספרו של קווין קלי Inevitably, יש משפט יפה: "מכונות החשיבה החשובות ביותר לא יהיו אלו שיכולות לחשוב מהר יותר וטוב יותר מבני אדם, אלא אלו שילמדו לחשוב בדרכים שבני אדם לעולם לא יוכלו". זה כאילו שיישמנו את רעיון הטיסה כל חיינו, יוצרים ומשפרים ציפור עם כנפיים, רק עושים אותן גדולות יותר ומשתמשים בחומרים מודרניים. הרעיון של רקטה שתיקח אותנו בחלל שבו כנפיים חסרות תועלת פשוט לא היה מופיע, כי הוא שונה לחלוטין מהמקום שבו הכל התחיל.וזה עוד לפנינו - בינתיים, יש לנו מחברים מעולים.

כשאנחנו מדברים על בינה מלאכותית וחוששים שהמכונה תחליף אותנו, אנחנו כל הזמן מאמינים שהאדם והאינטליגנציה הם כמעט מילים נרדפות, איזושהי מהויות מתחלפות. זה לא נכון. שוב אצטט את הסטרוגאצקי: "אני עדיין אדם, וכל החיה לא זרה לי". גם כאשר בעזרת רשתות עצביות נלמד לרקוד יפה על מסכים, זה לא יהפוך אותנו לאנשים שיכולים להתרגש ממש מהריקוד. פיזיות חשובה כמו אינטליגנציה. ועד עכשיו אנחנו לא מבינים בכלל איך עושים משהו אלגוריתמי, שבדיוק כמונו לא יהיה זר לכל החיה.