נקודות מבט של "אסקין" בניהול האנושות

2024 מְחַבֵּר: Seth Attwood | [email protected]. שונה לאחרונה: 2023-12-16 16:05

מה קורה אם אתה סומך על הבינה המלאכותית שתשלוט באנשים? בחקיקה שלנו, 99% מהחוקים סותרים זה את זה. באופן הגיוני, צריכה להיות קריסת כוח ועצירה של מערכת הבקרה…

עכשיו בואו נחשוב על המקום הזה בינה מלאכותית(להלן - איסקין) ייקח בחיינו כאשר (אם) יומצא ויושם. אני מציע לא להתווכח על הטבע הפנימי שלו. תן לזה להיות רק אלגוריתם מאוד מתקדם שיש לו את היכולת לעבוד עם ביג דאטה, והוא מסוגל להעתיק באופן דומה את דפוסי ההתנהגות של אנשים אמיתיים. אבל, אם אתה רוצה, תן למה שנדון יהיה גבר אמיתי, כפי שאתה עצמך מבין זאת.

השאלה העיקרית כאן היא זו. היכן אנו מיישמים את פטיש הת'ור הזה ברגע שנקבל אותו? ובאופן עקרוני, אין ספק שאפשר לעשות את זה. אנחנו יכולים לעשות מטחנות דיגיטליות, גם אלגוריתמים של למידה עצמית, תאריך גדול שנצבר - הכל שם.

נגיד, בניהול מערכות טכניות, למשל, יחידות הובלה בודדות? - נו, קמון… למה לעשות מערכת חכמה ומורכבת כדי להפקיד בה את מה שהסוס יכול להתמודד? יהיה מספיק ואלגוריתם פרימיטיבי על מעבד ב-10 דולר לדלי, הבעיה בניהול הובלה היא רק בהשגת נתונים ובנושאים אתיים. מה אז? תחשוב על חמש עשרה שניות.

לדעתי, יש רק אחד הדבר האמיתי עבור איסקין הוא ניהול אנשים … ליתר דיוק, התהליכים שבהם אנשים הם חלק. אין טעם להחליף בפחות מכמה סיבות. כל אדם מוכן לנהל אנשים ללא הכשרה מיוחדת. לדוגמה, אנו סומכים לחלוטין על כולם לנהל את הילדים שלנו. כמו כן, כמעט לכל אחד בצוותים היה לפחות ניסיון ניהולי. לפחות ברמה "זרוק עוד חפירה אחת לתוך האלונקה, ואנחנו נסחב אותה". אם כולם אדם מסוגל באופן עקרוני לנהל אנשים, אז בינה מלאכותית חייבת להיות מסוגלת לעשות זאת, אחרת מדובר באינטלקט לקוי נפשית.

עם זאת, התוצאות של ניהול אנשים רחוקות מלהיות אידיאליות. כל שליטה אמיתית היא סדרה של טעויות ואי דיוקים. יתרה מכך, מספר הטעויות כמעט ואינו תלוי ברמת המנהל, הוא קבוע מסוים. רק שמנהל העבודה של המעמיסים עושה טעויות קלות, ולנגיד ניתנת הזכות לעשות טעויות שיש בהן השלכות חמורות. אנחנו מבינים את זה. "היינו צריכים לעשות לא בסדר" היא התוצאה העיקרית של השתקפות העולם הסובב, כולל עצמנו.

ועכשיו, בידינו AI שאמור "לעשות זאת". ומיד ניישם אותו, כי הבעיה שהוא יכול לפתור תיאורטית היא החשובה ביותר. וג'משוט עם שלוש כיתות חינוך מסוגל גם לנהוג במשאית.

אם אתה מסכים איתי בעניין הזה, אז בואו נמשיך להציג את הפונקציונליות של העור המלאכותי שנועד לנהל. את התפקידים של מי עליו לבצע, את מי עליו להחליף או לפחות לחזק בהחלטותיו?

ברור שאלו יהיו בעלי תפקידים (הן במינהל הציבורי והן בעסקים). פקידים מקבלים החלטות. פקידים מתקבלים בכל רמות הכשירות. פקידים חשובים ונחוצים היום, כי ההחלטות לא ייקחו את עצמן. אבל יש נקודה אחת.

נתבונן בכל מנהל (כלומר, כל פקיד) מנקודת מבט של התוכן המילולי של פעילותו המעשית. אבל לא במובן של המניעים שלו - האבטיפוס של המוטיבציות, כביכול, לא צריך להיות. פקיד מאשר עסקאות או מבטל עסקאות שאושרו על ידי פקיד אחר.

במכונה אידיאלית, כל העסקאות חייבות להיות מאושרות ללא תנאי ולא ניתן לבטל עסקות מכיוון שהן אושרו בעבר כחוק. גורם חשוב במערכת זו הוא שעסקאות מוגשות לפקיד מתוך "הקופסה השחורה" לשיקול דעת. לא ניתן לו הסבר מדוע יש לבצע עסקה כזו או מדוע אושרה על ידי פקיד אחר. מערכת הבקרה בנויה באופן הבא. למעלה מופיעה הוראה בצורת הוראה לביצוע מספר עסקאות.

שימו לב שהמבנה האידיאולוגי של מערכת כזו כלל לא מרמז על אפשרות לבטל (לא לאשר) עסקה שהתקבלה מלמעלה, מה"קופסה השחורה". אבל בפועל, אפשרות כזו תמיד קיימת. והיא זו שמספקת שני דברים חשובים ביותר: כוחו של כל פקיד והכלה של כוח כזה.

הרשו לי להסביר שכל טעות (אמרנו לעיל שהיא בלתי נמנעת וקבועה) יכולה להתמוסס בהתנגדות של ההמונים הבירוקרטיים הבסיסיים, ואז ניתן למזער את ההשלכות של הטעות.

עם זאת, במערכת ניהול אידיאלית תיאורטית לא אמורות להיות טעויות, מסיבה זו תפקידו של פקיד מצטמצם לאישור פורמלי של עסקאות, שהוא אינו יכול אלא לאשר, כי הן נכונות. כלומר, אין צורך בכך. אז השאלה מסתכמת באות הניהול הראשוני. אם זה נכון, אז אין הגיון בכל הרמות הנמוכות.

אז, בתיאוריה, התקציב המאוחד של המדינה צריך לעבוד. כאשר הוא מתקבל, זה אומר שכל המהות הפרקטלית שלו מתגלה. כל נימי חייב לקבל את מנת הדם המוקצה, ובתגובה - את התוצאה המיועדת. כן, ממש בתחתית יש "אבל לא הספקנו בטון בזמן, ולכן…" אבל תסלחו לי, זה ממש בתחתית, ומנגנון הבקרה מורכב מהרבה רמות שלא נוגעות בבטון בכלל, הם פועלים בעסקאות. אני מבין שברמות הביניים "בטון לא נמסר" נראה אחרת, כמו "סגן נשיא בניית הקוסמודרום גנב 100 מיליון, ולכן…" אני מדבר כאן על תוכנית אידיאלית.

בואו נחזור לעור האידיאלי שלנו. הרי במשימה זו עליו לפתור את אותן סוגיות – אישור או איסור עסקאות. והוא יכול לעשות את זה! רק עכשיו הוא לבדו יוכל להחליף את כל דרגי הניהול בבת אחת. הרי אם במקום השר יאשר עסקה גדולה ברמת שר, אזי יש להכיר בהחלטתו כנכונה. והוא כולל ניתוח של כל ההפצה הנוספת של עסקה גדולה עד לתשלום של IP Pupkin לתיקון המרפסת של בית החולים הפסיכיאטרי בקנשמה.

כך שכל שרשרת הפקידים המחויבים לאשר עסקאות ברמות נמוכות יותר בעקבות הראשונה יכולה להיות מוחלפת בבטחה באותו אלגוריתם AI. הבעיה כבר נפתרה, עד הסוף. ה-AI שלנו אפילו לא צריך לשמש כדי להחליף את כל השרשרת, ה-AI פשוט מבטל את הצורך בה. ההחלטה שלו נכונה כי היא נכונה. והוא כולל מיד פתרונות לכל הפרקטל.

הֶעָרָה. כל פקיד כפוף בעולם האמיתי שלנו יכול להיות חכם יותר מאשר פקיד גבוה יותר.ואז הוא יחבל בהחלטות של הבוס, ואז הוא יעזור לו. זה תמיד המצב. כל הפקידים הקיימים תופסים את מקומם של הממונים עליהם לשעבר, למעט הרמה ההתחלתית. אבל במקרה הזה, תחרות לא באה בחשבון. איסקין אחד מחליט הכל לאורך כל השרשרת בעצמו, הוא לא יכול לסתור את עצמו.

יתר על כך. בשיטת הממשל שלנו, ישנם בתי משפט, אשר נתנו להם סמכות לבטל כל עסקאות שלנו ולבצע את שלהם, ללא קשר לדעתנו לגביהם. (הכנסת רוצח לכלא היא גם עסקה המחויב לכללים. השופט כאן הוא פקיד שמאשר או מבטל עסקה שמגיעה אליו כפי שנקבע מהקופסה השחורה.) אם האידיוט שלנו טוב, אז הוא טוב יותר מפקידים, כי הפקדנו עליו אישור או ביטול עסקאות עבורם (עבורנו). אז הוא יותר טוב מהשופטים. אחרת, מסתבר שהחלטות האיסקין יכולות להיות ערעור וביטול על ידי אנשים. ואם אנשים יקבלו את זה, אז הם יודו שה-AI גרוע יותר מאנשים. ואז על סמך מה הוא מחליף פקידים?

סיכום. גם איסקין לא יישפט. שוב. אם אתם בני האדם כתבתם את האלגוריתם הטוב ביותר שלכם, זיהיתם אותו כל כך טוב שנתתם לו כוח על עצמכם, אז אינכם יכולים לכתוב אלגוריתם אפילו טוב יותר כך שישפוט את ההחלטות של הראשון. אתה תשים את האלגוריתם הטוב ביותר שלך הן כמנהל והן כשופט. ליתר דיוק, השופטים פשוט ייעלמו. תצטרך לתת ל-AI הזה כוח מלא עליך.

אגב, גם הקופסה השחורה המקורית, ממנה מגיעים הנתונים הראשוניים לשליטה ל-ISK, ניתנת לדיגיטל. ואפילו חייב להיות דיגיטלי. התקציב המאוחד צריך להתאים בצורה הטובה ביותר. והוא גם עושה את זה.

עוד רגע. או אולי לשים אדם על האדם שישלוט בהחלטותיו כדי שהטעויות שיכולות להתרחש עקב חוסר אנושיותו, למשל, לא יקרו? - אז ישמרו כל הפקידים על עמדותיהם ועל כוחם. כמו כן, תינתן להם הזכות לבטל עסקאות שאושרו על ידי ה-ISK או לאשר עסקאות שבוטלו. אבוי, זה לא נראה אמיתי. איסקין יספק תדפיס של הנמקה מאחורי החלטתו. ואדם לא יוכל להפריך את ההיגיון הפורמלי ברגשותיו או בתחומי העניין שלו. גם במקרה זה, אם יצורף פקיד חי לכל ביטוי של מעשה (למעשה בודד), לא יוכלו להתנגד לו.

סליחה על הבלבול, יש הרבה מחשבות, ואורך הטקסט הולך וגדל באופן בלתי הפיך.

כאשר ה-ISK יופעל, תתרחש קריסה מוחלטת. לא, אני מבין שבהתחלה מסיעים אותו במצב מבחן. אבל זה יהיה חילול השם, כי אז יהיה צורך לחקות את החברה כולה, על כל הקשרים שלה בכללותה, לא מודל פשוט, אבל גורנים דיגיטליים לא יכולים לעשות זאת.

לאחר מכן הוא יושק במצב מוגבל, בטריטוריית Perm המותנית. באגים, איתור באגים, מהדורה חדשה והפקה?

אבל במוקדם או במאוחר, הסרט האדום ייחתך ואנשים יוכלו לשלוט במכונית במלוא העוצמה (עם יד על המתג).

ואתה יודע מה הולך לקרות? איסקין תסיים את כל העסקאות כליל. ההיגיון של "אם-אז" יתנגש במיליוני נורמות רגולטוריות בחקיקה הנוכחית, הסותרות זו את זו עשרות אלפי פעמים. פיניטה. הרכבות שלנו יעצרו, התשלום על פחית סאורי בסופר לא יעבוד. כולם יואשמו מיד בהמון עבירות ופשעים שעלולים להישלח לרשויות, אבל כל האנשים ברשויות יהיו נתונים לפיטורים ולמשפט לאלתר. פסיקת בית המשפט תוציא את התביעה לאלתר. דייט גדול, הכל כתוב עליך. אוקיי, אלו הדברים הקטנים.אבל גם את המשכורת שלך לא יוכלו להעביר, כי המשרד חייב מיסים, והעגלה נקנס אותך.

מגזים? לא. ההשקה הראשונה (עם יד על המתג) תהיה מבוקרת, מבחן שני, מבחן עשרים ושתיים… ויום אחד הוא יופעל במלואו, כאילו עבר את כל מחזור המבחנים. ואז… ואנחנו נפטר את הפקידים, מתנדבים יצילו את המצב.

האם אפשר להימנע מהשלכות עצובות שכאלה? - כמובן, אתה יכול לנסות. כדי לעשות זאת, יש לעשות מספר דברים. להשמיד 99% מהחקיקה, למחזר את 1% הנותרים מבלי לשפוך את התינוק עם מים. (דברים כאלה נעשים בדרך כלל לאחר מהפכה מן המניין עם מלחמת אזרחים מן המניין. איך עושים זאת בזמן שלום - אין לי מושג.) בנוסף, צריך לעבד מחדש את המוסר. מבחינת גניבת חבילת נייר מהמשרד (או בגידה באשתו), זה מקובל לחלוטין (משתקף בחוק), או שזה כרוך לחלוטין בהגבלת זמן. המוסר הזה חייב להתחדש במוחות החברה. אחרת, הוא יתחיל לחתוך את הכבלים האופטיים, וזה זול, פשוט ויעיל נגד AI. אפשרות נוספת היא לזרוק את הסקין הזה לבן זוג סביר, לתת לו לחתוך את הידיים שלו. וכמובן, המעמדות הגבוהים לא צריכים להפוך לבלתי נוחים. אם הם לא מסוגלים, אז הם ישתמשו בזה כהזדמנות אחרונה.

אני לא מנסה לשכנע אותך לקרוס מחשבים. לא נלך לשום מקום מהאיסקין. הוא יעקוף אותנו, נצטרך לעסוק בו. בואו ננסה להבין עם מה (עם מי) עלינו להיכנס לקרב עם גורלנו.