קבינט האימים

עליית המכונות ותפיסת הכוח על ידי בינה מלאכותית. עולם של פיקוח מוחלט ושליטה חברתית. מלחמה גרעינית וניוון הציוויליזציה. הרבה חזיונות אפלים של העתיד, שצוירו לפני שנים רבות, היו צריכים לקרות היום. ובינתיים אנחנו מסתכלים אחורה ונראה שהם לא היו שם. האם אתה בטוח?

יש רפרטואר די סטריאוטיפי של פופולרי נבואות דיסטופיות (על החזון השחור של העתיד). בנוסף לנפוצים ביותר הקשורים להרס הסביבה הטבעית והמשאבים, הדעה הרווחת היא שהטכנולוגיות העדכניות ביותר פוגעות בתקשורת הבין אישית, במערכות יחסים ובחברה.

מרחב וירטואלי יחליף באופן מטעה השתתפות אמיתית בעולם. השקפות דיסטופיות אחרות רואות בהתפתחות הטכנולוגית דרך להגברת אי השוויון החברתי, ריכוז הכוח והעושר בידי קבוצות קטנות. הדרישות הגבוהות של הטכנולוגיה המודרנית מרכזות ידע ומיומנויות במעגלים צרים של אנשים מיוחסים, מגבירות את המעקב אחר אנשים והורסות את הפרטיות.

לדברי עתידנים רבים, פרודוקטיביות גבוהה יותר ובחירה גלויה יותר יכולים לפגוע באיכות חיי האדם על ידי גרימת מתח, סיכון מקומות עבודה והפיכתנו ליותר ויותר חומרניים לגבי העולם.

אחד ה"דיסטופיים" הטכנולוגיים המפורסמים, ג'יימס גלייק, נותן דוגמה טריוויאלית לכאורה לשלט רחוק לטלוויזיה כהמצאה קלאסית שאינה פותרת ולו בעיה משמעותית אחת, המולידה הרבה חדשים. גלייק, מצטט היסטוריון טכני אדוארד טנר, כותב שהיכולת והקלות של החלפת ערוצים באמצעות השלט משמשת בעיקר להסיח את דעתו של הצופה יותר ויותר.

במקום שביעות רצון, אנשים יותר ויותר לא מרוצים מהערוצים שהם צופים בהם. במקום סיפוק צרכים, יש תחושה של אכזבה אינסופית.

האם מכוניות יחזיקו אותנו בהזמנות?

האם נוכל לשלוט בדבר הזה שהוא בלתי נמנע וכנראה שיגיע בקרוב? על בינה מלאכותית? אם זה יהיה המקרה, כפי שמצהירים הרבה חזיונות דיסטופיים, אז לא. (1).

קשה לשלוט במשהו שהוא הרבה פעמים חזק מאיתנו. עם עלייה במספר המשימות. לפני XNUMX שנה, אף אחד לא היה מאמין שהוא יכול לקרוא רגשות בקול של אדם ולפנים בצורה הרבה יותר מדויקת ממה שאנחנו יכולים לעשות זאת בעצמנו. בינתיים, האלגוריתמים המאומנים כיום כבר מסוגלים לעשות זאת, לנתח הבעות פנים, גוון וצורת דיבור.

מחשבים מציירים תמונות, מחברים מוזיקה, ואחד מהם אף זכה בתחרות שירה ביפן. הם מכים אנשים בשחמט כבר הרבה זמן, ולמדו את המשחק מאפס. אותו דבר חל על המשחק המורכב הרבה יותר של Go.

הוא מציית לחוקים של האצה מהירה מתמיד. מה שה-AI השיגה - בעזרת בני אדם - בעשורים האחרונים יוכפל בשנים הקרובות, אולי רק חודשים, ואז זה ייקח רק שבועות, ימים, שניות...

כפי שהתברר לאחרונה, האלגוריתמים המשמשים בסמארטפונים או בשדות תעופה לניתוח תמונות ממצלמות בכל מקום יכולים לא רק לזהות מישהו במסגרות שונות, אלא גם לקבוע תכונות פסיכולוגיות אינטימיות בלבד. להגיד שזהו סיכון פרטיות עצום זה כמו לא להגיד כלום. לא מדובר במעקב פשוט, בצפייה בכל צעד, אלא במידע שעולה כתוצאה מעצם הופעתו של אדם, על רצונותיו הנסתרים והעדפותיו האישיות. 

אלגוריתמים יכולים ללמוד את זה מהר יחסית על ידי ניתוח של מאות אלפי מקרים, וזה הרבה יותר ממה שאפילו האדם הנבון ביותר יכול לראות בחיים. חמושים בניסיון רב שכזה, הם מסוגלים לסרוק אדם בצורה מדויקת יותר אפילו מהפסיכולוג, מנתח שפת הגוף והמחוות המנוסה ביותר.

אז הדיסטופיה המצמררת האמיתית היא לא שמחשבים משחקים שחמט או יוצאים נגדנו, אלא שהם יכולים לראות את הנשמה שלנו עמוק יותר מכל אחד מלבדנו, מלאי איסורים וחסימות בזיהוי נטיות כאלה או אחרות.

אילון מאסק מאמין שכאשר מערכות בינה מלאכותית מתחילות ללמוד ולהגיב בקנה מידה הולך וגובר, "אינטליגנציה" עשויה להתפתח איפשהו עמוק בשכבות אינטרנט, בלתי מורגש עבורנו.

לפי מחקר אמריקאי שפורסם ב-2016, ב-45 השנים הבאות, לבינה המלאכותית יש סיכוי של 50 אחוז לעלות על בני אדם בכל המשימות. חזאים אומרים כי כן, AI תפתור את בעיית הסרטן, תשפר ותזרז את הכלכלה, תספק בידור, תשפר את איכות החיים ומשך החיים, תחנך אותנו כך שלא נוכל לחיות בלעדיה, אבל ייתכן שיום אחד, בלי שנאה, רק על בסיס חישוב לוגי, היא פשוט מסירה אותנו. אולי זה לא יעבוד פיזית, כי בכל מערכת כדאי לשמור, לאחסן ולאחסן משאבים ש"עשויים להיות שימושיים מתישהו". כן, זה המשאב שאנחנו יכולים להיות עבור AI. כוח אדם מוגן?

אופטימיסטים מתנחמים בעובדה שתמיד יש הזדמנות להוציא את התקע מהשקע. עם זאת, הכל לא כל כך פשוט. כבר עכשיו, חיי אדם הפכו כל כך תלויים במחשבים שצעד רדיקלי נגדם יהיה אסון עבורנו.

אחרי הכל, אנחנו יוצרים יותר ויותר מערכות קבלת החלטות מבוססות בינה מלאכותית, נותנות להם את הזכות להטיס מטוסים, לקבוע ריביות, להפעיל תחנות כוח – אנחנו יודעים שאלגוריתמים יעשו את זה הרבה יותר טוב מאיתנו. יחד עם זאת, איננו מבינים עד הסוף כיצד מתקבלות ההחלטות הדיגיטליות הללו.

יש חשש שמערכות פיקוד סופר אינטליגנטיות כמו "הפחתת עומס" עשויות להביא אותם למסקנה שהדרך היעילה היחידה לבצע את העבודה היא... צמצום האוכלוסייה בשליש או אפילו חצי.

כן, כדאי לתת למכונה את ההוראה הכי חשובה כמו "קודם כל, הצילו חיי אדם!". עם זאת, מי יודע אם אז ההיגיון הדיגיטלי יוביל לכליאת האנושות או מתחת לאסם, שם אנחנו אולי בטוחים, אבל בהחלט לא חופשיים.

פשעי סייבר כשירות

בעבר, דיסטופיות ודימויים של העולם הפוסט-אפוקליפטי בספרות ובקולנוע התרחשו בדרך כלל בעידן הפוסט-גרעיני. כיום, נראה כי השמדה גרעינית אינה הכרחית לאסון ולהרס של העולם כפי שאנו מכירים אותו, אם כי לא כפי שאנו מדמיינים אותו. , אין זה סביר להשמיד את העולם כמו ב"שליחות קטלנית", שם זה היה משולב עם השמדה גרעינית. אם כן, היא לא תהיה אינטליגנציה על, אלא כוח פרימיטיבי. אחרי הכל, אפילו האנושות עדיין לא הבינה את התרחיש העולמי של סכסוך גרעיני הרסני.

אפוקליפסת מכונה אמיתית יכולה להיות הרבה פחות מרשימה.

לוחמת סייבר, התקפות וירוסים, פריצת מערכות ותוכנות כופר, תוכנות כופר (2) משתקות והורסות את העולם שלנו ביעילות לא פחות מפצצות. אם קנה המידה שלהם יתרחב, אנחנו עלולים להיכנס לשלב של מלחמה כוללת, שבה נהפוך לקורבנות ולבני ערובה של מכונות, למרות שהם לא נדרשים לפעול באופן אוטונומי, וייתכן שאנשים עדיין יעמדו מאחורי הכל.

בקיץ שעבר, הסוכנות האמריקאית לאבטחת סייבר ותשתיות (CISA) כינתה את התקפות תוכנת כופר כ"איום אבטחת הסייבר הגלוי ביותר".

CISA טוענת שפעילויות רבות שבהן פושע סייבר מיירט ומצפין נתונים של אדם או ארגון ולאחר מכן סוחט כופר לעולם אינן מדווחות מכיוון שהקורבן משלם לפושעי הסייבר ואינו מוכן לפרסם בעיות במערכות הלא מאובטחות שלהם. ברמת המיקרו, פושעי סייבר מכוונים לרוב לאנשים מבוגרים שמתקשים להבחין בין תוכן ישר לתוכן לא ישר באינטרנט. הם עושים זאת עם תוכנה זדונית המוטבעת בקובץ מצורף לדוא"ל או חלון קופץ באתר נגוע. במקביל, ההתקפות על תאגידים גדולים, בתי חולים, סוכנויות ממשלתיות וממשלות נמצאות במגמת עלייה.

האחרונים היו ממוקדים במיוחד בגלל הנתונים הרגישים שברשותם והיכולת לשלם כופר גבוה.

מידע מסוים, כגון מידע בריאותי, הוא בעל ערך רב יותר לבעלים מאחרים ויכול להכניס לפושעים יותר כסף. גנבים יכולים ליירט או להסגר בלוקים גדולים של נתונים קליניים חשובים לטיפול בחולה, כגון תוצאות בדיקות או מידע על תרופות. כשהחיים על כף המאזניים, אין מקום למשא ומתן בבית החולים. אחד מבתי החולים האמריקאים נסגר לצמיתות בנובמבר אשתקד לאחר מתקפת הטרור באוגוסט.

זה כנראה רק יחמיר עם הזמן. בשנת 2017, המשרד לביטחון המולדת של ארה"ב הודיע ​​כי התקפות סייבר עשויות לכוון לתשתיות קריטיות כמו תשתיות מים. והכלים הדרושים לביצוע פעולות כאלה זמינים יותר ויותר למפעילים קטנים יותר, להם הם מוכרים חבילות של תוכנות כופר כמו תוכנות Cerber ו-Petya וגובים דמי כופר לאחר התקפות מוצלחות. מבוסס על פשעי סייבר כשירות.

הפרעה מסוכנת בגנום

אחד הנושאים הפופולריים של הדיסטופיה הוא גנטיקה, מניפולציה של DNA והתרבות של אנשים – בנוסף, "מתוכנתים" בצורה נכונה (רשויות, תאגידים, צבא).

ההתגלמות המודרנית של חרדות אלו היא שיטת פופוליזציה עריכת גנים של CRISPR (3). המנגנונים שהוא מכיל מדאיגים בעיקר. לאלץ פונקציות רצויות בדורות הבאים והפוטנציאל שלהם התפשט לכלל האוכלוסייה. אחד מממציא הטכניקה הזו, ג'ניפר דאודנה, אפילו קרא לאחרונה להקפאת טכניקות עריכה מסוג "קו הנבט" בגלל השלכות שעלולות להיות הרות אסון.

נזכיר שלפני כמה חודשים, מדען סיני הוא ג'יאנקוי זכה לביקורת נרחבת על עריכת הגנים של עוברי אדם על מנת לחסן אותם נגד נגיף האיידס. הסיבה הייתה שהשינויים שעשה יכלו לעבור מדור לדור עם השלכות בלתי צפויות.

מדאיגים במיוחד את מה שנקרא d (שכתוב גנים, כונן גנים), כלומר. מנגנון מהונדס גנטית המקודד מערכת עריכה ב-DNA של אדם נתון הגנום CRISPR / CAS9 עם הגדרתו לערוך את הגרסה הזו של הגן הלא רצוי. בשל כך, הצאצאים מחליפים אוטומטית (ללא השתתפות של גנטיקאים) את וריאנט הגן הלא רצוי בגרסה הרצויה.

עם זאת, וריאנט גן לא רצוי יכול להתקבל על ידי צאצאים "כמתנה" מהורה אחר ללא שינוי. אז דחף גנטי בואו נשבור חוקי התורשה המנדליםשאומרים שמחצית מהגנים הדומיננטיים הולכים לצאצאים מהורה אחד. בקיצור, זה יוביל בסופו של דבר להתפשטות וריאנט הגן המדובר לכלל האוכלוסייה.

ביולוגית באוניברסיטת סטנפורד כריסטינה סמולקה, עוד בפאנל בנושא הנדסה גנטית ב-2016, הזהיר כי למנגנון זה עלולות להיות השלכות מזיקות ובמקרים קיצוניים גם מחרידות. הדחף הגנטי מסוגל לעבור מוטציה ככל שהוא עובר בדורות ולגרום להפרעות גנטיות כמו המופיליה או המופיליה.

כפי שקראנו במאמר שפורסם ב-Nature Reviews על ידי חוקרים מאוניברסיטת קליפורניה, ריברסייד, גם אם כונן פועל כמתוכנן באוכלוסיה אחת של אורגניזם, אותה תכונה תורשתית עלולה להזיק אם היא מוכנסת איכשהו לאוכלוסיה אחרת. . אותו מראה.

קיימת גם סכנה שמדענים יוצרים כונני גנים מאחורי דלתיים סגורות וללא ביקורת עמיתים. אם מישהו מכניס בכוונה או בלי כוונה דחף גנטי מזיק לגנום האנושי, כמו כזה שהורס את העמידות שלנו לשפעת, זה יכול אפילו להיות קץ למין ההומו סאפיינס...

קפיטליזם מעקב

גרסה של דיסטופיה שכותבי מדע בדיוני לשעבר בקושי יכלו לדמיין היא המציאות של האינטרנט, ובמיוחד המדיה החברתית, על כל ההשלכות המתוארות בהרחבה שהורסות את הפרטיות, מערכות היחסים והשלמות הפסיכולוגית של אנשים.

העולם הזה מצויר רק בהופעות אמנות חדשות יותר, כמו מה שיכולנו לראות בסדרת המראה השחורה בפרק "הצלילה" של 2016 (4). שושנה זובוף, כלכלן מאוניברסיטת הרווארד, מכנה את המציאות הזו תלויה לחלוטין באישור עצמי חברתי ו"מקופחת" לחלוטין. קפיטליזם מעקב (), ובמקביל עבודת הכתר של גוגל ופייסבוק.

4. סצנה מתוך "מראה שחורה" - פרק "צלילה"

לפי זובוף, גוגל היא הממציאה הראשונה. בנוסף, היא מרחיבה כל העת את פעילות המעקב, למשל באמצעות פרויקטים תמימים לכאורה של "עיר חכמה". דוגמה לכך היא פרויקט השכונה החדשנית ביותר בעולם של Sidewalk Labs, חברת בת של גוגל. מֵזַח בטורונטו.

גוגל מתכננת לאסוף את כל הנתונים הקטנים ביותר על חיי תושבי קו החוף, תנועתם ואף נשימתם בעזרת חיישני ניטור הנמצאים בכל מקום.

קשה גם לבחור דיסטופיה אינטרנטית שלא באה בחשבון בפייסבוק. קפיטליזם מעקב אולי הומצא על ידי גוגל, אבל פייסבוק היא שלקחה אותו לרמה חדשה לגמרי. זה נעשה באמצעות מנגנונים ויראליים חברתיים ורגשיים ורדיפה חסרת רחמים גם של מי שאינם משתמשים בפלטפורמת צוקרברג.

AI מוגן, שקוע במציאות מדומה, חי עם UBI

לדברי עתידנים רבים, עתיד העולם והטכנולוגיה מוגדרים על ידי חמישה קיצורים - AI, AR, VR, BC ו-UBI.

קוראי "MT" כנראה יודעים היטב מה הם וממה מורכבים שלושת הראשונים. המוכר מתגלה גם כרביעי, "BC", כשמבינים במה מדובר. והחמישי? UBD הוא קיצור של המושג, כלומר "הכנסה בסיסית אוניברסלית » (5). זוהי תועלת ציבורית, הנחשבת מעת לעת, שתינתן לכל אדם המשתחרר מעבודה עם התפתחות טכנולוגיות אחרות, במיוחד AI.

5. הכנסה בסיסית אוניברסלית - UBI

שוויץ אף העלתה את הרעיון למשאל עם בשנה שעברה, אך אזרחיה דחו אותו מחשש שהכנסת הכנסה מובטחת תוביל למבול של מהגרים. UBI טומן בחובו גם מספר סכנות נוספות, כולל הסיכון להנצחת אי השוויון החברתי הקיים.

לכל אחת מהמהפכות הטכנולוגיות שמאחורי ראשי התיבות (ראו גם:) – אם היא מתפשטת ומתפתחת בכיוון הצפוי – יש השלכות עצומות על האנושות ועל עולמנו, כולל כמובן מנה עצומה של דיסטופיה. לדוגמה, מאמינים שהוא יכול להחליף מחזורי בחירות של ארבע שנים ולהוביל למשאלי עם על אינספור נושאים.

מציאות מדומה, בתורה, מסוגלת "להדיר" חלק מהאנושות מהעולם האמיתי. כמו שקרה, למשל, עם ג'אנג ג'י-סון הקוריאנית, שלאחר מותה של בתה ב-2016 ממחלה סופנית, פגשה מאז את האווטאר שלה ב-VR. המרחב הוירטואלי גם יוצר סוגים חדשים של בעיות, או בעצם מעביר את כל הבעיות הידועות הישנות לעולם ה"חדש", או אפילו לעולמות רבים אחרים. במידה מסוימת, אנחנו כבר יכולים לראות את זה ברשתות החברתיות, שם קורה שפחות מדי לייקים לפוסטים מובילים לדיכאון והתאבדות.

סיפורים נבואיים פחות או יותר

אחרי הכל, ההיסטוריה של יצירת חזונות דיסטופיים מלמדת גם זהירות בניסוח התחזיות.

6. שער של "איים ברשת"

צולמה בשנה שעברה יצירת המדע הבדיוני המפורסמת של רידלי סקוטהאנדרואיד האנטר» מאז 1982. אפשר לדון בהתגשמות או לא של אלמנטים ספציפיים רבים, אבל אין עוררין על כך שהנבואה החשובה ביותר בנוגע לקיומם בתקופתנו של אנדרואידים אינטליגנטים, דמויי אדם, עדיפים בהרבה על בני אדם, עדיין לא הפכה למציאות.

נהיה מוכנים לסבול עוד הרבה להיטים נבואיים".נוירומנסרים»כלומר רומנים וויליאם גיבסון מאז 1984, מי שהפך את המושג "מרחב הווירטואלי" לפופולרי.

אלא שבאותו עשור הופיע ספר קצת פחות מוכר (בארצנו, כמעט לגמרי, כי לא תורגם לפולנית), שחזה את הזמן של היום בצורה מדויקת הרבה יותר. אני מדבר על רומנטיקהאיים ברשת"(6) ברוס סטרלינג מאז 1988, מתרחש ב-2023. הוא מציג עולם שקוע במשהו דומה לאינטרנט, המכונה "רשת". היא נשלטת על ידי תאגידים בינלאומיים גדולים. "איים ברשת" יוצאי דופן בכך שהם מספקים שליטה, מעקב ומונופול על האינטרנט כביכול בחינם.

מעניין גם לחזות פעולות צבאיות המתבצעות באמצעות כלי טיס בלתי מאוישים (מל"טים) נגד פיראטים/מחבלים מקוונים. מפעילים במרחק אלפי קילומטרים עם מחשבים שולחניים מאובטחים - איך נדע זאת? הספר אינו עוסק בעימות האינסופי עם הטרור האסלאמי, אלא במאבק בכוחות המתנגדים לגלובליזציה. עולם האיים ברשת מלא גם במכשירי צריכה שנראים הרבה כמו שעונים חכמים ונעלי ספורט חכמות.

יש ספר נוסף משנות ה-80, שלמרות שחלק מהאירועים נראים פנטסטיים יותר, עושה עבודה טובה בהמחשת הפחדים הדיסטופיים המודרניים שלנו. זה"תוכנת Georadar", היסטוריה רודי רוקרנקבע בשנת 2020. העולם, מצב החברה והקונפליקטים בה נראים דומים להפליא למה שאנו מתמודדים איתו היום. ישנם גם רובוטים הידועים כ-boppers שצברו מודעות עצמית ונמלטו לערים על הירח. האלמנט הזה עדיין לא התממש, אבל מרד המכונות הופך לפזמון מתמיד של תחזיות שחורות.

גם החזיונות של זמננו בספרים מדויקים להפליא במובנים רבים. אוקטביה באטלר, במיוחד במשלי הזורע» (1993). הפעולה מתחילה בשנת 2024 בלוס אנג'לס ומתרחשת בקליפורניה, הרוסה משיטפונות, סופות ובצורת שנגרמו משינויי אקלים. משפחות ממעמד הביניים והעובדים נפגשות בקהילות סגורות כשהן מנסות לברוח מהעולם החיצון עם סמים ממכרים וערכות מציאות מדומה. דתות ותיאוריות קונספירציה חדשות צצות. שיירת הפליטים יוצאת צפונה כדי להימנע מקריסה אקולוגית וחברתית. נשיא עולה לשלטון שמשתמש בסיסמת הקמפיין "Make America Great Again" (זו הסיסמה של דונלד טראמפ) ...

ספרו השני של באטלר, "משל לכשרונותמספר כיצד חברי כת דתית חדשה עוזבים את כדור הארץ בחללית כדי ליישב את אלפא קנטאורי.

***

מה הלקח של סקר נרחב זה של תחזיות וחזונות שנעשו לפני כמה עשורים בנוגע לחיי היומיום שלנו?

כנראה, העובדה היא שדיסטופיות קורות לעתים קרובות, אך לרוב רק חלקית.