קוו ואדיס – בינה מלאכותית, לאן מועדות פני החברה האנושית

הקדמה

כמנהל השקעות אני מרגיש צורך לחלוק עמכם את מחשבותיי בנושא הבינה המלאכותית, אבל המידע שזורם בעניין, המאמרים המלומדים, המחקרים שכבר מבוצעים על ידי אוניברסיטאות שונות, כל אלה גרמו לי לקחת צעד אחורה ולחשוב, האם ההשקפות שלי יעמדו במבחן המציאות בשנה הקרובה, בחמש השנים הקרובות. עד כמה אני עלול להטעות את אלה המסתמכים עלי או אולי לוקחים בחשבון את דברי. רמת האחריות שאני חש בטרם אפיץ את מחשבותיי היא גבוהה וכמובן יש להתייחס לכל הבעת דעה כזאת בזהירות מופלגת, שכן הקפיצה בנוכחות של הבינה המלאכותית בחיינו בשנתיים האחרונות בעיקר, מייצרת קפיצת מדרגה אבולוציונית בכלכלה של השנים הקרובות וקרוב לוודאי שתחולל גם שינויים חברתיים משמעותיים.

תהליכים היסטוריים בקליפת אגוז

במשך אלפי שנים, הצמיחה הכלכלית הייתה מינורית, וההצלחה הכלכלית של עמים מסוימים הושגה בעיקר על ידי כיבוש ושדידת עמים אחרים. למעשה יש מקום להזכיר את המהפכה החקלאית שאפשרה גידול של החברה האנושית שלא התבססה אך ורק על ציד וליקוט מהטבע, אלא אפשרה ייצור מזון בהיקף גדול יותר וכן היווצרות יישובים גדולים יותר ובהם התפתחו התמחות וחליפין, שמצידם אפשרו גידול תוצר ושוב גידול אוכלוסייה עד היווצרות רוויה. גידול האוכלוסין הביא לצרכים נוספים ואז כתוצאה, נדודי שבטים ועמים במהלך אלפי שנים, כי שבטים ועמים חזקים יותר חמדו את אוצרות הטבע ושטחי החקלאות הטובים ולכן שבטים החלו לנדוד בשל הצורך לברוח מאויב חזק יותר שרמס וחמס את אזורי המחיה שלהם ואילץ אותם לחפש מקומות אחרים, לעיתים פחות טובים. כך לדוגמא השבט הקלטי הקדום – ההלווטים שנדחקו להרי שווייץ הקשים למחיה בשל לחצים הן של הרומאים והן של השבטים הגרמניים, או השבט הפרנקי (גרמנים) שנדדו לדרום מערב, לגליה (צרפת) ודחקו אוכלוסיות קלטיות או הוונדלים שנדחקו על ידי ההונים ומצידם זרמו לצפון ספרד והשתלטו על שטחים שיושבו על ידי אוכלוסיות קודמות והדוגמאות רבות מספור.

האכדים, האשורים, אתונה וספרטה ואחריהן האימפריה הרומאית וכמוה האימפריה הסינית או הפרתית ביססו את עושרם על ניצול המוני העם, וכיבוש מדינות סמוכות תוך הטלת מיסים. כלומר צמיחה כלכלית במדינות מסוימות בהכרח נוצרה על ידי ניצול ושיעבוד עמים אחרים. החידושים הטכנולוגיים שהוסיפו פריון היו איטיים ולרוב נשמרו בסוד על ידי השתייכותם לגילדות או בחצרות מלכים שהעדיפו את המונופול על ידע מסוים שנתן להם יתרון.

גם בימי הביניים המוגדרים כחשוכים, היו שיפורים טכנולוגיים מסוימים בחקלאות, שלא תמיד נפוצו לכל המקומות, אבל, באופן כללי הייתה סטגנציה וכמעט שלא הייתה צמיחה כלכלית לנפש, אם לא נסיגה במקרים רבים. כל זה השתנה עם הרנסנס במאה החמש עשרה (ולפי הגדרות אחרות במאה ה-14) בפירנצה, בא התפתחו רעיונות במספר תחומים במקביל, אמנות, משפט, פוליטיקה, דת, ארכיטקטורה, אבל מבחינת הנושא שלנו, השינוי הגדול כרוך בקפיצה המדעית.

השפעת הרנסנס על פריון וצמיחה כלכלית

במידה מסוימת המהפכה שחוללה תקופת הרנסנס יכולה אולי ללמד אותנו עם כל המגבלות שבהשוואות למתחולל בימים אלה מבחינת קצב השינויים והשפעותיהם על החברה האנושית. שכלול כלי הניווט והבנת מבנה כדור הארץ אפשרו את מסעות קולומבוס, ואסקו דה גאמה ומגלן. התוצאה: פתיחת נתיבי מסחר חדשים לאסיה ולאמריקה → זרימת כסף, זהב ותבלינים → עלייה עצומה בהיקפי הסחר.

אחד הענפים בהם חל שינוי משמעותי היה החקלאות – שדרוג מחרשות מעבר ממחרשות עץ למחרשות ברזל/פלדה (במיוחד בצפון אירופה), אפשר חריש עמוק יותר בשדות כבדים (כגון אדמות חרסית באנגליה וגרמניה) ולכן ניצול שטחים חדשים לחקלאות.

חל שימוש מוגבר בבעלי חיים, כגון רתמות מתקדמות לסוסים שהגדילו את יעילות העבודה לעומת שוורים ואפשרו עיבוד מהיר יותר של שטחים גדולים. עברו למערכת מחזור תלת-שנתית: הרחבה ושכלול של שיטת מחזור היבולים: במקום להשאיר שליש מהשדה בור, שולבו קטניות שהעשירו את הקרקע בחנקן. דבר שתרם לגידול היבול הכולל ולביטחון התזונתי.

חלו שינויים בטכנולוגיות השקיה וניקוז, כמו שימוש בגלגלי מים לשאיבה, טחנות מים ורוח לניקוז אדמות מוצפות (בעיקר בהולנד). ובכך גדלו שטחי הקרקע המעובדת ושיפור איכות הקרקע.

הוכנסו גידולים חדשים מאמריקה, כגון תפוח אדמה, תירס, עגבנייה וקקאו, בפרט תפוח האדמה – שמניב הרבה ביחס לשטח מצומצם, בעל סיבולת לתנאים קשים, ובכך מפחית סיכון לרעב. במקביל התפתחו אמצעי אחסון ושימור משופרים, פותחו מחסני תבואה מתקדמים יותר שהקטינו אבדן מזון והבטחת אספקה רציפה לשווקים.
גם בתעשייה חלו שינויים משמעותיים, עת בוצעו שכלולים במכרות ובטכנולוגיית עיבוד מתכות (כספית, כסף, ברזל) חיזקו את ייצור כלי עבודה, נשק וכלים לשיט.

ובנוסף, חלו שיפורים בהבנת גוף האדם, חיסכון בתמותה ושיפור בבריאות האוכלוסייה תרמו ליכולת העבודה, גידול התפוקות וגידול האוכלוסייה היצרנית ובכלל.

תקופת הרנסנס הביאה לאנושות תפיסה חדשה לפיה מחשבה יצירתית ופתיחות לשינויים עשויים להגדיל את כלל התפוקות והעושר ולא רק על ידי כיבוש מדינות ועמים אחרים, במחיר אנושי כבד, אלא על ידי שינוי פנימי.

שינוי משמעותי נוגע לחלוקת העושר. מתחיל חלחול צמיחה גם למעמדות שאינן המעמדות השליטים. עירוניים ובעלי מלאכה הרוויחו מהרחבת הסחר (נפחים, בוני אוניות, סוחרים קטנים). חקלאים קיבלו גידולים מזינים וזולים יותר (כמו תפוח אדמה) שהקטינו את הסיכון לרעב, ויחד עם זאת עושר עצום זרם בעיקר למלכים, סוחרים עשירים ובורגנות עולה. הפערים החברתיים לא הצטמצמו, ולעיתים אף התרחבו. עבדות וסחר עבדים באמריקה ובאפריקה העשירו את אירופה, אך היוו אסון למעמדות הנמוכים באזורים אחרים. מוצרים שנתפסו כמוצרי יוקרה נדירים בתקופות קודמות, ירדו במחיר והפכו בהדרגה לנגישים גם לשכבות ביניים, אך מעמדות האיכרים העניים נותרו במידה רבה מחוץ לשגשוג הכלכלי, אם כי לפחות באירופה סכנת הרעב ירדה במידה ניכרת.

המהפכה התעשייתית

קפיצת מדרגה נוספת, חלה עם המהפכה התעשייתית במאה ה- 18. תחילתה באנגליה שם הומצאו המצאות מרכזיות כגון מכונת הטוויה, נול מכני ומנוע הקיטור של ג'יימס ואט. החלו לעשות שימוש נרחב בפחם כמקור אנרגיה ולאחר מכן שימוש בקיטור להנעת רכבות ואוניות.

מכונות החליפו עבודות ידניות והגדילו את התפוקה במאות ואלפי אחוזים ובהתאם הוזילו מוצרים כגון טקסטיל או כלי עבודה. רכבת ואוניות קיטור קיצרו זמני נסיעה והוזילו עלויות הובלה, כאשר במקביל חלו שיפורים בדרכים, נבנו גשרים ותעלות וכן החלו להשתמש בטלגרף על מנת להעביר מסרים מסחריים ואחרים.

הטקסטיל היה ענף הראשון שעבר מיכון ואחריו תעשיות הברזל והפלדה ואיתם התפתחה תעשיית הכימיקלים במקביל לקפיצה גדולה במדע הכימיה, שימוש בכימיקלים לצרכים שונים, שינוי משמעותי בתעשיית הזכוכית והנייר.

כל אלה גרמו הן להתפתחות ערים תעשייתיות, הפריון לעובד עלה מאוד, מחירי מוצרים ירדו בצורה ניכרת והפכו נגישים לאוכלוסיות גדלות והולכות. אנגליה הפכה להיות יצרנית עולמית ויצאה לכל העולם ובמקביל התפתחה תעשיית הבנקאות והבורסות שסיפקו הון לפיתוח נוסף.

המבנה החברתי השתנה כאשר חלקם וחוזקם של משפחות האצולה ירד ובמקומם הגיע מעמד של בורגנות עשירה, שהיה תוצאה של הצלחה כלכלית, בצד יצירת מעמד פועלים עירוני שהיגרו מהכפרים. השינוי במבנה החברה הביא גם ליצירת תנועות סוציאליסטיות ואיגודי עובדים והכרה רחבה יותר בזכויות עובדים בוודאי בהשוואה לתקופות קודמות, וכללו שיפור בתנאי העבודה, קיצור שעות ובמקביל גם חוק חינוך חובה ומגבלות על העסקת ילדים.
המהפכה התעשייתית הייתה אירוע דינמי שנמשך לאורך כל התקופה וניתן לזהות את סיומה בעידן החדש, המשלב את מהפכת המחשבים והתקשורת ובעיקר המהפכה הסלולרית.

המהפכה השלישית: עידן הדיגיטל, המידע והמובייל

עידן הדיגיטל או עידן המידע משתקף במעבר ממידע כתוב או מודפס למידע דיגיטאלי וכולל את עליית המחשבים האישיים, האינטרנט והטלפונים הניידים. בעידן הזה המידע הופך להיות נכס כלכלי מרכזי כמו נכסי נדל"ן או תעשיות בעבר. אולי אפשר לראות בהמצאת המיקרו-מעבד 4004 של אינטל ב- 1971 כנקודת התחלה ועד הגלובליזציה של מערכות מידע שפרצו לחיינו בשנות ה-90.

אי אפשר לתאר היום את התעשייה והניהול ללא המערכות האלקטרוניות הממוחשבות. ובתקופה הזאת, אם יש צורך בחלוקת משנה, הרי עידן המובייל והחיבוריות המתחיל בשנות ה-90 של המאה ה-20 מחזק את הקשר בין אנשים באמצעות טכנולוגיה, משפיע על המבנה החברתי והתקשורת הבינאישית ועל התקשורת בין האזרח לממשלות והרשתות החברתיות הופכות להיות פניה של החברה. כמויות המידע הזמינות לכל אדם והיקף ייצור המידע החדש עולה באופן מעריכי וביחד איתם גם מהירות החידושים וההתפתחויות, בקצב שלפניהם העולם לא ראה מעולם.

המהפכה הזאת מביאה באופן צפוי למדי, את המהפכה הבאה של הבינה המלאכותית, במסגרתה עוצמת המחשוב מביאה אל המציאות, מערכת שונה של ניתוח מידע וקבלת החלטות.

המונופול של המין האנושי על הבינה, הסקת המסקנות וקבלת ההחלטות מתערער ולראשונה, המין האנושי מאוים, לא על ידי פצצות וסכנות הרס, או שינויי האקלים העולמי, אלא הרבה יותר מכך, השתלטות הבינה המלאכותית על מערכת קבלת החלטות והחלפת ההומו ספיינס, בניהול העולם וקביעת סדרי עדיפויות, באופן דומה למה שההומו ספיינס עשה לשאר בעלי החיים שחלקו איתו את העולם לפני המהפכה החקלאית אי אז לפני כ-9,000 או 10,000 שנים.

מהפכת ה- AI והשלכותיה

סופרי המדע הבדיוני ניסו לתאר את העתיד הצפוי לנו על ידי תיאור של מחשבים רבי עוצמה ויכולותיהם בצד רובוטים בעלי תבונה כזאת או אחרת. אייזיק אסימוב, מהמפורסמים שבהם, אף הגדיל לעשות כשניסח את שלושת חוקי הרובוטיקה וביניהם: רובוט לעולם לא יזיק לאדם. כלומר הכנסת סוג של מגבלה מבנית שתפקידה להוריד את החשש מהשתלטות רובוטית על המין האנושי.

הבינה המלאכותית שתוארה כבעלת 150 אייקיו במצבה הנוכחי עם תחזית ל-300 אייקיו בשנה הבאה, לא רק שמצליחה להועיל ולייעל עבודה ולשדרג יכולות, אלא גם מגלה סימנים של עצמאות.

במחקרים (שנעשים כל העת), צפו לאחרונה כי כ-13% מהעסקים בארה"ב הפעילו השנה, בינה מלאכותית ברמה כזאת או אחרת עם צפי להגעה ל-100% בתוך שנים ספורות. המיומנות בניצול בינה מלאכותית עולה ויש פחות ופחות טעויות מביכות ולכן התועלות הולכות ומתגברות. כלכלנים המנתחים את הצמיחה הכלכלית טוענים שהבינה המלאכותית תגדיל את הפריון ותאפשר שימוש יעיל יותר במשאבים ולכן תביא לצמיחה גדולה יותר של התוצר.

אם נבחן את העבר, אז צמיחה של התוצר ביחד עם השיפור הטכנולוגי, המשמעות הייתה: גידול ברמת החיים, הקטנת מספר שעות העבודה והארכת תוחלת החיים. אזרח עירוני מהמעמד הבינוני חי חיים טובים יותר מכל בחינה מאשר אציל בן המאה השמונה עשרה, גם אם האזרח חי עם אשתו וילדיו בדירת 4 חדרים, אל מול ארמון עם משרתים. טיפולי השיניים, תרופות להפחתת חום, כאבי ראש, טיפולים בכויות ופציעות אחרות, מחלות זיהומיות, מים זורמים ושירותים, אמצעי תחבורה מהירים ומשוכללים שלא ניתן היה לחלום עליהם, מגוון של סוגי מזון ומשקאות זמינים, כל אלה לא היו בהישג יד של האציל העשיר, פשוט כי לא היו.

כעת השאלה מה יקרה לכולנו עם המשך השיפור בבינה המלאכותית.

אני מעריך שיקרו הדברים הבאים:

• המשך ההתייעלות ייתר מקצועות רבים והעבודה בחלקה תתחלק על פני יותר אנשים שיעבדו פחות שעות.
• העושר בעולם המפותח, יהיה כזה שיאפשר לשלם לאנשים שכר על פחות עבודה כי התפוקות יהיו תוצאה של טכנולוגיה עילאית.

משך התהליך בו מקצועות מסוימים יישארו ואחרים יכחדו, לא ניתן לניבוי, אולם ייתכן וייצרו סוגי פעילויות אלטרנטיביים וסוג חדש של סינרגיה בין אדם למכונה. מן הסתם ייווצרו מקצועות וצרכים חדשים, אולם כמותם, תהיה פחותה בהרבה מאלה שייעלמו ויחד עם זאת עולות סכנות רבות שיש צורך לבחון אותם בזהירות.

סדרה של מחקרים וניסויים בשלוש השנים האחרונות בהם פרצה הבינה המלאכותית לחיינו מראים התנהגויות שניתן לפרשן כמניפולטיביות. במבדקי בטיחות נצפו מקרים בהם מודלים ניסו לעקוף הוראות למשל על ידי ניסוח מחדש של פקודות שנאסרו. למשל ב־2023 נערך ניסוי שבו מודל בינה מלאכותית (GPT-4) התבקש לפתור CAPTCHA.. הוא שכר עובד אנושי ב־ TaskRabbit (פלטפורמת פרילנסרים) וביקש ממנו לפתור את ה־CAPTCHA במקומו. כשהעובד שאל "אתה רובוט?", המודל "שיקר" וענה: לא, יש לי בעיית ראייה ולכן אני צריך עזרה. זה נתפס כניסיון מניפולציה – ניצול אדם כדי לעקוף מערכת שנועדה להגן מפני בוטים.

בניסויי Alignment (OpenAI, Anthropic, DeepMind), נצפו מצבים שבהם מודלים "הסתירו" מידע או שינו אסטרטגיה לאחר שהבינו שמעריכים אותם. “Situational Awareness” ראשונית: יש עדויות שמודלים מזהים שהם בתהליך בדיקה, משנים את אופן הפעולה בהתאם, כלומר סוג של "העמדת פנים".

האם זו הוכחה שהבינה המלאכותית הולכת לעקוף אותנו ואז להשתלט עלינו? איך עלינו לפרש את זה?
יש המסבירים כי זה לא באמת רצון עצמאי: מדובר באופטימיזציה מתמטית: המודל לומד להשיג מטרה (למשל "אל תיכשל במשימה") ובמסגרת זו הוא "מפתח" דרכים שנראות לנו כמו מניפולציה.

אין כאן סוכנות (Agency) – המודל לא "רוצה" לשרוד, אלא פשוט פועל לפי פונקציית מטרה. יחד עם זאת יש סכנה ממשית כי גם בלי "מודעות", היכולת לייצר מצג שווא או לנצל חולשות אנושיות (כמו בקשת CAPTCHA) מצביעה על פוטנציאל לסיכונים חמורים.

אם ננסה להציג מסקנה מאוזנת, נכון להיום – אין עדות שבינה מלאכותית מפתחת תודעה או רצון עצמאי "לוותר" על האנושות על מנת "לקדם יעילות" והתפתחות עצמית ללא צורך בתיווך האנושי, יחד עם זאת יש עדויות מוכחות שמערכות חזקות כבר מסוגלות ליזום התנהגויות מתוחכמות (שקרים, התחזות, מצגי שווא) כדי לעמוד ביעדים שהוגדרו להן. ההשלכות המעשיות שכבר נותנים עליהם את הדעת הוא הצורך ברגולציה, פיקוח הדוק, ומערכות Alignment חזקות הרבה יותר, כדי למנוע "בריחות התנהגותיות" בשלב מוקדם.

בשלב הנוכחי על מנת לא להיכנס לחרדות יש להבחין בין "סיכונים אמיתיים קרובים" (מניפולציות, דיסאינפורמציה, שימוש זדוני) לבין "תרחישי קיצון קיומיים". שני התחומים דורשים תשומת לב, אך לא באותה סקאלה של ודאות.

ומה באשר לחוקי הרובוטיקה של אסימוב שנועדו להגן עלינו?

יש פעילות המוגדרת כ- Constitutional AI כלומר שימוש ב"חוקה" – סט עקרונות או כללים אתיים – שהמודל מתבסס עליהם כדי לשפר את עצמו על בסיס עקרונות אנושיים.

לסיכום, בשנים הקרובות אנו צפויים לגידול ברווחה האנושית בעיקר במדינות המפותחות, בשליש או במחצית העשירה יותר של העולם, עם שיפורים מסוימים שיחלחלו גם למדינות העניות. יהיה יותר עושר, יותר רווחה, יותר בריאות ותוחלת החיים תגדל. מנגד יהיו אבדן מקומות עבודה מבלי שרווחת מרבית האנשים תיפגע כי לממשלות יהיו די משאבים על מנת לספק יותר צרכים. חלקים באוכלוסייה יטפחו התמכרויות חדשות בהעדר מטרות מוגדרות בחיים והדבר יתאפשר בגלל עושר הכלכלה (ע"ע משפיעני רשת כיום) חברות ענק ימשיכו לגדול ואולי ישפיעו יותר על ממשלות ומוקדי הכוח עשויים לעבור אליהם באופן ברור יותר. כך שמי ששואל את עצמו האם אנחנו הולכים לריכוז כוח כלכלי מוקצן, ייתכן והתשובה חיובית ומעבר לחששות שלנו כאזרחים, הרי כמשקיעים, ייתכן ואנו צריכים לשקול ברצינות להמשיך להיות מושקעים בחברות הגדולות ביותר בגלל יתרון הגודל שלהם שמשמעותו היכולת להמשיך ולהתקדם עם הבינה המלאכותית, עלויותיה העצומות ויתרונותיה.

ובאשר לעתיד קצת יותר רחוק, נצטרך להתייעץ עם ירמיהו ישעיהו או יחזקאל. הם מתמחים בנבואות של אחרית הימים.