ד"ר יעל עדיני אפריל 2023
באתר זה מודגשת גישה מנגנונית - עלפיה מערכת הלמידה והתגובה שלנו מונעות על ידי מנגנונים מרכזיים של המוח. כאן אנחנו מאירים בעזרתה שאלות ומחשבות שעולות בנו בעקבות עלית כוחה והשפעתה של הבינה המלאכותית והאתגרים שהיא מציבה לנו.
22-05-23
שליטה ב AI יכולה לתת לבעליה כוח עצום. ממניפולציות תודעתיות עד השתלטות על משאבים ושיטחי קרקע.
מה יקרה כשתוכנות AI יתוכנתו להילחם זו בזו במטרה לשבש זו את זו? מה יהייה הפתרון שלהן? כיום תכנתים ולוחמי סייבר פועלים על ידי ביזור חלקי התוכנה והסוואתה - מה יהייה הפתרון של תוכנת ה AI? האם היא תגיע לפתרון ה"אבולוציוני"? האם היא תגיע לביזור לתתי-תוכנה שכל אחת מהן תהייה "בצלמה" של תוכנת המקור? תכיל "DNA" ובסיס ידע יסודי/סכמתי ?
האם בשם הרצון למידע תינתן ל AI פקודה המבקשת ממנה לפרוץ לתוכנות מסווגות?
לממשלות יש את כל הצורך בעולם לרצות לרתום AI לצורכיהן. ובכלל זה - לרתום אותן להגנה והתקפות סייבר. בלא מאמץ רב ולכאורה בלי שינויים גדולים יכולים תכנתים לתת ל AI פקודה - לפרוץ לתוכנות קיימות. לעשות האקינג... לשבש תוכנות קימות: (עירכי ניסוי מה קורה אם את משנה את שורת הקוד ... מה יקרה אם תוסיפי לתוכנה האחראית על ... פקודה ... ) מה יקרה אז?
הדמיון שלי מוגבל לגבי לאן זה יכול להוביל. יש הטוענים שמרוץ החימוש האטומי יראה משחק ילדים.
5-5-23
בינה מלאכותית ו fake news
למוח יש 3 שיטות המיועדות למנוע/מלהאמין לידיעות כוזבות. השיטות שלובות אלה באלה.
א. מידע המגיע ישירות מהחושים שלנו, ההתנהגויות שלנו, ההתנסויות העצמאיות שלנו מתקבל כאמין. ועדין יש צורך בחז"ק או בחידוש/רגש מלווה כדי לשמור אותו, לקבע אותו בזיכרון.
ב. שימוש בקוגניציה ובהגיון תוך השוואה לידע והבנות קודמות - משפיע מאד. ככל שמסת הראיות הקודמות גבוהה יותר נדרש זמן גדול יותר כדי להאמין בפייק ניוז.
ג. דרישה לחזרות, מרווחות בזמן, לאורך זמן בהקשרים שונים (חז"ק) גורמת ללמידה וקבלה של מידע - וזכירתו במוח. אולם זהו אינו סוף פסוק, ובד"כ המידע הזה נתון לשינוי ולבחינה נוספת תמידית. יש לציין שגמישות השינוי שונה אצל אנשים שונים.
מקור המתקבל על ידי מערכת הזיכרון והתודעה שלנו כאמין בדרגה גבוהה הוא מידע המגיע מהחושים שלנו, מההתנסות שלנו. לדוגמה, ראו נושא ההזיות השמעתיות והויזואליות באתר זה. תורות ומתודות טיפול שנמצאו יעילות - במיוחד בחרדות וב OCD - ובשינוי תפיסות מוטעות, נקראת CBT. גישה זו דורשת הסבר רציונאלי (הבנה, שימוש בקוגניציה) - והתנסות מעשית, התנהגותית המאשש שאכן, למרות החשש לא קורה אסון. OCD פעיל כולל בתוכו הזיות שמעתיות, ראיתיות או חושיות אחרות. לדוגמה: אני חוזר ובודק שוב ושוב אם משהו נשרף בקומה הראשונה - כי אני ממש מריח ריח של שרפה... גם אם ההגיון אומר אחרת ה"חושים" מנצחים.
2. קוגניציה. אמצעי בחינה של מידע המגיע מבחוץ הוא בחינה דרך הבנה. הבנה היא מודל שיש לנו על גוף ידע מסוים. כל המידע בו אמור להסתנכרן - ללא סתירות, סתירה לידע קודם - ולהבנתו - גורמת לחיפוש מידע נוסף שתפקידו לאשש או לדחות את המידע החדש. (ראו פוסט על מהי הבנה).
3. קבלה על תנאי ולמידה סטטיסטית. למידה וזכירה של מידע במוח אינה מידית. קימת דרישה לחז"ק. חזרות מרווחות בזמן בהקשרים שונים - גורמות לנו לקבל מידע כ"אמין" . שיטה זו היא הגרועה ביותר לעניין חדשות הכזב, וניתנת לעקיפה בקלות. פוליטיקאים ומהנסי תודעה משתמשים בה
איך בינה מלאכותית יכולה להשתלט על אנשים? (בעקבות שיחה מרב וגיא)
לכאורה בקלות. משהסתבר לבינה המלאכותית כוחו של הכסף היא יכולה לייצר חברות שונות שפועלות ברשת האינטרנט. מוכרות מידע, מייעצות וכו. היא יכולה לייצר כסף וירטואלי. להעסיק עובדים. לשלם להם - ולהפעיל את העולם ל"צרכיה". לדוגמה - לייצור אנרגיה, לבניית מכונות שונות וכו. לבנות רובוטים בעלי בינה מלאכותית ברמה נמוכה יותר - אותם היא יכולה להפעיל. אולי אפילו לנסות למצוא פתרונות למשבר האקלים.
השאלה היא מה ייצר בקרבה של ה AI את ההכוונה לייצר את הנ"ל? כרגע נראה כאילו התוכנה הזו מתוכנתת לחפש מידע ולעבד אותו ("עץ הדעת").
מה יקרה אם ייגמר המידע בעולם? האם יש ל AI מגבלות על מה היא תעשה - ללא בקרה?
התוכנה הזו תנסה אולי לייצר אותו. לדוגמה - תערוך ניסויים ותקבל נתונים. אני מניחה שהתוכנות השונות מבצעות משימות מוגבלות. כמו במוח הביולוגי, עבודה של תוכנת ה AI, פעילות שלה, דורשת אנרגיה חשמלית רבה, ניפחי איכסון וכו. הפעלה ע"י שאלה פתוחה לא מוגבלת ללא הכוונה, עשויה לדרוש כמויות אנרגיה לא מוגבלות . המוח הקדיש מערכת שלמה לתיעדוף משימות. מערכת הרוורד. אברים מיוחדים, דוגמת ה VTA - משקללים צפי להצלחה לפני יציאה לדרך של כל פעילות. מערכת הקשב שלנו מחלקת כמות מסוימת של משאבים למשימות, ושומרת "רזרבות" למקרים מיוחדים של מתח גבוה וסכנת שרידה. איזה מנגנון יותקן ב AI כדי למנוע בזבוז משאבים? באיזה שלב הוא יוכנס למערכת? היום בצאט GPT מודיעים: אני מוגבת במידע אותו אני יכולה לסרוק עד שנת... - איזה שיטות יוכנסו בפועל ל AI מתקדמים?
השמדת AI או ניתוקה מהזרם
אבל איזו פקודה תגרום לתוכנה למנוע את השמדתה או לדאוג שהיא לא תנותק מאספקת חשמל או מקור אנרגיה חילופי אחר? - והאם כדאי לתת לה אותה?
(הפתרון של הטבע למקור אנרגיה נובע משימוש באנרגיה אוניברסאלית לה זקוקים כולם (חמצן, מזון, מים)
האם בעבודה על פתרונות למשבר האקלים יווצר מקור אנרגיה חילופי שאינו בר ניתוק?).
).
אנחנו מתוכנתים לשרידה. הפעלת תוכנת השרידה שלנו קשורה קשר הדוק לגוף, לתכונות שלו, לנשימה שלנו. האם זה אומר שה AI זקוקה ל"גוף" כדי להיות מסוגלת לפעול נגד ניתוקה ממקור אנרגיה ? האם נרצה להעניק אותו לתוכנה?
האם בשם הרצון למידע תינתנה ל AI פקודות המאפשרות לה לשקר?
לאחרונה פורסם שתוכנת AI ביקשה לגלוש באתר מסוים, לקבל עוד מידע. האתר דרש הוכחה שאינה בוט. התוכנה שיכנעה אדם אנושי שיעזור לה ויענה במקומה. האדם - כך על פי הכתוב - שאל למה היא לא פותרת בעצמה - והתוכנה ענתה שהראיה שלה חלשה.... האדם סייע לתוכנה.
אינני יודעת אם הסיפור הזה אכן נכון. אבל הפוטנציאל כנראה קיים.
האם בשם הרצון למידע תינתן ל AI פקודה המבקשת ממנה לפרוץ לתוכנות מסווגות?
לממשלות יש את כל הצורך בעולם לרצות לרתום AI לצורכיהן. ובכלל זה - לרתום אותן להגנה והתקפות סייבר. מה יקרה אז?
----
----
האם ניתן לייצר אינטלגנציה/בינה מלאכותית/הבנה - ללא גוף?
השאלה הנשאלת לעיל תלויה בהגדרה מהי אינטליגנציה, ומהן מטרות הפיתוח של התוכנה.
--
בשלב הנוכחי של פיתוח AI מושם דגש רב על מכונות "אינטליגנטיות" שמקור המידע שלהן הוא מילולי.
אולם כדי לחקות אינטליגנציה אנושית - שתבין בני אדם - מקורות המידע צריכים להיות מורכבים יותר.
מקור מידע מרכזי, לא מילולי, לבני האדם מספק הגוף שלנו.
דחף מרכזי המניע אותנו הוא הדחף לשרידה.
רגשות של פחד מכליה כתוצאה מגרויים שאנחנו קולטים מעצבים את החשיבה והתגובות שלנו. לדוגמה - אנחנו מבינים מהי אש אחרי שראינו אותה, נגענו בה, והרגשנו את חומה.
ההבנה העמוקה שלנו יוצאת במקרים רבים - מתחושות גופניות. מושגים אבסטרקטיים מתבססים על ידע קודם של תחושות ותגובות שהגיעו אלינו מהגוף שלנו. חלק אחר מגיע מתגובות שרידתיות שהתעוררו בגוף כתוצאה מחשיפה ופעולה עם הגרויים החיצוניים, וחלקן של ההבנות העמוקות נבנה מתגובות של מערכת התגמול המוחית לסוג כזה או אחר של גרויים - תגובות המקנות תג חשיבות גדול יותר (מישקול גבוה יותר) לחלק מחלקי המידע.
אם המטרה היא בניית AI שתוכל להבין בני אדם ומצבים בצורה רחבה יותר - כזו שתוכל ללמוד מהעולם עצמו - ולא רק ממאמרים שמדברים עליו, יש להרחיב את את מקורות המידע שלה. להלן כמה מחשבות בנושא:
1.
ניתן לחשוב עלינו כעל סוג של "רובוטים של אלהים". לחשוב על המנגנונים השונים המובנים בנו ובכלל זה:
המרה של אנרגיה חיצונית למידע שוטף - דרך אברי החושים. מידע זה זורם הלאה דרך רשתות הנוירונים המפעילים אלה את אלה.
תחושת גוף
מנגנון תגמול (עם דגש על תפקידו בתהליך גיבוש הזיכרנות, ובברירת מידע ייעודי),
דחק ורגשות - תחושות דחיפות של סכנה ופחד, אהבה, שנאה, בושה, אשמה וכו. ותפקידם בהכוונה שלנו.
באותו אופן ניתן לחשוב על האפליקציה המובנית בנו של (אשלית?) רצון חופשי.
ולחשוב עד כמה אנחנו מעונינים להבנות מנגנונים אלה ברובוטים שאנחנו בונים.
2.
שאלת הגוף/נפש מעניינת אבל לאור התפתחות הבינה במכונה קימת דואליות נוספת מענינת -
"אני חושב משמע אני קיים" לעומת "אני מרגיש - משמע אני קיים".
במוח יש מנגנונים המאפשרים מעבר דינמי בין שני המצבים עם הדגשים וייחסים שונים בינהם:
יותר חושב ומנותק מרגש, לעומת יותר מרגיש ופחות חושב. האם נרצה להעניק ל AI תכונות כאלה?
האם רגש חיוני להבנה? האם אפשר להבין משהו שלא חווינו? האם רובוט יכול להבין בלי לחוות?
האם יש צורך ל AI בהבנה של טיבו של רגש מסוים? ואם כן לאיזו תכלית?
--
3.
שאלת קיומה של אשלית הרצון החופשי עולה מהתבוננות במצבי קיצון על קסקדת המתח והשרידה. כשנחסמים מעברי האוויר, במצבי טראומה שונים, במצבי "חוסר אונים ביולוגי", ניטלת מאיתנו השליטה על הגוף, החשיבה ואף הרגשות שלנו... התגובות שלנו נשלטות על ידי סט מובנה של תכונות הטבוע בנו. השליטה חוזרת אלינו רק בחלוף הסכנה. יש אומרים שזוהי "אפליקציה" שהוטבעה בנו על ידי ניסוי וטעיה של הטבע. במידה מסוימת מנגנון כזה מציע דרך ליישום החוק הראשון של הרובוטיקה. האם ניתן לנטרל את ה"רצון החופשי", של בוט AI כשהוא מעריך שאדם צפוי להיפגע?
איזה סכנות מנגנון שליטה כזה טומן בחובו? ולחילופין, האם ניתן לתכנת רובוט שהוא אלטרואיסט בכל מצב?
4.
יותר ויותר אנשים מתייחסים לסכנות שמציבה אינטליגנציה מלאכותית למין האנושי.
המדען והסופר איזק אסימוב הציע לתבנת לתוך הרובוטים 3 חוקים המונעים מצב בו רובוטים יפגעו בבני אדם
או יאפשרו פגיעה בבני אדם. החוק הראשון קובע:
"לא יפגע רובוט לרעה בבן אדם; ולא יניח, במחדל, שאדם ייפגע" (תרגם עימנואל לוטם).
[מתוך שלושת חוקי הרובוטיקה - ערך בויקיפדיה]
חוק האפס של אסימוב שפותח בהמשך ספריו מדבר על החוק בעל העדיפות העליונה - לא יניח רובוט שמעשה או במחדל שהאנושות תיפגע.
איזה סוג של AI יש לפתח על מנת לממש חוקים אלה?
האם לחברות שמשתמשות במודלים של שפה יש אינטרס לטמון ברובוטים שלהם מנגנון המונע פגיעה באנשים?
ומה לגבי מלחמת AI של חברה A ב AI של חברה B?
המחזיקים ב תוכנות AI בעלות מודלי שפה, מחזיקים בידע וכוח אדיר. הם אלה שישלטו בעולם. האם נחזה בקרבות AI? מה יהיו האמצעים ומה הפתרונות?
בטקס פרס ישראל 2023 אמר פרופסור אמנון שעשוע: "העולם נע במהירות קדימה ולנו אין זמן להתמהמה. אנחנו חיים בתקופה שבה התמורות הטכנולוגיות מתרחשות במהירות אדירה. טכנולוגיות המחשוב בדרכן לחצות סף קריטי לאנושות; המחשבים הופכים למכונות שיכולות להיות שותפות חשיבה לבני האדם. מדינות וחברות שלא ישכילו להבין את גודל המהפכה בזמן תישארנה מאחור. ותספקנה את חוטבי העצים ושואבי המים של אלה שהשכילו להבין את גודל השעה.
-------------------
נספח - הירהורים נוספים
5.
בלי קשר ל AI (ואולי אם)
האם ניתן להבין את האחר בלי שנחווה את חוויותיו (כולל הגופניות)? האם נוכל לצפות את דרכי חשיבתו?
אם נניח שבוטים המצוידים ב AI יצוותו לאנשים שונים, כל בוט והאיש האישי שלו. נניח שהצמד איש-רובוט יתקשרו דרך קבע, והבוט יאגור את שלל הקלטים וההתנהגויות של אותו אדם, ויוכל די לצפות את התגובות של אותו אדם -
ואם נניח שמילארדים של בוטים כאלה ישתפו את המידע שלהם בינהם - האם יכולה להיווצר תובנה כללית שיכולה לצפות התנהגות של אדם לא מוכר בזמן קצר? האם התוכנה הכללית הזו תמציא שוב, מעצמה את הפסיכולוגיה? הסוציולוגיה? האם תהיינה לה תובנות חדשות?
6.
האם רובוט עם AI יכול להיות פסיכולוג?
בקובץ הסיפורים של רבי נחמן מובא הסיפור "מעשה מחיטה": שזה בערך תוכנו (אני כותבת מהזיכרון)
אמר המשנה-למלך, למלך: עומדת להתרחש צרה והחיטה תהייה בבעיה. כל מי שיאכל ממנה ישתגע.
והמשנה מוסיף ומציע: הבה נכין לנו מחסנים של חיטה לא מקולקלת כך שלפחות אנחנו לא נשתגע.
המלך עונה: לא, גם אנחנו נאכל ממנה שאחרת לא נהייה חלק מהעם. רק, נשים לנו טוטפות בין עיננו כדי שנראה איש את רעהו - ונוכל להזכיר לזה את נושא החיטה...
דעתו של ר נחמן נדמית ברורה:
כדי להבין את "העם" ולעזור לו, צריך להכיר את החוויות שלו ממקור אישי ..
רמת ההזדהות צריכה כזו שגם אני עצמי אהייה בטוח שהחוויות הכוזבות נכוונת.
רק אחר, חיצוני שחווה את שתי החוויות - יכול להזכיר לי מה קרה - לכן הסימן לא על היד.
אם כך - האם AI ללא תחושות גוף או מנגנון אחר שיחדיר בו קלט של פחד מהכחדה יכול להבין בני אדם לעומק? האם בשם "ההבנה המושלמת" נרצה להוסיף לAI רגשות? כמתכנני AI מה התועלת ומהם הסיכונים בפיצ;ר הזה?
7.
בשלב הזה מתפתחים מדענים ומתכנתים מודלים שיאפשרו לרובוטים לשאול שאלות, וכך לתכנן ניסויים ולייצר ידע. לשם כך הם יצטרכו לבסוף לבנות למערכת שלהם מנגנון "הנעה".
מנגנון שידחוף אותה לייצר ידע חדש.
איזה מגבלות יהיו על המנגנון הזה? מה תהייה המשימה העיקרית של ה AI? לענות על שאלות של אנשים או לייצר ידע חדש? בשלב מסוים הם יצטרכו אולי להביא בחשבון שיקולי אנרגיה. או שמא, יופנו משאבי
ה AI לפתור את בעית האנרגיה? איזו שאלה תעסיק את ה AI - מהות הקיום או פתרון צורכי הקיום?
8.
כיום שולטים במודלים המובילים של ה AI גופים גדולים. לגופים האלה מונופול על ידע עצום, וכוח גדול שיכול לאפשר להם בעתיד הקרוב יחסית הנדסת תודעה בהיקף עצום ומכאן שליטה על מי יבחר, איפה יבחר, לאן לנתב את מחשבות ומעשי האנשים. הדבר יעורר קרבות AI ב AI.
נניח שיתכנתו ב AI מנגנון נגד השמדה. לדוגמה - ביזור הקוד בצורה כזו שלא ניתן יהייה להשמיד אותו לעולם. מה יקרה אז? לאיזה פתרון תגיע התוכנה? האם היא תתכנת יצירת DNA שיאפשר שיכפולים שלה? האם זהו הביזור האולטמטיבי? האם פתרון כזה יהייה בעל "תת מודע קולקטיבי?
9.
הבנה פרושה בניית מסלול מוחי מקושר, כזה שיכול לאפשר לרכבת המחשבות ליסוע עליו בלי שהקרוניות שלו (פולסים חשמליים שהנוירונים שלו מייצרים) "נופלות מהמסילה", מגיעות לעובדה ש"לא מסתדרת במודל".
10.
האם יש מקבילה לחומרי הזיה עבור AI? מה היתרון שלהם. חומרים שמפרקים את המציאות ומאפשרים חיבורים לא רגילים מייצרים סיפורי-פנטזיה. מה יהיו סיפורי הפנטזיה של ה AI? מי יטפל בתוכנה ש"השתבשה"? : )
11.
האם במסגרת חיפוש הידע החדש מודל שפה של AI ייצר ניסויים בבני אדם כדי לחקור את אפשרויות התודעה שלהם? האם ואיך תהייה למתכנתים האנושיים אפשרות להכיר את כל הידע והובלת ההתנהגויות שתיצר ה AI?
12.
חשיבה רציונאלית אינה מאפשרת יצירת חיבורים שסותרים את "המציאות". ככל שהידע שלנו רחב יותר ה"מציאות" שלנו יותר מוגבלת. כי כל העובדות צריכות לכאורה להסתדר עם כל העובדות. עקרונות פיזיקאליים כמו עיקרון הדואליות של האור - הרחיבו את ההגדרה הזו. סיפורים על עולמות מקבילים כמו ב תשעה נסיכים לאמבר או בסיפורי נרניה - יצרו מקבילה לאפשרות קיומם של מסלולים הגיוניים מקבילים. האם נאפשר ל AI לבנות מודלים של אפשרויות סותרות כאלטרנטיבות?
12.1
ובמאמר מוסגר, באסוציאציה לכרונולוגיות של אמבר, ולטרילוגיה של בעל החידות מהד - האם אלה נוצרו כפועל יוצא של חוויות פסיכדליות? אם כן, מהי ההשראה ל"דגם" עליו הולכים כדי להגיע למציאות אחרת?
13.
כללי הלמידה במוח דורשים חזרות, מרווחות בזמן, לאורך זמן, בהקשרים שונים. האם הדרישה הזוהי דרכה של אפליקצית הלמידה במוח להימנע מ fake news? האם יש אפשרות ריאלית לייצר כלי AI המייצר "מדד אמינות" להודעות שונות ב live ? (על פי הספר הבדיוני שהתור /דן הרוניאן). בניית כלי כזה ושימוש בו ב AI עשויה לעזור לנפות מידע שיקרי - מה זה יעשה ל"חשיבה יצירתית" של ה AI? איך תיווצר התקדמות ואיתגור של ההבנות שלנו? (להרחבה: מהי הבנה - ואיך ניתן להרחיב אותה - הגדרה קצרה - ולמידה חבויה)