לפני זמן מה, השותף שלי בפבלינוקס הוא אמר לנו על המכתב שכתבו אילון מאסק הבלתי נסבל ואישים אחרים וביקשו הפסקה במחקר בבינה מלאכותית עד שניתן יהיה לנקוט באמצעים כדי למנוע את ההשפעות השליליות האפשריות שלו. זה נותן לי את התירוץ לדבר על הסיכונים האמיתיים והמדומיין של בינה מלאכותית.
תוך סיכון שאעשה מעצמי צחוק עם תחזיות כושלות בסגנון ביל גייטס, אני מתחיל ואומר שלדעתי הסיכון הגדול ביותר כרגע הוא התפוצצות בועה זה ישאיר את ה-dot-coms עד להלם קל.
הסיכונים האמיתיים והמדומיין של בינה מלאכותית
אני מסכים עם פבלינוקס שבמכתב יש יותר אובסקורנטיות מימי הביניים מאשר חשיבה מדעית. זֶה תוך כדי שיתוף ברעיון שיש לקבוע חקיקה להסדיר את השימוש בתוכן. עם זאת, איננו יכולים להכחיש שכל הטכנולוגיה בלבלה והפחידה אנשים עד שהיא הייתה ידועה.
הקרנת הגעת רכבת בתחילת הצילום גרמה לאנשים לברוח מהחדר, ולמרות שיש לו הרבה אגדה אורבנית, גרסת הרדיו של מלחמת העולמות מאת אורסון וולס גרם לא מעט פאניקה בקרב אנשים שהאמינו שזה אמיתי.
למעשה, סוג זה של תקנת תוכנה אינו דבר חדש. רשויות הרגולציה הפיננסיות במדינות רבות אוסרות על תוכנות כמו פוטושופ לערוך תמונות של שטרות או צ'קים.
ב-1994 פרסם טום קלנסי חוב של כבוד. נחשב למומחה בנושאי הגנה, קלנסי אידמיינו מתקפה על המערכת הפיננסית של ארצות הברית על ידי מניפולציה של מערכות המומחים של חברות המניות להאמין שמתרחש משבר לשחרר גל מכירה שהוליד סוף סוף את המשבר.
לפני שפוסלים את זה כסיפורת, זכרו שבאותו רומן, 7 שנים לפני מגדלי התאומים, קלנסי צפה שארצות הברית עלולה לסבול מהתקפות באמצעות מטוסים מסחריים.
למעשה, הרעיון אינו חדש. הסרט משנת 1983 משחקי מלחמה הוא סיפר כיצד נער בלבל את המחשב שאחראי על שיגור הטיל לחשוב שהרוסים תוקפים.
בואו נדמיין שאנחנו שומעים דהירה מתקרבת. המסקנה הראשונה שלנו היא שזה סוס ו-9 פעמים מתוך 10 נהיה צודקים. אבל, תמיד קיימת האפשרות שזו זברה שברחה מגן החיות. רופאים, אסטרונאוטים וטייסי מטוסים מקבלים הכשרה קפדנית לחשוב על זברות, לדעת מה לעשות אם מתרחשת חריגה. מודלים של בינה מלאכותית מאומנים עם סוסים בראש.
מודל כמו זה שבו משתמש ChatGPT מבוסס על מידע קיים במאגר הידע שלו. ככל שהמידע הזה חוזר על עצמו יותר פעמים, כך גדלה האמינות שהוא מעניק.
מכיוון ששמירת כל המידע הזמין ידרוש הרבה מקום אחסון, הוא שומר רק את מה שרלוונטי ואז בונה אותו מחדש כמתבקש באמצעות המבנה שנראה סטטיסטית הרלוונטי ביותר. לפיכך, פעמים רבות אני מצטט הפניות שאינן קיימות רק כי סטטיסטית סביר להניח שיש מסמך עם אותה כותרת שמכיל את התוכן הזה.
על זברות וכלבים שלא נובחים
האם יש נקודה נוספת שאתה רוצה להסב את תשומת ליבי אליה?
-האירוע המוזר של הכלב בלילה.
הכלב לא עשה כלום בלילה.
זה היה האירוע המוזר.
סר ארתור קונאן דויל
עוד מהסיכונים שיש למערכות בינה מלאכותית הוא מה שהן לא עושות. וזו גם נקודה חשובה שיש לזכור.
בשנות ה-XNUMX, רופא אוסטרלי שיער שהגורם השכיח ביותר לכיבים הוא חיידקים. כיוון שלא היה לו רזומה גדול, צחקו בפניו עד שהוכח שצדק. כמו תגליות מדעיות רבות אחרות (סיבוב כוכבי הלכת, העובדה שככל שאתה לוקח יותר הפסקות, אתה פרודוקטיבי יותר) הן מנוגדות לחוכמת הרגע.
אבל, מודלים של מודיעין מבוססים על חוכמת הרגע. בידע הזה שיש בו קונצנזוס. בדיוק כפי שהקפאת טכנולוגיה, מכוניות ומשלוחים הגדילו את מספר הסובלים מהשמנת יתר, הזמינות של כלי טכנולוגיה מלאכותיים יכולה לגרום לנו לאינטלקטואלים לעצל ולחניק חדשנות.
כפי שאתה יכול לראות, יש מספיק דברים לדאוג מהם בנוסף לפחד להשתעבד על ידי המכונות. ושאנחנו עדיין לא מדברים על גישה לקוד המקור ועל פרטיות המשתמשים.