האלגוריתם הנסתר: איך המודיעין האמריקאי יצר את גוגל
בשנות ה-90 עבדה ד"ר בהוואני תוראיסינגהם עבור חברת מחקר אמריקאית בשם MITRE, שפועלת בעיקר עבור גופים ממשלתיים. במסגרת עבודתה היא שירתה גם את ה-NSA, סוכנות הביטחון הלאומי, וגם את ה-CIA, הסוכנות המרכזית לביון. מדי פעם היא הייתה מבקרת במעבדות אוניברסיטת סטנפורד. בביקור אחד נכנס לחדר, על גלגיליות, תלמיד מחקר צעיר. הוא הציג בזריזות את תוצאות עבודתו, ונעלם באותה מהירות. שמו היה סרגיי ברין, שזמן קצר אחר כך הקים יחד עם לארי פייג' חברה בשם גוגל.
מה שברין לא סיפר אז לרוב האנשים סביבו הוא שהמחקר שלו מומן, בין השאר, על ידי תוכנית סמויה למחצה של קהילת המודיעין האמריקאית. כבר בשנת 1993, כשהאינטרנט היה עדיין בתחילת דרכו, הבינו ב-CIA וב-NSA שיש להם בעיה: כמות המידע שתצטבר ברשת עומדת לגדול מהר יותר משיהיה אפשר בכלל לעקוב אחריה. כך קמה תוכנית בשם "מערכות נתונים דיגיטליים מסיביים" (בקיצור MDDS), שמומנה רשמית על ידי גוף מדעי ממשלתי, אבל תוכננה מלכתחילה כדי לשרת את צורכי המודיעין.
מסמך רשמי מ-1993 תיאר את מטרת התוכנית במילים זהירות: קהילת המודיעין "נוקטת תפקיד פעיל בעידוד מחקר בניהול יעיל של מסדי נתונים מסיביים". במילים פשוטות, רצו למצוא דרך לארגן כמויות ענקיות של מידע כך שיהיה אפשר לאתר בתוכן דפוסים ואנשים מסוימים. את הפרויקט כינו החוקרים "ציפורים מאותו נוצה", בהשראת הדרך שבה להקות ציפורים טסות יחד במבנה מסודר. הרעיון: גם קבוצות אנשים בעלי דעות דומות נעות יחד ברשת, ואפשר לזהות אותן מתוך העקבות הדיגיטליים שהן משאירות מאחוריהן.
מפרויקט מחקר סודי לגוגל
באביב 1995 קיבל צוות מדעי המחשב באוניברסיטת סטנפורד אחת ממענקי ה-MDDS הראשונים. המענק הוגדר רשמית כמחקר על "חיפוש יעיל בתוך מאגרי מידע ענקיים". שני תלמידי המחקר שהובילו את הפרויקט, סרגיי ברין ולארי פייג', פיתחו שיטה לקבוע איזה אתר אינטרנט חשוב יותר מהאחר, בהתאם לכמה אתרים אחרים מפנים אליו. בדיוק השיטה הזאת הפכה מאוחר יותר ללב הפועם של מנוע החיפוש של גוגל.
לאורך כל תקופת הפיתוח דיווח ברין לא רק לחוקרי סטנפורד, אלא גם לשני אנשים שלא היה להם קשר ישיר לאוניברסיטה: ד"ר ריק שטיינהייזר, שעבד עבור מחלקת המחקר הפנימית של ה-CIA, וד"ר תוראיסינגהם עצמה. היא כתבה בעצמה מאוחר יותר: "תוכנית ה-MDDS של קהילת המודיעין סיפקה בעצם לברין מימון ראשוני, שהושלם אחר כך על ידי מקורות נוספים". זה לא אומר שה-CIA "הקים" את גוגל, אבל ברין ופייג' חקרו בדיוק את מה שקהילת המודיעין רצתה שיחקרו, ובעזרת הכסף שלה.
כשהפרשה עלתה לכותרות ב-2006, גוגל הכחישה כל קשר. דובר החברה אמר אז למגזין הטכנולוגיה Wired שההצהרות הקשורות לגוגל "אינן נכונות כלל". גם היום, בכל התיאורים הרשמיים על הקמת החברה, כולל אתר המחקר של סטנפורד עצמו, מוזכר רק מענק אחר, של "ספריות דיגיטליות". המענק שממנו, לפי עדותה של תוראיסינגהם, נבעה הטכנולוגיה המרכזית של גוגל, כמעט ולא מוזכר בתיעוד הרשמי של החברה.
האלגוריתם שכבש את הממשל
מה שהתחיל כניסיון לאתר דפוסים ברשת, התרחב בהדרגה לכל זרועות הממשל האמריקאי. דוח מקיף שפרסמו חוקרים מסטנפורד וניו יורק בפברואר 2020, עבור גוף פדרלי שמפקח על תהליכים ממשלתיים, מצא ש-64 מתוך 142 סוכנויות שנבדקו, כמעט מחצית, כבר משתמשות בכלי מחשב "חכמים" שיודעים לזהות דפוסים במידע ולקבל החלטות במקום בני אדם, מתכננות להשתמש בהם, או כבר ניסו זאת בעבר. בסך הכל אותרו 157 שימושים שונים ב-64 סוכנויות.
בין הדוגמאות הבולטות: רשות ניירות הערך האמריקאית מפעילה מערכת בשם ARTEMIS, שסורקת שישה מיליארד רשומות מסחר בחיפוש אחר סוחרים החשודים בשימוש במידע פנימי אסור כדי להרוויח בבורסה. משרד המכס והגנת הגבולות משתמש בטכנולוגיית זיהוי פנים בשדות תעופה, עד יוני 2018 כבר הופעלה המערכת בלפחות 17 שדות שונים. וגוף הביטוח הלאומי האמריקאי, המטפל בכ-2.5 מיליון תביעות נכות בשנה, מפעיל כלי בשם Insight, שמזהה למעלה משלושים "דגלים" חשודים בטיוטות של החלטות משפטיות.
לא כל הכלים האלה עובדים כמו שצריך. משרד המכס הודה בעצמו שאינו יכול להסביר את שיעורי הכשל של סריקת הקשתית שלו, מכיוון שהטכנולוגיה שייכת לחברה פרטית חיצונית. איך אפשר לסמוך על מערכת שגם מי שמפעיל אותה לא לגמרי מבין איך היא פועלת? בביקורת פנימית על מערכת Insight, חמישית מהעובדים שנשאלו דיווחו שהדגלים שהמערכת מפיקה בכלל לא מדויקים. מי שכתבו את הדוח הזהירו שניהול כושל של כלים כאלה עלול "לרוקן את המומחיות האנושית בתוך הסוכנויות ולהגביר חששות מפעולה שרירותית וכוח ממשלתי", אזהרה שנכתבה כבר ב-2020, עוד לפני שהמילה "בינה מלאכותית" הפכה לשגורה בפי כול.
תגובות
היו הראשונים להגיב!