מסגרת להערכת טכנולוגיות דיגיטליות ומתפתחות במהירות: בינה מלאכותית, מודלים של שפות גדולות ועוד

• מבוא 
• רקע 
• פיתוח מסגרת אנליטית 
• שימוש במסגרת האנליטית 
• מימדים שיש לקחת בחשבון בעת ​​הערכת טכנולוגיה חדשה 
• דרך קדימה 
• תודות

טכנולוגיות המתפתחות במהירות מציגות בעיות מאתגרות בכל הנוגע לממשל ולרגולציה פוטנציאלית שלהן. המדיניות והדיונים הציבוריים על בינה מלאכותית (AI) והשימוש בה הביאו את הנושאים הללו למוקד אקוטי. בעוד עקרונות רחבים עבור AI פורסמו על ידי אונסק"ו, OECD ואחרים, ויש דיונים בתחילת דרכם לגבי רגולציה עולמית או שיפוטית של הטכנולוגיה, קיים פער אונטולוגי בין פיתוח עקרונות ברמה גבוהה לבין שילובם ברגולציה, מדיניות, גישות ממשל וניהול. זה המקום שבו לקהילה המדעית הלא-ממשלתית יכול להיות תפקיד מסוים. 

הוצע על ידי מספר אקדמאים ומומחי מדיניות כי מועצת המדע הבינלאומית (ISC) - עם חברותה הפלורליסטית ממדעי החברה והטבע - תקים תהליך לייצור ותחזוקה של מסגרת/רשימת ביקורת מוערת של הסיכונים, היתרונות, איומים והזדמנויות הקשורים לטכנולוגיות דיגיטליות הנעות במהירות, כולל - אך לא רק - AI. מטרת רשימת הבדיקה תהיה ליידע את כל מחזיקי העניין - לרבות ממשלות, משא ומתן סחר, רגולטורים, חברה אזרחית ותעשייה - על תרחישים עתידיים פוטנציאליים, ותקבע כיצד הם יכולים לשקול את ההזדמנויות, היתרונות, הסיכונים ונושאים אחרים. 

התפוקות לא ישמשו כגוף הערכה, אלא כמסגרת אנליטית מסתגלת ומתפתחת שיכולה לעמוד בבסיס כל תהליכי הערכה ורגולציה שעשויים להתפתח על ידי בעלי עניין, לרבות ממשלות והמערכת הרב-צדדית. כל מסגרת אנליטית צריכה להיות מפותחת באופן אידיאלי ללא תלות בטענות ממשלתיות ותעשייה, בהתחשב באינטרסים המובנים שלהן. היא חייבת גם להיות פלורליסטית מקסימלית בנקודות המבט שלה, ובכך להקיף את כל ההיבטים של הטכנולוגיה והשלכותיה. 

נייר דיון זה מספק את המתווה של מסגרת ראשונית ליידע את הדיונים העולמיים והלאומיים המרובים המתקיימים הקשורים לבינה מלאכותית. 

ההופעה המהירה של טכנולוגיה עם המורכבות וההשלכות של AI מניעה טענות רבות ליתרונות גדולים. עם זאת, היא גם מעוררת חשש מסיכונים משמעותיים, מרמה אינדיבידואלית ועד רמה גיאו-אסטרטגית. חלק גדול מהדיון נוטה להתקיים בקצוות הקיצוניים של קשת ההשקפות, ויש צורך בגישה פרגמטית יותר. טכנולוגיית AI תמשיך להתפתח וההיסטוריה מראה שלמעשה לכל טכנולוגיה יש שימושים מועילים ומזיקים כאחד. השאלה היא אפוא: כיצד נוכל להשיג תוצאות מועילות מטכנולוגיה זו, תוך הפחתת הסיכון להשלכות מזיקות, שחלקן עשויות להיות קיומיות בסדר גודל? 

העתיד תמיד לא בטוח, אבל יש מספיק קולות אמינים ומומחים בנוגע לבינה מלאכותית ובינה מלאכותית כדי לעודד גישה מונעת יחסית. בנוסף, יש צורך בגישה מערכתית, מכיוון שבינה מלאכותית היא סוג של טכנולוגיות עם שימוש ויישום רחב על ידי מספר סוגים של משתמשים. משמעות הדבר היא שיש לקחת בחשבון את ההקשר המלא כאשר בוחנים את ההשלכות של AI על יחידים, חיי חברה, חיים אזרחיים, חיי חברה ובהקשר הגלובלי. 

שלא כמו רוב הטכנולוגיות הקודמות, לטכנולוגיות דיגיטליות ונלוות יש פרק זמן קצר מאוד מהפיתוח ועד לשחרור, מונע בעיקר על ידי האינטרסים של חברות ההפקה או הסוכנויות. AI מתפשט במהירות; מאפיינים מסוימים עשויים להתגלות רק לאחר השחרור, ולטכנולוגיה עשויה להיות יישומים זדוניים ומיטיבים. ממדי ערכים חשובים ישפיעו על האופן שבו כל שימוש נתפס. יתר על כן, עשויים להיות אינטרסים גיאו-אסטרטגיים במשחק. 

עד כה, הרגולציה של טכנולוגיה וירטואלית נראתה במידה רבה דרך העדשה של "עקרונות" וציות מרצון. אולם לאחרונה, הדיון פנה לסוגיות של ממשל לאומי ורב-צדדי, לרבות שימוש בכלי רגולציה וכלי מדיניות אחרים. הטענות שמועלות או נגד AI הן לרוב היפרבוליות וקשה להעריך - בהתחשב באופי הטכנולוגיה. הקמת מערכת אפקטיבית של רגולציה טכנולוגית גלובלית או לאומית תהיה מאתגרת, ויידרשו שכבות מרובות של קבלת החלטות מושכלות לאורך השרשרת, מהממציא ליצרן, למשתמש, לממשלה ולמערכת הרב-צדדית. 

בעוד עקרונות ברמה גבוהה פרסמו בין היתר על ידי אונסק"ו, OECD והנציבות האירופית, ומתנהלים דיונים שונים ברמה גבוהה בנוגע לסוגיות של רגולציה פוטנציאלית, קיים פער אונטולוגי גדול בין עקרונות כאלה לבין מסגרת ממשל או רגולציה. מהי הטקסונומיה של השיקולים שרגולטור עשוי להצטרך לשקול? מסגור ממוקד צר יהיה לא חכם, בהתחשב בהשלכות הרחבות של טכנולוגיות אלו. פוטנציאל זה היה נושא לפרשנויות רבות, חיוביות ושליליות כאחד.

ה-ISC הוא ה-NGO העולמי העיקרי המשלב מדעי הטבע והחברה. טווח ההגעה הגלובלי והדיסציפלינרי שלו פירושו שהוא נמצא במיקום טוב לייצר עצות עצמאיות ורלוונטיות גלובליות כדי ליישר את הבחירות המורכבות שעומדות לפנינו, במיוחד מכיוון שהקולות הנוכחיים בזירה זו הם בעיקר מהתעשייה או מהמעצמות הטכנולוגיות הגדולות. לאחר דיון נרחב במהלך החודשים האחרונים, כולל בחינת תהליך הערכה לא ממשלתי, ה-ISC הגיע למסקנה שתרומתו המועילה ביותר תהיה לייצר ולתחזק מסגרת אנליטית אדפטיבית שיכולה לשמש כבסיס לשיח וקבלת החלטות על ידי כל מחזיקי העניין, לרבות במהלך כל תהליך הערכה רשמי שמתגלה. 

מסגרת זו תלבש צורה של רשימת בדיקה מקיפה שיכולה לשמש מוסדות ממשלתיים ובלתי-ממשלתיים כאחד. המסגרת מזהה ובוחנת את הפוטנציאל של טכנולוגיה כמו AI ונגזרותיה דרך עדשה רחבה המקיפה את הרווחה האנושית והחברתית, כמו גם גורמים חיצוניים, כגון כלכלה, פוליטיקה, סביבה וביטחון. היבטים מסוימים ברשימת התיוג עשויים להיות רלוונטיים יותר מאחרים, בהתאם להקשר, אך סביר יותר לקבל החלטות טובות יותר אם כל התחומים נחשבים. זהו הערך המובנה של גישת צ'ק-ליסט. 

המסגרת המוצעת נגזרת מעבודה וחשיבה קודמים, כולל דו"ח הרווחה הדיגיטלית של הרשת הבינלאומית לייעוץ מדע ממשלתי (INGSA)¹ ו-OECD AI Classification Framework² להציג את מכלול ההזדמנויות, הסיכונים וההשפעות הפוטנציאליות של AI. מוצרים קודמים אלו היו מוגבלים יותר בכוונתם בהתחשב בזמנם ובהקשרם, יש צורך במסגרת כוללת המציגה את מכלול הנושאים הן בטווח הקצר והן בטווח הארוך. 

למרות שפותחה עבור שיקול של AI, ניתן ליישם את המסגרת האנליטית הזו על כל טכנולוגיה שמתפתחת במהירות. הנושאים מקובצים באופן כללי לקטגוריות הבאות לבדיקה נוספת: 

• רווחה (כולל זו של יחידים או עצמי, חברה וחיים חברתיים, וחיים אזרחיים) 
• מסחר וכלכלה 
• סְבִיבָתִי 
• גיאו-אסטרטגי וגיאו-פוליטי 
• טכנולוגי (מאפייני מערכת, עיצוב ושימוש) 

רשימה של שיקולים עבור כל אחת מהקטגוריות לעיל כלולה יחד עם ההזדמנויות וההשלכות שלהן. חלקם רלוונטיים עבור מקרים או יישומים ספציפיים של AI בעוד שאחרים הם כלליים ואגנוסטיים לגבי פלטפורמה או שימוש. אין להתייחס לשיקול אחד הנכלל כאן בראש סדר העדיפויות, וככזה, יש לבחון את כולם. 

ניתן להשתמש במסגרת זו, אך לא רק, בדרכים הבאות: 

• לגשר על הפער בין עקרונות להערכה על ידי הקמת טקסונומיה משותפת מאומתת של מגוון השיקולים שיכולים לשמש מחזיקי עניין רלוונטיים כבסיס ליידע ולעצב חשיבה נוספת, לרבות כל מסגרת הערכה שעשויה להתפתח על ידי הרשויות. 

• כדי ליידע הערכות השפעה. חוק הבינה המלאכותית של האיחוד האירופי דורש מארגונים המספקים כלי בינה מלאכותית או מאמצים בינה מלאכותית בתהליכים שלהם לבצע הערכת השפעה כדי לזהות את הסיכון ביוזמותיהם וליישם גישת ניהול סיכונים מתאימה. המסגרת המוצגת כאן יכולה לשמש בסיס לכך. 

• לשפר את העקרונות האתיים הדרושים כדי להנחות ולנהל את השימוש ב-AI. המסגרת יכולה לעשות זאת על ידי מתן בסיס גמיש שעליו ניתן לפתח מערכות אמינות ולהבטיח שימוש חוקי, אתי, חזק ואחראי בטכנולוגיה. ניתן לבחון עקרונות אלה מול מכלול ההשפעות המוצגות במסגרת זו. 
• כדי להקל על נקיטת מלאי של אמצעים קיימים (כלומר, רגולציה, חקיקה, מדיניות) ולזהות כל פערים הדורשים התייחסות נוספת. 

• המסגרת אגנוסטית לטכנולוגיה ולשימוש בה. לכן זה יכול לשמש בתחומים די ברורים כמו ביולוגיה סינתטית. 

הטבלה הבאה היא עיצוב מוקדם של הממדים של מסגרת אנליטית. בהתאם לטכנולוגיה ולשימוש בה, חלק מהרכיבים יהיו רלוונטיים יותר מאחרים. הדוגמאות ניתנות כדי להמחיש מדוע כל תחום עשוי להיות חשוב; בהקשר, המסגרת תדרוש הרחבה רלוונטית מבחינה הקשרית. חשוב גם להבחין בין פיתוחי פלטפורמה לבין הבעיות הגנריות שעלולות לצוץ במהלך יישומים ספציפיים.  

מפתח ל מקורות המתארים

טקסט רגיל:
Gluckman, P. and Allen, K. 2018. הבנת רווחה בהקשר של טרנספורמציות דיגיטליות מהירות ותמורות נלוות. INGSA. https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf 

טקסט מודגש:
OECD. 2022. מסגרת OECD לסיווג מערכות בינה מלאכותית. OECD Digital Economy Papers, מס' 323, OECD Publishing, פריז. https://oecd.ai/en/classification 

טקסט נטוי:
מתארים חדשים (ממספר מקורות) 

בהתאם לתגובה לנייר דיון זה, קבוצת עבודה של מומחים תיווצר על ידי ה-ISC כדי להמשיך ולפתח או לתקן את המסגרת האנליטית לעיל, שבאמצעותה יכולים בעלי עניין לבחון באופן מקיף כל התפתחויות משמעותיות של פלטפורמות או מימדים של שימוש. קבוצת העבודה תהיה מגוונת מבחינה דיסציפלינרית, גיאוגרפית ודמוגרפית, עם מומחיות המשתרעת מהערכת טכנולוגיה ועד למדיניות ציבורית, מפיתוח אנושי ועד לסוציולוגיה ולימודי עתיד וטכנולוגיה. 

כדי לעסוק בנייר דיון זה, אנא בקר Council.science/publications/framework-digital-technologies 

אנשים רבים התייעצו בפיתוח מסמך זה, אשר גובש על ידי Sir Peter Gluckman, נשיא, ISC והמה סרידהאר, מדען ראשי לשעבר, משרד ההגנה, וכיום עמיתת מחקר בכירה, אוניברסיטת אוקלנד, ניו זילנד. 

אנו מודים במיוחד ללורד מרטין ריס, נשיא החברה המלכותית לשעבר ומייסד שותף של המרכז לחקר סיכונים קיומיים, אוניברסיטת קיימברידג'; פרופסור שיבאג'י סונדהי, פרופסור לפיזיקה, אוניברסיטת אוקספורד; פרופסור K Vijay Raghavan, לשעבר יועץ מדעי ראשי לממשלת הודו; אמנדיפ סינג גיל, שליח מזכ"ל האו"ם לטכנולוגיה; ד"ר Seán Óh Éigeartaigh, מנהל בכיר, המרכז לחקר סיכונים קיומיים, אוניברסיטת קיימברידג'; אמנדה-ג'ון ברונר, יועצת מדיניות בכירה ואיאן וויגינס, מנהל לענייני בינלאומיים, החברה המלכותית בבריטניה; ד"ר ג'רום דוברי, ד"ר מארי-לור סאלס, מנהלת המכון לבוגרי ז'נבה; מר צ'ור פארן לי, מרכז לעתידים אסטרטגיים, משרד ראש הממשלה, סינגפור; בארנד מונס וד"ר סיימון הודסון, הוועדה לנתונים (CoDATA); פרופ' יוקו האריאמה, יפן; פרופסור רמי קוויריון, נשיא, INGSA; ד"ר קלייר קרייג, אוניברסיטת אוקספורד ולשעבר ראש חטיבת הנולד, משרד המדע הממשלתי; ופרופ' יושע בנג'יו, המועצה המייעצת המדעית של מזכ"ל האו"ם ובאוניברסיטת מונטריאול. גישת ה-Checklist קיבלה אישור בדרך כלל והודגשה העדכניות של כל פעולה של ה-ISC.