@DarioAmodei · צפון אמריקה
דריו אמודי נכלל במעקב של מדינת ישראל לצורך סיקור עסקים וחברה אזרחית הקשור לארצות הברית, בפרק אמריקה הצפונית.
2/2 שנית, לגבי המסרים סביב בינה מלאכותית. איני מסכים שהמסרים שלי היו שליליים באופן בלתי מידתי. למעשה, הם היו מאוזנים בערך במידה שווה בין סיכונים לתועלות: כתבתי מאמר מרכזי אחד על כל אחד מהנושאים, וגם בראיונות שבהם אני דן בסיכונים, אני מקפיד להזכיר לעיתים קרובות את התועלות המדהימות, ובמקביל להציע פתרונות אפשריים לסיכונים (קטעים קצרים מהראיונות שלי שמגיעים לרשתות החברתיות נוטים להיות שליליים באופן בלתי מידתי, כי זה מביא הקלקות). למעשה, כתבתי את Machines of Loving Grace משום שלא הרגשתי שתעשיית הבינה המלאכותית מציגה תמונה מעוררת השראה דיה של האופן שבו הטכנולוגיה יכולה לשנות את העולם מן היסוד לטובה. עיקר המאמר מוקדש להפרכת הספקנות בנוגע לפוטנציאל של בינה מלאכותית בבריאות ובביולוגיה, ולהסבר מדוע אני חושב שבאמת יהיה אפשר לרפא את רוב המחלות האנושיות בתוך כ־5–10 שנים, עד כמה שזה עשוי להישמע מטורף לאנשים מן השורה ולמען האמת גם לביולוגים (גם אני הייתי ביולוג!). ואם תקראו את המאמר האחרון שלי (Policy on the AI Exponential), אני דן בו בהצעות קונקרטיות לייעול תהליך ה־FDA, כדי לוודא שזרם התרופות המואץ באמצעות בינה מלאכותית לא יואט בשל התהליך הרגולטורי. אני חש כאן את הדחיפות: איבדתי את אבי להפטיטיס C שנים ספורות בלבד לפני פיתוח התרופות האנטי־ויראליות הישירות (sofosbuvir), שמרפאות 95% מהמטופלים וכנראה היו מרפאות גם אותו. אני בהחלט מסכים שלציבור יש דעה שלילית על בינה מלאכותית (ושזו בעיה גדולה), אבל איני חושב שהיא נגרמת בעיקר בגללי או בגלל מנהיג אחר כלשהו בתחום הבינה המלאכותית שמזהיר מפני הסיכונים של בינה מלאכותית. אני חושב שביסודה זהו משבר אמון. אני חושב שאנשים מן השורה אינם סומכים על חברות, ממשלות או על תעשיית הטכנולוגיה, ותמיד חושדים שאנחנו רוקחים דרך חדשה לדפוק אותם. הסיבות לכך חוזרות עשרות שנים לאחור, והבינה המלאכותית היא רק הגלגול האחרון של התופעה. איני חושב שקמפיין שיווקי נוצץ עם מסר חיובי (כפי שחלק מהאנשים הציעו ל־Anthropic לעשות) הוא הדרך להשיב את האמון הזה — בשלב הזה, האמירה שבינה מלאכותית תרפא סרטן היא יותר קלישאה מאשר דבר מעורר השראה, ורוב האנשים חושבים שהיא מטעה. מה שיעבוד הוא באמת לרפא סרטן. אני חושב שהביקורת המדויקת ביותר, בפער גדול, על חברות בינה מלאכותית, כולל Anthropic, היא שעדיין לא קיימנו את ההבטחות הגדולות שלנו להועיל לעולם. זה לגמרי באחריותנו, ואני חושב שזו הביקורת שעליכם להשמיע, במקום כל הדיבורים האלה על מסרים ושיווק. עם זאת, אנחנו עושים כמיטב יכולתנו לתקן זאת: Anthropic מגבירה במהירות רבה את מאמציה בביולוגיה וברפואה, ואנחנו מקווים להשיג תוצאות מדהימות בשנים הקרובות וכמה ניצנים ראשונים כבר בחודשים הקרובים. כשבאמת נשיג משהו ממשי, העולם כולו ישמע על כך, בקול רם ככל האפשר, יש לכם את מילתי. אבל עד אז איני רוצה להבטיח הבטחות ריקות, ובינתיים אני מרגיש מחויב לדבר בכנות על הסיכונים הממשיים מאוד של בינה מלאכותית ועל הדרכים להתמודד איתם. כנות היא הדבר הנכון לגופו של עניין, ומבחינת אמינות ואמון הציבור, היא אינה גרועה יותר — ואולי אף טובה יותר — מגישה שמתעלמת מסיכונים שאנשים מבינים באופן אינסטינקטיבי שהם אמיתיים או מסיחה את הדעת מהם.
לא הצלחנו להשלים את הפעולה. בדקו את החיבור ונסו שוב.
