@DarioAmodei · América del Norte
Dario Amodei forma parte del seguimiento de El Estado de Israel sobre empresas y sociedad civil vinculado a Estados Unidos, en el capítulo de América del Norte.
2/2 Segundo, sobre el mensaje en torno a la IA. No estoy de acuerdo con que mi mensaje haya sido desproporcionadamente negativo. De hecho, ha estado más o menos equilibrado entre los riesgos y los beneficios: he escrito un ensayo importante sobre cada uno, e incluso en entrevistas en las que hablo de los riesgos, me aseguro de mencionar con frecuencia los increíbles beneficios, además de proponer posibles soluciones a los riesgos (los clips cortos de mis entrevistas que terminan en las redes sociales tienden a ser desproporcionadamente negativos, porque eso consigue clics). De hecho, escribí Machines of Loving Grace porque no sentía que la industria de la IA estuviera ofreciendo una imagen lo suficientemente inspiradora de cómo la tecnología podría transformar radicalmente el mundo para mejor. La mayor parte del ensayo está dedicada a refutar el escepticismo sobre el potencial de la IA en la salud y la biología, y a mostrar por qué creo que realmente será posible curar la mayoría de las enfermedades humanas en unos 5 a 10 años, por descabellado que pueda sonar a la gente común y, francamente, también a los biólogos (¡yo lo fui!). Y, si leen mi ensayo más reciente (Policy on the AI Exponential), analizo propuestas concretas para agilizar el proceso de la FDA y asegurar que la avalancha de medicamentos acelerados por la IA no se vea frenada por el proceso regulatorio. Siento la urgencia: perdí a mi padre por hepatitis C solo unos pocos años antes del desarrollo de los antivirales de acción directa (sofosbuvir), que curan al 95% de los pacientes y probablemente lo habrían curado a él. Sí estoy de acuerdo en que el público tiene una visión negativa de la IA (y que esto es un gran problema), pero no creo que se deba principalmente a mí ni a ningún otro líder de la IA que advierta sobre los riesgos de la IA. Creo que fundamentalmente es una crisis de confianza. Creo que la gente común no confía en las empresas, los gobiernos ni la industria tecnológica, y siempre sospecha que estamos tramando una nueva forma de fastidiarla. Las causas de esto se remontan a décadas atrás y la IA es solo la última manifestación. No creo que una campaña de marketing llamativa y con un giro positivo (como algunos han propuesto que haga Anthropic) sea la forma de recuperar esa confianza; a estas alturas, decir que la IA curará el cáncer es más un cliché que algo inspirador, y la mayoría de la gente piensa que es engañoso. Lo que funcionará es curar realmente el cáncer. Creo que, con mucha diferencia, la crítica más acertada a las empresas de IA, incluida Anthropic, es que todavía no hemos cumplido nuestras grandes promesas de beneficiar al mundo. Eso es totalmente responsabilidad nuestra, y creo que esa es la crítica que deberían hacer, en lugar de todo esto sobre mensajes y marketing. Sin embargo, estamos haciendo todo lo posible para solucionarlo: Anthropic está intensificando muy rápidamente sus esfuerzos en biología y medicina, y esperamos obtener resultados increíbles en los próximos años y algunos primeros indicios en los próximos meses. Cuando hayamos conseguido algo real de verdad, todo el mundo se enterará, con el mayor énfasis posible, tienen mi palabra. Pero hasta entonces no quiero hacer promesas vacías y, mientras tanto, me siento obligado a hablar con honestidad sobre los riesgos muy reales de la IA y sobre cómo abordarlos. La honestidad es lo correcto por sus propios méritos y, en términos de credibilidad y confianza públicas, no es peor —y de hecho puede ser mejor— que un enfoque que ignore o distraiga de riesgos que la gente entiende instintivamente que son reales.
No pudimos completar esa acción. Comprueba tu conexión e inténtalo de nuevo.
