IBL News | Nueva York
Dario Amodei, CEO de Anthropic, advirtió del peligro inminente que representa la inteligencia superhumana para la civilización. Este empresario es uno de los magnates más vocales sobre el riesgo de la IA.
“La humanidad está a punto de recibir un poder casi inimaginable, y no está claro en absoluto si nuestros sistemas sociales, políticos y tecnológicos poseen la madurez para manejarlo,” escribió Dario Amodei en un ensayo de 38 páginas. “Creo que estamos entrando en un rito de paso, turbulento e inevitable, que pondrá a prueba quiénes somos como especie.”
Actualmente, la IA se encarga del 90% de la programación informática de la empresa.
Sin embargo, él insiste en que es optimista de que los humanos sabrán navegar esta transición, pero “solo si los líderes en IA y el gobierno son francos con la gente y toman las amenazas más en serio de lo que hacen hoy en día.”
En su ensayo, “La Adolescencia de la Tecnología: Enfrentando y Superando los Peligros de una IA Poderosa”, Dario Amodei hace afirmaciones tales como:
- “La IA perturbará el 50% de los trabajos de cuello blanco de nivel de entrada en 1-5 años.”
- “Creo que la mejor forma de entender los riesgos de la IA es haciendo la siguiente pregunta: suponga que un ‘país de genios’ literal se materializara en algún lugar del mundo en ~2027. Imagine, por ejemplo, 50 millones de personas, cada una de las cuales es mucho más capaz que cualquier ganador del Premio Nobel, estadista o tecnólogo… Creo que debería quedar claro que esta es una situación peligrosa — un informe de un competente oficial de seguridad nacional a un jefe de estado probablemente contendría palabras como ‘la amenaza de seguridad nacional más seria que hemos enfrentado en un siglo, posiblemente en la historia.’ Parece ser algo en lo que las mejores mentes de la civilización deberían concentrarse.”
- “Hay evidencia de que muchos terroristas tienen al menos una educación relativamente buena. La biología es, con mucho, el área que más me preocupa, debido a su enorme potencial destructivo y la dificultad de defendernos contra ella.”
- “El gobierno de China es actualmente autocrático y opera un estado de vigilancia de alta tecnología. El autoritarismo habilitado por la IA me aterra.”
- “Las empresas de IA controlan grandes centros de datos, capacitan modelos fronterizos, tienen la mayor experiencia en cómo usar esos modelos, y en algunos casos tienen contacto diario y la posibilidad de influir en decenas o cientos de millones de usuarios. Podrían, por ejemplo, usar sus productos de IA para lavar el cerebro de su enorme base de usuarios consumidores, y el público debe estar alerta sobre el riesgo que esto representa. Creo que la gobernanza de las empresas de IA merece mucha atención.”
- “Hay mucho dinero en juego con la IA — literalmente billones de dólares al año.”
- “Las personas adineradas tienen la obligación de ayudar a resolver este problema. Me entristece que muchos individuos adinerados (especialmente en la industria tecnológica) hayan adoptado recientemente una actitud cínica y nihilista de que la filantropía es inevitablemente fraudulenta o inútil.”
- “La humanidad necesita despertar, y este ensayo es un intento —posiblemente fútil, pero vale la pena intentarlo— de sacudir a la gente despierta.”
