“
Dario Amodei, CEO de la startup de inteligencia artificial Anthropic, valuada en $19 mil millones, no cree que la humanidad esté en peligro inmediato por la evolución de modelos y herramientas de inteligencia artificial. Sin embargo, tiene un problema con la justificación que algunos de sus colegas utilizan para minimizar los riesgos.
Hablando en una conferencia de inteligencia artificial en San Francisco el miércoles, Amodei criticó la idea de que los modelos de IA son, y siempre serán, simples chatbots con habilidades limitadas. En particular, criticó una versión de esta mentalidad defendida por Marc Andreessen, el famoso capitalista de riesgo y defensor de la IA sin restricciones, quien ha desestimado las preocupaciones argumentando que la IA es simplemente matemáticas. “Restringir la IA significa restringir las matemáticas, el software y los chips”, tuiteó Andreessen en marzo.
En opinión de Amodei, esta lógica no se sostiene, ya que todo en el mundo se puede clasificar como matemáticas. “¿Acaso tu cerebro no es solo matemáticas? Una neurona dispara y suma cálculos, eso también son matemáticas”, dijo en el escenario durante la conferencia Cerebral Valley de Eric Newcomer el miércoles. “No deberíamos tener miedo de Hitler, es solo matemáticas. Todo el universo es matemáticas.”
Amodei, ex vicepresidente de OpenAI que dejó la compañía en 2021 para iniciar la firma rival LLM Anthropic, está entre un grupo de ejecutivos de IA que advierten abiertamente sobre los posibles riesgos de la tecnología, desde modelos rebeldes hasta actores malintencionados. El CEO apoya cierta regulación de la industria de la IA e incluso Anthropic respaldó un controvertido proyecto de ley de California en ese sentido, que finalmente fue vetado.
Andreessen, cuya firma de capital riesgo ha invertido miles de millones de dólares en decenas de compañías de IA, incluidas OpenAI y Xai de Elon Musk, está en el otro lado: un “baby boomer” de la IA que exige el desarrollo sin restricciones de la tecnología de IA por parte de empresas individuales. “La ‘regulación’ de la IA (matemáticas) es la base de un nuevo totalitarismo”, escribió el VC el año pasado. También llamó “culto” a los críticos de la seguridad de la IA, o “doomers”. Un representante de Andreessen declinó hacer comentarios sobre la crítica de Amodei.
Amodei reconoció durante la conferencia que los modelos de IA de hoy “no son lo suficientemente inteligentes… ni lo suficientemente autónomos” como para representar un riesgo serio para las personas. Pero señaló que la tecnología está evolucionando rápidamente, con “agentes” de IA que son capaces de actuar autónomamente en nombre de un comando humano. A medida que esas herramientas aún incipientes cobran protagonismo, Amodei dijo que el público tendrá una comprensión más profunda de lo que la IA es capaz y de los posibles daños.
“Hoy la gente se ríe cuando los chatbots dicen algo un poco impredecible”, dijo Amodei. “Pero vamos a tener que hacer un mejor trabajo controlando a los agentes que eso.”
¿Eres un empleado de una empresa tecnológica o alguien con información o un consejo para compartir? Contacta a Kali Hays de forma segura a través de Signal al +1-949-280-0267 o en [email protected]. ¿A cuántos grados de separación estás de los líderes empresariales más poderosos del mundo? Explora quiénes conforman nuestra nueva lista de las 100 personas más poderosas en los negocios. Además, conoce las métricas que utilizamos para elaborarla.”