“
Solo un puñado de científicos en la Tierra logran obtener la distinción de ganar un Premio Nobel, un logro único en la vida que queda grabado para siempre en los anales de la historia.
Esto hizo que fuera aún más extraordinario que Geoffrey Hinton hablara durante poco más de un minuto antes de criticar al CEO de OpenAI durante una sesión informativa improvisada convocada en honor a su premio.
Con solo dos horas de sueño, el científico de la computación claramente humilde dijo que ni siquiera sabía que estaba nominado para el premio. Después de agradecer a dos de sus colaboradores principales a lo largo de los años, Terry Sejnowski y el fallecido David Rumelhart, a quienes llamó “mentores”, Hinton pasó a reconocer el papel que sus estudiantes en la Universidad de Toronto han desempeñado a lo largo de los años para ayudar a realizar el trabajo de su vida.
“Han logrado grandes cosas”, dijo el martes. “Estoy particularmente orgulloso del hecho de que uno de mis estudiantes despidió a Sam Altman. Y creo que es mejor dejarlo ahí”.
A punto de cumplir un año desde el golpe en la sala de juntas
Hinton se refería a Ilya Sutskever. El ex científico jefe de OpenAI se unió a Helen Toner y otros dos en la junta directiva controladora sin fines de lucro para destituir a su CEO en un golpe espectacular en noviembre pasado. Sutskever rápidamente lamentó su papel al sumir a OpenAI en una crisis y Altman fue restituido en su cargo en cuestión de días.
Hinton y Sutskever se unieron a Alex Krizhevsky en 2012 para crear un algoritmo que podría identificar objetos en imágenes con un grado de certeza inaudito en ese momento. Apodado “AlexNet”, a menudo se le llama el Big Bang en la IA.
A menudo llamado uno de los padrinos de la inteligencia artificial, Hinton elogió el trabajo de sus colegas Yoshua Bengio y Yann LeCun antes de hacer repetidas observaciones auto-deprecatorias. Estas incluyeron admitir que cuando era un joven estudiante dejó el estudio de la física, el campo por el cual fue reconocido por el comité del Nobel, ya que no podía manejar las matemáticas.
La noticia del premio de Hinton llega a semanas del primer aniversario del breve, sorprendente y finalmente infructuoso derrocamiento de Altman, así como al segundo aniversario del lanzamiento de ChatGPT a fines de noviembre de 2022.
El chatbot generativo de IA de OpenAI provocó una ola de interés en la tecnología, a medida que el público en general comenzó a darse cuenta por primera vez de que las máquinas podrían superar a la humanidad en inteligencia en esta generación.
“Muchos buenos investigadores creen que en algún momento en los próximos 20 años, la IA será más inteligente que nosotros y necesitamos pensar mucho en lo que sucederá entonces”, dijo Hinton el martes.
Preocupaciones sobre la seguridad de la inteligencia artificial
Altman es una figura controvertida en la comunidad de IA. Ha sido llamado mentiroso por la ex miembro de la junta de OpenAI Helen Toner y ha privado a su equipo de seguridad de la IA de recursos, según un líder de equipo que ya no está en la empresa.
Actualmente, Altman está buscando desechar el estatus sin fines de lucro de OpenAI mientras corre para monetizar su tecnología, creando divisiones profundas dentro de la organización. Esto ha provocado una catarata de investigadores en la empresa centrados en alinear la inteligencia artificial general con los intereses de la humanidad como especie aún dominante en la Tierra.
Al preguntarle sobre su comentario despectivo hacia Altman al comienzo de la sesión informativa, Hinton explicó su razonamiento.
“Con el tiempo resultó que a Sam Altman le preocupaba mucho menos la seguridad que las ganancias”, dijo, “y creo que eso es lamentable”.
No se pudo contactar a OpenAI para hacer comentarios.
Hinton insta a la investigación urgente sobre la seguridad de la IA
Figuras destacadas como Hinton, de 76 años, temen que poner las ganancias por encima de la ética sea inherentemente peligroso en el momento actual. Ya es difícil para los científicos predecir cómo los modelos de IA más avanzados de hoy, con sus billones de parámetros, llegan realmente a sus resultados. De hecho, están convirtiéndose en cajas negras y una vez que eso sucede, es cada vez más difícil asegurar que los humanos mantengan la supremacía.
“Cuando tengamos cosas más inteligentes que nosotros, nadie realmente sabe si podremos controlarlas”, dijo Hinton, quien se comprometió a dedicar sus esfuerzos a abogar por la seguridad de la IA en lugar de liderar la investigación de vanguardia.
Este riesgo de desconocidos desconocidos es la razón por la cual la legislatura del estado de California propuso un proyecto de ley de seguridad de la IA que fue el primero de su tipo en Estados Unidos. Influyentes inversores de Silicon Valley como Marc Andreessen hicieron campaña enérgicamente en contra del proyecto de ley, sin embargo, y finalmente fue vetado por el gobernador Gavin Newsom el mes pasado.
Al preguntarle sobre el potencial riesgo catastrófico que representa una IA fuera de control, Hinton admitió que no hay certeza.
“No sabemos cómo evitarlos todos en la actualidad”, dijo, “por eso necesitamos con urgencia más investigación”.
Boletín recomendado
Data Sheet: Mantente al tanto del negocio de la tecnología con un análisis reflexivo sobre los nombres más importantes de la industria.
Inscríbete aquí.”