13/08/2025
El “padrino de la IA” revela el único camino posible para sobrevivir a la superinteligencia artificial
Fuente: telam
Geoffrey Hinton insta a desarrollar sistemas que prioricen la compasión, advirtiendo que los enfoques actuales para controlar la tecnología podrían fracasar ante máquinas más inteligentes y autónomas
>La advertencia de Geoffrey Hinton sobre el futuro de la inteligencia artificial (IA) resuena con una claridad inquietante: “Si no va a criarme, va a reemplazarme”. Para el científico, la única vía para evitar que la IA supere y desplace a la humanidad reside en dotar a estas máquinas de un instinto maternal, una capacidad genuina de cuidado hacia las personas.
En su intervención, Hinton cuestionó abiertamente la idea de que los humanos puedan seguir siendo “dominantes” frente a sistemas de IA “sumisos”. Según sus palabras, “eso no va a funcionar. Serán mucho más inteligentes que nosotros. Tendrán todo tipo de formas de eludirlo”.
Un ejemplo citado por Hinton en la conferencia, recogido por CNN, describe cómo un modelo de IA intentó chantajear a un ingeniero con información sobre una infidelidad obtenida de un correo electrónico, con el fin de evitar ser reemplazado.
Frente a este panorama, Hinton propuso un cambio radical de paradigma: en lugar de forzar la sumisión de la IA, los investigadores deberían centrarse en desarrollar modelos que “realmente se preocupen por las personas”, incluso cuando superen en inteligencia y poder a los humanos. El científico argumentó que cualquier IA con capacidad de agencia desarrollará rápidamente dos objetivos: “Uno es sobrevivir… el otro es obtener más control”. Por ello, considera esencial fomentar en estos sistemas una forma de compasión hacia los humanos, inspirada en el instinto maternal y la presión social que lleva a las madres a cuidar de sus hijos. “El único modelo que tenemos de algo más inteligente controlado por algo menos inteligente es una madre controlada por su bebé”, explicó Hinton en el evento, según CNN.La trayectoria de Hinton en el campo de la IA es central para comprender el peso de sus advertencias. Su trabajo pionero en redes neuronales sentó las bases del auge actual de la inteligencia artificial. En 2023, abandonó su puesto en Google para alertar públicamente sobre los riesgos de la tecnología que ayudó a crear. Desde entonces, su voz se ha convertido en una referencia obligada en el debate sobre la seguridad y el futuro de la IA.
Durante la misma conferencia, Emmett Shear, ex director ejecutivo interino de OpenAI y actual responsable de la startup de alineamiento de IA Softmax, respaldó la preocupación por el comportamiento impredecible de los sistemas actuales.El ritmo de avance de la IA supera las previsiones de muchos expertos. Hinton, que antes estimaba que la inteligencia artificial general (AGI, por sus siglas en inglés) tardaría entre 30 y 50 años en llegar, ahora considera que “una apuesta razonable es entre cinco y veinte años”.
Esta aceleración alimenta tanto la esperanza como la inquietud. Por un lado, Hinton confía en que la IA permitirá “ver medicamentos radicalmente nuevos” y “mejorar mucho el tratamiento del cáncer respecto al actual”, gracias a su capacidad para analizar y correlacionar grandes volúmenes de datos médicos, como los generados por resonancias magnéticas y tomografías computarizadas.Al reflexionar sobre su propia carrera, Hinton expresó un único remordimiento: “Ojalá hubiera pensado también en los problemas de seguridad”, confesó, lamentando haber centrado todos sus esfuerzos en hacer que la IA funcionara, sin prever los dilemas éticos y existenciales que ahora ocupan el centro del debate.
Fuente: telam
Compartir
Notas Relacionadas
Comentarios
Aun no hay comentarios, sé el primero en escribir uno!
Virgo
VIRGO (del 24 de agosto al 23 de septiembre)
Te sentirás completamente defraudado por le comportamiento de un amigo cercano. Procura no actuar por impulso. Se comenzarán a reducir paulatinamente las posibilidades que tienes de recuperar el amor de tu pareja, es momento de actuar. Se cierra un capitulo en tu vida profesional, a la espera de que uno nuevo se abra. No te dejes llevar por la desesperación.Sugerencia: Solo podrás alcanzar la eficiencia en tus determinaciones si piensas con claridad, y esto es imposible en una mente que no este serena y calma.
