El DeepMind Institute no abre el debate de la AGI: lo enmarca

Google DeepMind acaba de presentar el DeepMind Institute. TechCrunch, el 17 de septiembre de 2026, lo cuenta como un intento de ampliar el debate sobre la AGI. El sitio del instituto se presenta con otra frase: "Bold thinking on AGI from the lab that pioneered the field". Ideas audaces sobre la AGI, del laboratorio que abrió el campo.

TechCrunch pone el acento en la amplitud. El lema lo pone en la autoría. El pensamiento sale del laboratorio que abrió el campo y sigue en la carrera por construirlo. La misma casa monta el laboratorio de ideas que propone las reglas y el foro donde esas reglas se discuten.

Lo que hay encima de la mesa

TechCrunch sitúa los ensayos en un giro del debate industrial de seguridad: de declaraciones genéricas de preocupación hacia propuestas concretas de divulgación, escrutinio externo y ralentizaciones coordinadas. Según esa pieza, el giro se aceleró cuando varios líderes respaldaron el llamamiento de Dario Amodei a frenar el ritmo. The Rundown, el mismo día, enseña el otro borde de esa mesa: Zuckerberg se queda fuera de la ralentización. Hay quien quiere un freno coordinado y hay quien no se sienta. DeepMind entra con ensayos, no con otro comunicado de preocupación.

En su ensayo, los investigadores de seguridad de DeepMind Rohin Shah y Anca Dragan argumentan que la ventana decreciente de transparencia de la IA no es inevitable. Esa ventana es la posibilidad de verificar el razonamiento paso a paso de un modelo: no solo el resultado, sino cómo ha llegado hasta ahí. La industria se está acostumbrando a tratar esa opacidad como clima. Ellos dicen que el clima se puede cambiar.

Ver el razonamiento paso a paso decide si puedes auditar una decisión o solo fiarte del output. Si esa capacidad se da por perdida, cualquier regla posterior llega tarde: ya no hay nada que inspeccionar. Shah y Dragan no legislan. Dejan el argumento escrito en la casa que un día podría estar al otro lado de la mesa.

El marco de Demis Hassabis empuja otra palanca. Una vez demostrada la eficacia del sistema de evaluación, superar sus pruebas podría convertirse en requisito para desplegar modelos frontera en Estados Unidos. Frontera, aquí, son los más capaces, los que marcan el borde de lo que se sabe hacer. Hassabis añade que el marco podría endurecerse si la gravedad de la situación lo exige, incluyendo potencialmente una ralentización coordinada entre los desarrolladores de IA frontera.

Empieza como test voluntario. Si funciona, la llave del mercado estadounidense podría ser aprobar esas pruebas. La condición importa. El requisito no nace mañana: nace cuando alguien declare que el sistema ya funciona. Hassabis no dice que aprobar esas evaluaciones sea ya un requisito en Estados Unidos. Dice que podría serlo. La distancia entre las dos frases es toda la política del marco. Lo de endurecerlo cae justo en la pelea que The Rundown ilustra con Zuckerberg fuera: un laboratorio puede publicar la hipótesis del freno y, al mismo tiempo, seguir entrenando. El papel aguanta las dos cosas porque el papel no despliega el modelo.

La casa se descarga por escrito

El sitio del DeepMind Institute publica un disclaimer que conviene leer entero. Sus piezas son "iniciadores de conversación" que reflejan las ideas del autor y no deben leerse como la opinión oficial de Google.

TechCrunch recoge que el instituto se plantea como espacio para hacer visibles las discrepancias entre Google, Google DeepMind y la comunidad investigadora global. El anuncio admite que no siempre estarán de acuerdo y que cambiarán de opinión. Pueden pelearse en público. La pelea ocurre en su web. El laboratorio que redacta los borradores se reserva el derecho de no estar de acuerdo consigo mismo por escrito. La discrepancia se vuelve contenido. No se vuelve compromiso.

Las piezas son iniciadores de conversación. No son la opinión oficial de Google.

El ensayo de Hassabis sobre el marco de evaluación no es escritura nueva. Según el propio sitio del instituto, apareció primero en X y se recopiló en el lanzamiento. Un hilo previo convertido en pieza fundacional delata el orden: primero la posición, después el foro que la alberga.

El matiz honesto no es que todo sea un truco. Un laboratorio que publica borradores exploratorios tiene derecho a no atarse a cada idea y a marcar que un ensayo no es una hoja de ruta corporativa. Exigirle lo contrario mataría la exploración antes de empezar. Pero el mismo matiz corta al revés: la única entidad con capacidad real de convertir esas propuestas en norma es también la que se descarga de responsabilidad sobre ellas. El debate puede ser sincero y, aun así, no obligar a nadie. Si el sistema de evaluación escala como Hassabis describe, el entorno que hoy firma a título personal es el mismo que mañana podría estar del lado de quien pone el peaje.

No consta en las fuentes consultadas quién financia el DeepMind Institute, con qué presupuesto ni si es entidad independiente o un apéndice interno de Google. Tampoco cómo se seleccionan los ensayos ni con qué criterio se aceptan o se dejan fuera. Lo que sí está publicado es el lema, el disclaimer y el contenido de las propuestas. Con eso se lee el movimiento.

El debate ya tiene formato

Para quien sigue esto desde fuera, el cambio no es un manifiesto nuevo. Es el formato. Dejas de discutir si la AGI preocupa y pasas a discutir un marco con autores: si esa ventana de transparencia se puede sostener, si un test que nace voluntario en el laboratorio que compite por construir la AGI debe acabar siendo el peaje para desplegar en Estados Unidos, si una ralentización coordinada la pactan quienes tienen el incentivo más claro para no frenar.

Shah y Dragan firman la de la transparencia. Hassabis firma la del estándar. Google, por el disclaimer, no firma ninguna.

La industria pedía propuestas concretas. Las tiene, con nombre y fecha. Lo que no tiene es a nadie atado a cumplirlas. Hasta que, si el marco de Hassabis escala como él plantea, aprobar el test deje de ser una conversación y pase a ser la llave de la puerta.