El sello de provenance en papers con IA no frena la basura: el sistema premia publicar a toda costa

El sello bonito y la alcantarilla abierta

Hay una idea que suena bien en cualquier mesa de regulación: si un paper se ha escrito con IA, que lo diga. Un sello. Un campo en el formulario. Provenance. Origen. Transparencia. Todo el mundo se va a casa con la conciencia limpia y el abstract con una etiqueta.

Esa idea es incompleta hasta el punto de ser peligrosa. No porque etiquetar el uso de un modelo sea malo (no lo es), sino porque confunde el síntoma con la tubería. La tubería es un sistema académico y de descubrimiento que premia publicar a toda costa, indexa casi cualquier cosa y apenas castiga la mierda hasta que ya ha contaminado citas, políticas y titulares.

Lo que sí tenemos medido no es un debate abstracto sobre ética. Es un problema de registro científico saturado. Según un estudio publicado en Misinformation Review (revista del Harvard Kennedy School) y recogido por Gizmodo en enero de 2025, al analizar textos generados por IA en Google Scholar se encontró que el 66% de los trabajos examinados usaban GPT sin declararlo. No "un puñado de preprints raros". Una mayoría de la muestra. Y no solo en el basurero de la web: también en revistas y actas de congresos.

Lee eso otra vez. No es "la IA ha llegado a la ciencia". Es "la IA ya está dentro del sistema de citas y nadie la está marcando de forma fiable".

El sello de provenance, en ese contexto, es un parche de marketing moral si no cambia lo que el sistema recompensa.

Qué midió el estudio (y qué no hay que inventar)

Hay que ser precisos, porque aquí es fácil pasar de dato a panfleto.

El trabajo se centró en GPT (transformadores generativos pre-entrenados, incluida la familia de ChatGPT) y usó como marcadores frases típicas de chatbots. No es un censo de toda la ciencia mundial. No es un veredicto de que "dos tercios de Google Scholar es basura de IA". Es un análisis de un conjunto de trabajos en Scholar con indicios de texto generado, y dentro de ese conjunto el 66% no declaraba el uso.

Eso importa por dos motivos.

Primero: la no declaración es el default. Si el 66% de lo detectado no lo admite, el sello voluntario ya ha fallado en el campo de batalla real. Quien usa el modelo para fabricar relleno y meter ruido en el registro no va a ser el primero en rellenar el checkbox de transparencia.

Segundo: algunos de esos trabajos aparecieron en publicaciones revisadas por pares. Ahí se cae el cuento de "tranquilos, los editores filtran". Las brechas editoriales existen. El estudio, tal como lo resume Gizmodo, las deja a la vista.

Sobre temas, el mismo reportaje señala que, dentro de lo examinado, computación (23%), medio ambiente (19,5%) y salud (14,5%) concentraban buena parte del material. Son proporciones del material del estudio, no un mapa oficial y actualizado de toda la ciencia en 2026. No las trates como censo vivo. Trátalas como señal: las áreas donde hay prisa, financiación, impacto mediático o volumen brutal de papers son terreno fértil para relleno automatizado.

Y un aviso de higiene: el estudio se publicó en una revista asociada a Harvard Kennedy School. Eso no significa que "Harvard lo haya liderado" ni que sea un informe institucional de la universidad. Es un paper en esa revista. Punto. La autoridad viene del método y de la muestra, no del branding del campus.

Google Scholar no es una biblioteca: es un open bar con moqueta de academia

Aquí está el matiz que mucha gente se traga sin masticar.

Google Scholar, tal como se describe en ese contexto de 2025, indexa sin verificar credenciales ni revisión por pares. Mezcla investigación legítima con informes, trabajos de estudiantes y todo lo que huela a "paper-like". No es PubMed con filtros duros. No es una base de datos curada por una sociedad científica. Es un motor de descubrimiento que prioriza encontrar y rankear, no certificar.

Eso no es un insulto gratuito a Google. Es el diseño del producto. Y ese diseño tiene un efecto colateral brutal cuando llega la generación masiva de texto:

• Si puedes producir un PDF con formato de artículo, bibliografía y abstract pomposo…
• y Scholar lo indexa…
• y alguien lo cita porque aparece alto o porque "suena académico"…

…entonces has convertido la generación de basura en una estrategia de visibilidad.

El estudio señala exactamente dos riesgos que no son teoría de bar:

1. Saturación del sistema de comunicación académica con estudios fabricados, amenazando el registro científico.
2. Contenido engañoso optimizado para buscadores como Google Scholar.

El segundo es el que menos se discute y el que más duele. No hace falta engañar a un revisor estrella de Nature si engañas al ranking de un buscador que miles de periodistas, consultores, estudiantes y gestores usan como atajo. El paper basura no necesita ser "verdad". Necesita ser encontrable.

Provenance no arregla eso. Un sello "escrito con asistencia de IA" en un PDF basura sigue siendo un PDF basura indexable. Cambias la etiqueta del tarro. No cambias si el tarro entra en la despensa.

"Hackeo de evidencia": cuando la basura se cuela en las decisiones

Björn Ekström, de la Universidad de Borås, pone el dedo en la llaga con una fórmula que debería estar en la pared de cualquier redacción y de cualquier ministerio: hackeo de evidencia.

La idea es simple y fea. Si la IA genera contenidos que se infiltran en buscadores, puedes acabar con decisiones sociales (políticas públicas, guías clínicas de segunda fila, informes de consultoría, white papers corporativos) apoyadas en información incorrecta que parece investigación.

Jutta Haider, de la misma universidad, lo dice sin anestesia: si no podemos confiar en la autenticidad de la investigación, nos arriesgamos a tomar decisiones basadas en información incorrecta. Su apuesta: alfabetización informática y mediática.

Aquí conviene separar capas, porque si no se convierte todo en un grito de "¡la IA nos miente!".

• Autenticidad del proceso: ¿quién generó el texto, con qué ayuda, con qué datos?
• Validez del resultado: ¿el experimento se hizo, las cifras cuadran, el método se puede replicar?
• Fiabilidad del canal: ¿el sitio donde lo encontraste filtra basura o solo indexa?

Provenance ataca, como mucho, la primera capa y solo si se declara con honestidad. No te dice si el dataset es basura, si el p-valor se maquilló, si las figuras son inventadas o si el paper es off-topic y mal escrito. Y no te salva si el canal de descubrimiento (Scholar y clones de comportamiento similar) te sirve basura bien maquillada en la primera página.

La alfabetización que pide Haider no es un taller de PowerPoint. Es entrenar a la gente a preguntar: ¿esto está en un repositorio serio?, ¿hay revisión real?, ¿puedo ver datos?, ¿el paper existe fuera de un PDF optimizado para SEO académico? Sin eso, el sello es un amuleto.

La basura científica no nació con ChatGPT

Si crees que esto es un drama exclusivo de 2023 en adelante, te están vendiendo amnesia.

Gizmodo recuerda un antecedente de 2021: Springer Nature retractó más de 40 artículos del Arabian Journal of Geosciences por ser off-topic y mal escritos. No hacía falta un LLM de última generación para inundar una revista con basura. Bastaba con el incentivo de publicar, las fábricas de papers y filtros editoriales que no aguantan el chaparrón.

Y más tarde (en un febrero sin año preciso en el reportaje, lo que ya debería ponerte en guardia a la hora de citas finas) Frontiers retiró un artículo con imágenes anatómicamente incorrectas generadas por Midjourney. Filtros insuficientes. Figuras de mentira. El ridículo a la vista de todos.

Ese episodio no demuestra que Midjourney sea "la" herramienta del fraude. El estudio de Scholar se centró en texto GPT. El de Frontiers es otro vector: imagen sintética. Juntos cuentan la misma historia estructural: cuando el sistema de publicación no aguanta el volumen, cualquier generador barato se convierte en herramienta de spam científico.

La IA no inventó la ciencia basura. La industrializó. Bajó el coste marginal de producir un artefacto que parece investigación. Antes necesitabas un equipo de paper mills, traductores cutres y figuras robadas. Ahora te basta un prompt, un editor de PDF y paciencia para repetir.

Por eso el sello de provenance llega tarde y corto. Etiqueta el martillo. No pregunta por qué hay tanta gente martilleando basura hacia las revistas.

Por qué etiquetar el origen no frena la inundación

Vamos al núcleo del argumento, sin humo.

1. Quien fabrica no declara

Si el 66% de los trabajos con indicios de GPT en la muestra no declaraban su uso, el régimen de "dilo y listo" ya está roto en la práctica. La declaración voluntaria captura a los honestos y deja fuera a los que usan el modelo precisamente para saltarse el trabajo. Provenance sin verificación es un honor system en un casino.

2. Declarar "uso de IA" no mide calidad

Un paper puede decir "asistido por GPT para redacción" y ser sólido. Otro puede no usar un chatbot y ser un fraude clásico de datos inventados. El sello no distingue reescritura legítima de alucinación con bibliografía. Convierte un problema de validez en un problema de procedencia cosmética.

3. El canal de descubrimiento premia lo encontrable, no lo cierto

Mientras Scholar (en el estado descrito en 2025) mezcle sin verificación fuerte investigación legítima con relleno, el incentivo es producir más PDF "citables", no mejores experimentos. El contenido engañoso optimizado para buscadores no se cura con un badge. Se cura con ranking, filtrado, desindexación y fricción.

4. El sistema de carrera premia volumen

Aquí está el elefante que los sellos no tocan. Si tu plaza, tu grant o tu ego dependen de contar papers, cualquier herramienta que multiplique output gana. La IA es la herramienta perfecta para un mercado de prestigio que confunde cantidad con contribución. Provenance sin reformar evaluación es como poner un cartel de "comida procesada" en un buffet libre donde solo miden cuántos platos te comes.

5. Los filtros editoriales ya fallaban

Revisión por pares no es magia. El material con indicios de GPT llegó a revistas y congresos. Frontiers se comió un paper con anatomía de videojuego. Springer tuvo que retractar decenas de artículos off-topic. Si el cuello de botella humano no escala, el sello no escala por ti. Solo te da una casilla más que alguien puede mentir o rellenar de forma ambigua ("mejoramos la redacción con herramientas digitales").

Qué haría un sello de verdad (y qué es postureo)

No estoy en contra de registrar el uso de modelos. Estoy en contra de venderlo como dique.

Un provenance útil se parecería más a esto:

• Qué modelo, qué versión, para qué tarea (redacción, código, traducción, generación de figuras), no un sí/no binario.
• Qué partes del paper tocó (introducción, discusión, abstract) y qué partes son resultado experimental crudo.
• Datos y código en repositorio verificable, no capturas de pantallas y promesas.
• Auditoría muestral: no confíes en la declaración; revisa una fracción al azar y castiga la mentira con retractación y marca negra en el registro.
• Política de indexación: que los buscadores académicos distingan con claridad preprints sin revisión, papers retractados, revistas depredadoras y material estudiantil. Si todo "parece paper", el ranking hace el resto del daño.

Y sobre todo: cambiar la moneda de la carrera. Menos contar papers. Más auditar datasets, replicar resultados y premiar calidad lenta. Mientras el KPI sea "cuántos ítems has metido en el contador este año", la IA será un acelerador de ruido y el sello será un sticker en la carcasa.

El registro científico no aguanta spam a coste cero

Hay una analogía que funciona sin adornos: el email.

Cuando mandar correo costó casi cero, el spam no se resolvió pidiendo a los spammers que pusieran "este mensaje es publicidad" en el asunto. Se resolvió (a medias) con filtros, reputación del remitente, fricción y castigo. El asunto transparente ayuda al usuario decente. No detiene la manguera.

La comunicación académica está entrando en esa fase. El coste de producir un artefacto con pinta de paper se ha desplomado. El coste de revisarlo no. El coste de limpiar el registro después, tampoco. Resultado: asimetría perfecta para el spam.

Los dos riesgos del estudio (saturación del registro y optimización engañosa para buscadores) son exactamente esa asimetría. Provenance sin fricción es el "ASUNTO: publicidad" del mundo académico. Simbólico. Insuficiente.

Lo que el lector de a pie debería hacer ya (sin esperar a la regulación perfecta)

No necesitas un comité europeo para no tragar basura.

• No cites solo porque está en Scholar. Scholar encuentra. No certifica. (Estado descrito en 2025; si sus políticas cambian, genial, pero no lo des por hecho sin mirar.)
• Busca la revista, el DOI, la editorial y si hay retractaciones. Si el paper solo vive como PDF huérfano con formato genérico, trata esa alarma en serio.
• Desconfía de la prosa perfecta sin sustancia. Frases suaves, estructura de chatbot y cero datos descargables es un patrón, no una coincidencia. El estudio usó precisamente marcas lingüísticas típicas de GPT como señales.
• En salud, medio ambiente y computación, sube el listón. Son zonas calientes en la muestra del análisis. No significa que "todo sea falso". Significa que el ruido tiene más dónde esconderse.
• Exige método, no vibe. Si no hay forma de reproducir el experimento o de ver el dataset, no es "ciencia con IA". Es un ensayo con disfraz.

Y si eres editor, revisor o gestoras de repositorio: deja de tratar la declaración de IA como checkbox de cumplimiento y empiézala a tratar como pista de auditoría. La casilla sola no salva tu revista. Tu proceso de filtrado sí puede hundirla o sostenerla.

Criterio, no talismanes

La conversación pública adora los talismanes. "Que se declare la IA". "Que haya un watermark". "Que el PDF diga de dónde salió". Suena a control. Da titulares. Cabe en un tuit de política científica.

El dato de 2025 es más tosco y más útil: en la muestra examinada en Google Scholar, la mayoría de los trabajos con indicios de GPT no lo declaraban, y el material no se limitaba al margen: tocaba también el circuito de revistas y congresos. Encima, el buscador que mucha gente confunde con "la ciencia" indexaba sin el filtro de credenciales y revisión que la gente imagina. Añade un historial previo de retractaciones masivas y de figuras sintéticas que se colaron, y el cuadro es claro.

El problema no es solo que la IA escriba. Es que el sistema de publicar, indexar y citar está abierto de piernas al volumen.

Provenance es una herramienta de higiene. No es el dique. El dique es calidad verificable, incentivos que no paguen por contadores de papers, y canales de descubrimiento que dejen de tratar un PDF sospechoso como si fuera conocimiento.

Sin eso, el sello es un post-it en la alcantarilla.

Preguntas frecuentes

¿El 66% de los papers de Google Scholar están hechos con IA?

No. Esa cifra no describe el 66% de todo Scholar. Describe el porcentaje, dentro de los trabajos examinados en un estudio publicado en Misinformation Review (enero 2025, vía Gizmodo), que usaban GPT sin declararlo según los marcadores del análisis. No es un censo global ni una foto automática de 2026.

¿Etiquetar el uso de IA en un paper evita la ciencia basura?

No por sí solo. La declaración de provenance ayuda a la transparencia cuando se hace con honestidad, pero no mide si el método es sólido ni si los datos existen. En la muestra del estudio, la mayoría de trabajos con indicios de GPT no declaraban su uso, así que un sello voluntario no corta la inundación si los incentivos y los filtros siguen rotos.

¿Google Scholar solo indexa investigación revisada por pares?

No, al menos en el contexto descrito en 2025: indexa sin verificar credenciales ni revisión por pares y mezcla investigación legítima con informes y trabajos estudiantiles. Eso facilita que material engañoso optimizado para buscadores entre en el circuito de citas y lectura rápida.

¿La basura en revistas empezó con ChatGPT?

No. Ya en 2021 Springer Nature retractó más de 40 artículos del Arabian Journal of Geosciences por ser off-topic y mal escritos. Más adelante Frontiers retiró un artículo con imágenes anatómicamente incorrectas generadas por Midjourney. La IA abarata el spam; no inventó el fallo editorial.