🖥️ Diapositivas — Sesión 19 (vie 13 nov)
Página corta, reglas firmes. Cómo ser honesto, de forma documentada, sobre la asistencia de IA en la investigación — y qué espera hoy el campo.
Qué exigen las editoriales y las sociedades científicas, en espíritu¶
Las políticas difieren en su redacción entre revistas y sociedades (AGU, Nature, Science y la mayoría de las editoriales emitieron o revisaron las suyas entre 2023 y 2025), pero convergen en tres puntos:
- Declare las herramientas y su papel. No una etiqueta («se usó IA»), sino una afirmación de qué herramientas hicieron qué: redactar texto, escribir código, buscar literatura, generar figuras. El uso sustancial no declarado, cuando se descubre, se trata igual que la manipulación no declarada de imágenes.
- La IA no es autora. La autoría exige la capacidad de asumir responsabilidad por el trabajo y de aprobar la versión enviada. Un programa no puede; por lo tanto no puede ser autor, y «el modelo cometió ese error» no es una defensa disponible.
- La corrección es de los humanos. Sea lo que sea que haya producido el texto, el código o los números, los autores listados responden por ellos. La declaración explica cómo se hizo el trabajo; nunca diluye la responsabilidad por lo que el trabajo dice.
Algunas revistas añaden especificidades: el uso de IA en la revisión por pares suele estar restringido (los manuscritos confidenciales no deben pegarse en servicios de terceros), y las imágenes generadas por IA enfrentan reglas más estrictas que el texto asistido por IA. Lea la política del medio concreto antes de enviar; esto cambia de un año a otro.
El formato de declaración del curso¶
Cada entrega de este curso (tareas, hitos del proyecto, el informe final) incluye una declaración con tres columnas por entrada: herramienta, tarea, qué verificó usted.
## AI-use disclosure
| Tool | Task | What we verified |
|---|---|---|
| Claude Code | drafted data-cleaning module (src/clean.py) | unit tests written by us; checked gap handling against 3 stations by hand |
| Copilot | autocomplete throughout | all committed code reviewed line by line |
| ChatGPT | first draft of report introduction | rewrote; checked all 6 citations resolve and support the claims |La tercera columna es la que se califica. «No verificamos nada» es al menos honesto y le costará menos que una afirmación de verificación que se derrumba ante una sola pregunta. La asistencia sustancial de IA también se declara allí donde ocurrió: en los mensajes de confirmación y en el README del repositorio, según la rúbrica del proyecto final (1.10).
Dónde vive esto en un artículo: CRediT¶
La mayoría de las revistas usa hoy la taxonomía CRediT (Conceptualización, Metodología, Software, Validación, Escritura, y así) para declarar quién hizo qué. La asistencia de IA no recibe una línea de CRediT — los roles de contribución son para personas. Va en los agradecimientos o en una declaración de uso de IA dedicada dentro de los métodos, y el humano que dirigió y verificó el trabajo asistido por IA es quien ocupa el rol CRediT correspondiente. Si un agente escribió la mayor parte de su código de procesamiento, el crédito de Software es suyo, y también lo es la culpa de Software.
La declaración más allá de la revista¶
Las revistas no son la única parte con una política. Si usted trabaja en un laboratorio nacional, en una agencia, en una empresa o en investigación patrocinada, tres preguntas institucionales vienen antes de cualquier lista de verificación de envío:
- Revise la política del empleador y del patrocinador, no solo la del medio. Muchas instituciones y agencias de financiamiento tienen ya sus propias reglas de uso de IA — qué puede usarse, para qué, y qué debe reportarse en los informes de avance y en los entregables. La política del medio gobierna el artículo; la política institucional gobierna el trabajo. Revise ambas antes de usar una herramienta, no mientras da formato al manuscrito. Una declaración utilizable de cara al patrocinador son dos oraciones con la misma forma que la tabla del curso: «Se usaron herramientas de IA (nombradas) para (tareas); todas las salidas fueron verificadas mediante (método) y los autores asumen plena responsabilidad por los resultados».
- Clasifique los datos antes de que toquen un modelo alojado. El material sujeto a control de exportaciones, propietario, previo a publicación, con datos personales identificables o restringido por licencia debe filtrarse antes de pegarse en un prompt (instrucción) o de ser leído por un agente — una API alojada es una transferencia a un tercero, por más que se sienta como una comodidad. Esta es la fila de privacidad de la tabla API-frente-a-pesos-abiertos de 6.1 funcionando como política: los datos que no pueden salir de su institución apuntan a un modelo de pesos abiertos autoalojado, o a ningún modelo.
- Conserve las transcripciones del agente. Git registra qué cambió; la transcripción de una sesión con un agente registra qué se pidió, qué se propuso y qué se rechazó — la traza de auditoría a nivel de decisiones. Para el trabajo que pueda enfrentar una auditoría, una revisión de hito o una indagatoria por mala conducta, conserve las transcripciones de las sesiones sustanciales de agente junto al repositorio, con el mismo periodo de retención que su bitácora de laboratorio. «El agente lo sugirió y lo aceptamos» es una afirmación defendible solo si todavía existe la sesión que muestra la verificación.
Una subsección no es un programa de cumplimiento normativo; es el hábito de preguntar «¿quién más tiene reglas sobre esto?» antes de que la herramienta corra.
Cómo falla en la práctica la dependencia excesiva¶
Un grupo dejó que un agente escribiera su preprocesamiento y su sección de resultados en la última semana de un proyecto. El paso de deduplicación del agente descartó silenciosamente todo evento ocurrido dentro de los 30 segundos de otro evento, lo cual eliminó del catálogo la mayoría de las secuencias de réplicas; la exhaustividad de detección reportada se calculó sobre el remanente fácil y se veía excelente. Nadie en el grupo pudo explicar la lógica de deduplicación cuando se le preguntó, el número acabó en un cartel, y la corrección costó mucha más reputación de la que valía el resultado original. Nada en esta historia requirió mala fe — solo fluidez sin verificar y una fecha límite.
Puede ser examinado sobre ello¶
La declaración tiene una compañera: usted debe poder defender, oralmente, cualquier parte de lo que entrega. Este curso se reserva el derecho de conducir una entrevista de verificación sobre su proyecto final — un examinador elige una decisión de procesamiento, una línea de código o un número reportado, y usted lo explica, sin notas, sin importar quién o qué lo escribió. Algunos grupos de investigación corren la misma comprobación como práctica permanente: antes de enviar un artículo, cada autor responde un examen oral sobre las decisiones de procesamiento de datos e interpretación de las que figura como responsable, y las respuestas se registran junto al manuscrito como evidencia de que un humano tiene el control del flujo de trabajo. (Vea también la rúbrica de presentación en 1.10.) El estándar es simple: si no puede explicarlo, no puede entregarlo. Planee su esfuerzo de verificación — la tercera columna de la tabla de declaración — de modo que pasaría esa entrevista sobre cualquier línea, cualquier día.