Una historia de archivos, ingeniería e inteligencia artificial

Cómo enseñamos a la inteligencia artificial a leer la historia del Paraguay

De microfilmes frágiles y páginas imposibles de buscar a un archivo bilingüe donde casi 100.000 páginas pueden investigarse en segundos.

Mesa de investigación del archivo
LA MESA DE INVESTIGACIÓN
99.000páginas fuente
92.440páginas indexadas
53títulos con contenido
1845–1904seis décadas de historia
El desafío original

La historia estaba atrapada dentro de imágenes que no se podían buscar

Los periódicos existían como escaneos y microfilmes, pero no como texto. Una computadora no puede buscar dentro de una imagen de una página: no sabe qué letras contiene, dónde empieza un artículo ni qué parte es publicidad, tabla o cabecera.

Scanned newspaper page stored as an image R033_F1064.png TEXTO ATRAPADO EN IMÁGENES

Antes del OCR, investigar significaba leer manualmente

Para responder una pregunta histórica, el investigador tenía que sentarse frente a un lector de microfilm o abrir imágenes página por página. Los nombres, lugares, editoriales, avisos y debates políticos eran visibles para el ojo, pero invisibles para la búsqueda.

Camino manualMicrofilmAvanzar rollo por rollo e inspeccionar cada cuadro.
Camino manualImágenes de páginasAbrir escaneos uno por uno sin índice de texto completo.
Objetivo del sistemaDesbloquear textoExtraer contenido buscable, estructurado y conectado a la fuente.
Antes Las imágenes preservaban los periódicos, pero la búsqueda no podía ver las palabras. La investigación histórica quedaba limitada por cuántas páginas podía revisar una persona.
Después La construcción convirtió páginas que eran solo imágenes en texto estructurado, embeddings, índices de búsqueda y respuestas fundamentadas en fuentes.
Por qué el OCR convencional no bastaba

El OCR tradicional lee cajas. Los periódicos históricos requieren razonamiento visual.

La mayoría del OCR supone un escaneo limpio, líneas previsibles y un orden de lectura estable. Los periódicos del siglo XIX rompen esas reglas: columnas múltiples, cabeceras decorativas, letra cursiva u ornamentada, avisos, tablas, tinta dañada, ilustraciones y texto multilingüe conviven en la misma página.

Complex historical newspaper page with OCR boxes Caja OCR 1 Caja OCR 2 Caja OCR 3 orden de lectura incorrecto
Expanded example of a complex page Cabichuí · illustrations and Guaraní
OCR tradicional

Lee cajas de izquierda a derecha

  • Supone líneas estables y columnas previsibles.
  • Mezcla titulares, avisos, cuerpo de texto y tablas.
  • Falla con tipografía ornamentada, marcas cursivas, tinta dañada y texto diminuto.
  • Puede extraer caracteres mientras destruye la estructura histórica.
Extracción multimodal

Primero entiende la página

  • Observa la imagen completa antes de transcribir.
  • Separa artículos, avisos, tablas, ilustraciones y cabeceras.
  • Preserva español antiguo, guaraní, portugués y francés.
  • Devuelve JSON estructurado conectado a la imagen fuente.
OCR tradicional Podía ver formas parecidas a letras, pero no entendía de forma confiable cómo estaba organizada una página histórica.
Lo que necesitábamos Necesitábamos un modelo con visión capaz de razonar sobre la página completa, seguir reglas periodísticas y preservar la fidelidad de la fuente.
El recorrido del proyecto

De encontrar los periódicos a construir un motor de investigación

El proyecto avanzó en nueve pasos concretos. Primero hubo que encontrar y preservar el material; después vinieron los modelos, los prompts, el procesamiento, la indexación, la búsqueda, las respuestas y la experiencia final.

Vista general factual de nueve pasos: localizar, digitalizar, probar modelos, diseñar prompts, procesar OCR, indexar, buscar, responder y entregar la experiencia
Paso1/ 9
Localizar

Encontrar los periódicos sobrevivientes antes de empezar lo técnico

El primer desafío fue histórico, no computacional: identificar dónde seguían existiendo los periódicos, hablar con historiadores, revisar fondos de bibliotecas y documentar materiales como los archivos Cooney y otras copias raras.

Paso 1 · descubrimiento de fuentes

El archivo comenzó encontrando material fuente frágil

Antes del OCR o la búsqueda, el trabajo fue localizar periódicos antiguos en bibliotecas, archivos y colecciones privadas de investigación. Parte del material sobrevive solo como archivos dispersos o copias raras, por eso cada página necesitó una ruta de procedencia que las citas posteriores pudieran verificar.

Source discovery visual showing libraries, historians and Cooney files as rare newspaper source material
Paso2/ 9
Digitalizar

Preservar la evidencia como archivos digitales duraderos

El material físico puede deteriorarse, perderse o destruirse. Archivos TIFF y JPEG de alta resolución, identificadores estables y metadatos convierten páginas frágiles en objetos digitales protegidos para la investigación.

Paso 2 · preservación digital

Las páginas frágiles se volvieron registros digitales seguros y trazables

La digitalización todavía no hizo buscables las páginas. Creó la capa de evidencia protegida: imágenes maestras, JPEG derivados, metadatos, checksums e identificadores de fuente que mantienen el OCR, los vectores y las respuestas conectados al periódico original.

Digital preservation visual showing fragile newspapers converted into TIFF and JPEG source files with metadata and safe storage
Paso3/ 9
Experimentar

Probar modelos contra páginas reales de periódicos históricos

Esta etapa explica el descubrimiento de modelos: qué modelos de visión podían leer imágenes complejas, preservar idiomas, devolver JSON y sobrevivir diseños difíciles de periódicos.

Paso 3 · descubrimiento de modelos y pruebas OCR

Primero tuvimos que encontrar un modelo que leyera correctamente las imágenes

La primera pregunta técnica no fue la búsqueda. Fue la extracción: ¿qué modelo podía mirar una imagen de periódico, entender el diseño, preservar el idioma y devolver datos estructurados utilizables? Probamos modelos contra páginas deliberadamente difíciles antes de decidir qué podía impulsar el OCR de producción.

Model testing diagram showing complex historical newspaper reading, structure extraction and valid JSON validation
1 · Capacidad visual¿Puede el modelo leer la imagen?Debe ver columnas, cabeceras, avisos, tablas, impresión dañada y texto multilingüe.
2 · Disciplina del prompt¿Las reglas cambian el comportamiento?El prompt enseña al modelo a inspeccionar la página completa antes de extraer texto.
3 · Salida estructurada¿Puede devolver datos utilizables?La extracción debe producir JSON válido con segmentos de artículos, avisos, tablas y metadatos de fuente.
4 · Prueba de benchmark¿Sobrevive páginas difíciles?Solo los modelos que funcionaron en diseños históricos difíciles fueron candidatos para producción.
370salidas de prueba guardadas
34ejecuciones documentadas
6modelos en la tabla de benchmark
5páginas difíciles evaluadas
Por qué Gemini se convirtió en el motor OCR

Gemini 3.1 Pro fue el extractor más confiable del conjunto de pruebas

En el benchmark guardado, Gemini 3.1 Pro promedió 93,6% y devolvió JSON válido en las 5 páginas difíciles. GPT-4.1 Mini funcionó bien en algunas páginas, pero promedió 56,4% y devolvió JSON válido en 3 de 5. Claude se usa después para síntesis, no como extractor OCR en este benchmark.

Gemini 3.1 Pro93.6% Gemini 2.5 Pro65.7% Gemini Flash-Lite58.9% GPT-4.1 Mini56.4% GPT-4.1 Nano25.7%

Las páginas de prueba revelaron diferentes modos de falla

Los puntajes miden cobertura y estructura en cinco páginas difíciles. Explican por qué el pipeline de producción usa Gemini para OCR y reglas de escalamiento en vez de un extractor genérico único.

Cargando resultados del benchmark...

Cada grupo es una página difícil; cada barra es un modelo. La barra azul marca el mejor resultado para esa página.

Page used in OCR comparison
El Látigo Inmortal
Modelo Página Promedio JSON válido Tiempo medio

Resultado: el OCR de producción tenía que ser multimodal, estructurado y basado en pruebas. Gemini manejó las imágenes de periódicos multilingües de forma más consistente en este benchmark.

Paso4/ 9
Prompts

Convertir la escritura de prompts en un protocolo de extracción probado

Esta etapa explica cómo cientos de casos de prompt produjeron las reglas finales para leer columnas, avisos, tablas, ortografía histórica e incertidumbre.

Paso 4 · ingeniería de prompts antes de la extracción

El prompt de extracción se convirtió en el manual operativo del sistema OCR

Antes de ejecutar el pipeline OCR de producción, el propio prompt tuvo que diseñarse y probarse. Corrimos cientos de casos contra páginas difíciles, cambiando instrucciones de una en una y guardando los resultados. Un pequeño cambio de redacción podía decidir si el modelo resumía una página, mezclaba columnas, modernizaba la ortografía o producía la extracción estructurada necesaria para buscar.

Prompt engineering benchmark loop ending in computer-readable JSON with metadata, sections, columns and source references
Prompt débil“Extrae el texto de la página.”A menudo mezclaba columnas, omitía avisos, normalizaba la ortografía y devolvía prosa suelta.
Cambio de una palabra“Transcribe exactamente.”La palabra exactamente cambió la tarea de resumir contenido a preservar evidencia.
Prompt de producciónInspeccionar, segmentar, transcribir, validar.El prompt final dio al modelo un protocolo repetible para leer periódicos históricos complejos.

Cientos de casos de uso

“Ejecutar el prompt en páginas difíciles reales, no en ejemplos limpios.”

Probamos escaneos dañados, columnas densas, idiomas mezclados, tablas, avisos y títulos ornamentados hasta que el prompt manejó el desorden real del archivo.

Copiar, no interpretar

“Preserva exactamente la redacción impresa.”

La ortografía histórica, los acentos, las abreviaturas y los pasajes multilingües son evidencia. El prompt tenía que impedir que el modelo los modernizara silenciosamente.

Estructura antes que texto

“Identifica el diseño de la página antes de extraer texto.”

El orden de lectura importaba. El modelo necesitaba entender columnas, cabeceras, avisos, tablas y publicidad antes de producir JSON.

La incertidumbre es dato

“Marca palabras dudosas en vez de inventarlas.”

El prompt final exigió incertidumbre revisable para que la tinta dañada o letras ambiguas no se convirtieran en historia alucinada.

Paso5/ 9
Procesar

Ejecutar OCR a escala con validaciones

Esta etapa explica la ruta OCR secuencial: primer pase económico, escalamiento experto para páginas difíciles y rescate solo cuando falla la validación.

Extracción OCR y validación

Un pipeline OCR con Gemini, rutas rápidas, expertas y de rescate

Después de que las pruebas mostraron que Gemini era el extractor OCR más fuerte, el sistema todavía necesitaba reglas de producción: usar el modelo más rápido capaz en páginas normales, escalar páginas difíciles y rescatar casos de falla conocidos.

Sequential OCR escalation: TIFF input, Tier 1 Gemini Flash-Lite, Tier 2 Gemini Pro, Tier 3 rescue model, validation and JSON output
NIVEL 1 · VOLUMEN

Gemini Flash-Lite

Primera lectura rápida para el corpus amplio cuando la página es extraíble y valida correctamente.

Escala si el texto es demasiado débil, mal formado o falla controles.
NIVEL 2 · COMPLEJIDAD

Gemini Pro

Maneja diseños densos, escaneos dañados, periódicos complejos y casos donde modelos más baratos pierden estructura.

Títulos difíciles conocidos pueden entrar antes aquí.
NIVEL 3 · RESCATE

Ruta de modelo de recuperación

Reintenta fallas observadas como respuestas vacías, límites de tokens, bloqueos de recitación o JSON inválido.

Se usa para recuperación, no como reemplazo universal.
Densely printed La Razón page with columns, lists and prices
{
  "status": "COMPLETE",
  "page_understanding": "5 columns detected",
  "segments": [
    { "type": "article", "cols": [1,2], "text": "exact transcription..." },
    { "type": "advertisement", "cols": [3], "text": "prices, names..." },
    { "type": "table", "cols": [5], "text": "structured rows..." }
  ],
  "source_image": "R042_F0901.webp"
}
Cabecera Artículo Tabla Aviso

Reconstrucción ilustrativa a partir de metadatos reales de segmentos. El OCR almacena tipo de segmento y rango de columnas, manteniendo la extracción conectada a la imagen fuente.

Paso6/ 9
Indexar

Convertir el texto OCR en memoria de investigación buscable

Esta etapa explica fragmentación, metadatos, embeddings, PostgreSQL y pgvector para que el archivo encuentre significado, no solo palabras exactas.

Indexación y embeddings

Los embeddings hicieron el archivo buscable por significado, no solo por palabras exactas

Una vez que el OCR desbloqueó el texto, el siguiente problema fue la escala. Un historiador puede preguntar por “modernización ferroviaria”, mientras un periódico puede decir “camino de hierro”, “ferro-carril”, “transporte” o usar ortografía antigua. Los embeddings colocan pasajes relacionados cerca entre sí para encontrar ideas similares en una base de datos grande.

Pregunta de investigación ¿Cómo discutían los periódicos la modernización ferroviaria? La búsqueda debe encontrar palabras exactas, traducciones, grafías antiguas y conceptos relacionados.
ferrocarril camino de hierro railway transporte aduana comercio batalla teatro

Por qué importa para la investigación

Los embeddings convierten pasajes OCR en vectores. Los pasajes similares se agrupan aunque usen palabras distintas. Eso le da al archivo memoria de conceptos, no solo una lista de cadenas exactas.

Encontrar grafías antiguas Cruzar consultas en español e inglés Recuperar temas relacionados Buscar entre décadas
Paso7/ 9
Buscar

Recuperar evidencia con búsqueda híbrida y reranking

Esta etapa explica cómo búsqueda léxica, búsqueda semántica, filtros de metadatos, balanceo y reranking construyen un paquete de evidencia confiable.

Sistema de recuperación híbrida

La búsqueda usa varios métodos porque un solo método pierde demasiada historia

El archivo busca en una base de datos grande con varias estrategias de recuperación a la vez. La búsqueda exacta captura nombres y frases. La búsqueda semántica captura significado. Los filtros y el balanceo mantienen la evidencia distribuida entre fechas, periódicos y tipos de fuente. Un reranker relee los mejores candidatos antes de que lleguen al modelo de respuesta.

Retrieval funnel showing query, hybrid search, balancing, reranking, evidence packet and cited answer
Paso8/ 9
Responder

Generar respuestas solo desde paquetes de fuentes

Esta etapa explica la generación fundamentada: el LLM recibe pasajes recuperados, metadatos de fuente y reglas de citación en vez de responder desde memoria.

Generación de respuestas fundamentadas

El modelo de respuesta escribe solo después de que la recuperación arma un paquete de fuentes

Al LLM no se le pide responder desde memoria. Recibe pasajes recuperados, fechas, nombres de periódicos, IDs de página y enlaces al visor. El prompt de respuesta exige citas, comparación de fuentes, manejo de incertidumbre y fundamentación directa en el material original.

Pregunta del usuario¿Qué decían los periódicos sobre el ferrocarril?
Paquete de evidencia recuperada12–30 pasajesperiódico · fecha · página · texto OCR · enlace al escaneo
Modelo de síntesis ClaudeEscribir con restriccionescitar fuentes, comparar evidencia, marcar incertidumbre
Respuesta de investigaciónCada afirmación vuelve a material fuente

Ejemplo de una respuesta fundamentada en fuentes

La expansión de los ferrocarriles aparece como modernización, negocio privado e integración territorial. El sistema puede resumir ese patrón, pero la respuesta solo es útil porque cada afirmación enlaza a periódicos originales que el investigador puede inspeccionar.

LA DEMOCRACIA · R033 F1064 LA RAZÓN · R042 F0901

FundamentaciónPeriódico, fecha, página y enlace al visor viajan con el pasaje.
Anti-alucinaciónEl modelo queda restringido al paquete recuperado y debe citar evidencia.
Método históricoLas respuestas comparan periódicos, señalan contradicciones y preservan incertidumbre.
Respuesta genérica de LLM Puede sonar confiada mientras pierde la ruta de fuentes o inventa detalles desde memoria.
Respuesta del archivo Generada desde evidencia seleccionada y diseñada para enviar al investigador de vuelta a la página original.
Paso9/ 9
Entregar

Entregar una experiencia de investigación con verificación de fuentes

Esta etapa explica el resultado visible para el usuario: chat, visor de fuentes, exportaciones, presentaciones y flujos que devuelven a los investigadores a la evidencia.

Experiencia de investigación

La tecnología desaparece detrás de una experiencia de investigación

El resultado no es solo una base de datos. Es un espacio para preguntar, explorar, verificar fuentes originales y convertir hallazgos en materiales que otros pueden comprender.

Mesa de investigación digital con fuentes, gráficos y presentaciones
BÚSQUEDA RÁPIDA12 pasajes enfocados

Respuesta inmediata para nombres, fechas, temas y comprobaciones concretas.

INVESTIGACIÓN PROFUNDA30+ pasajes y 4 variantes

Amplía la consulta, compara épocas y construye una síntesis histórica más extensa.

EXTRACCIÓN TOTALCada mención disponible

Recorre resultados exhaustivos y los entrega en una hoja de cálculo verificable.

Chat con citas

Respuestas en streaming, seguimiento conversacional y modos estándar o investigación profunda.

Archivo visual

Filtros por fecha, título y colección, con acceso directo al escaneo y al texto extraído.

Narrativas exportables

Infografías, presentaciones, resúmenes, menciones, biografías y comparaciones respaldadas por fuentes.

Miniaturas y visor Líneas de tiempo Grafos de conocimiento Infografías Presentaciones PPT Biografías Comparación de fuentes
El resultado

100.000 páginas convertidas en un archivo histórico buscable

El cierre del recorrido es una biblioteca digital que permite preguntar, encontrar fuentes, verificar páginas originales y convertir hallazgos en respuestas, infografías y presentaciones. El objetivo fue construir el único archivo buscable de periódicos paraguayos antiguos a esta escala, con cada resultado conectado a su evidencia.

Resultado final del proyecto: buscador historico, biblioteca de casi 100000 paginas, respuestas citadas, infografias y presentaciones