Imagina por un momento que cada vez que quisieras aprender algo nuevo, tuvieras que borrar completamente todo tu conocimiento previo y empezar desde cero. O peor aún, que fueras incapaz de incorporar nueva información sin la ayuda de un equipo completo de especialistas. Esta es precisamente la situación en la que se encuentran los Large Language Models (LLMs) actuales: son increíblemente poderosos, pero fundamentalmente estáticos.

El Nacimiento de SEAL: Cuando las Máquinas Aprenden a Aprender

En junio de 2025, un equipo de investigadores del MIT liderado por Adam Zweiger y Jyothish Pari publicó un paper que podría cambiar fundamentalmente cómo entendemos el aprendizaje automático. Su propuesta, llamada SEAL (Self-Adapting Language Models), introduce una idea revolucionaria: ¿qué pasaría si los modelos de lenguaje pudieran generar sus propios datos de entrenamiento y decidir cómo entrenar con ellos?

La analogía que mejor describe SEAL es la de un estudiante que no solo lee los libros de texto, sino que aprende a tomar sus propias notas de estudio, reorganizar la información de maneras que le resulten más útiles, y desarrollar estrategias personalizadas de aprendizaje. En lugar de consumir información pasivamente, SEAL permite que los modelos procesen activamente el conocimiento nuevo.

La Arquitectura Revolucionaria de SEAL

El corazón de SEAL reside en algo llamado «self-edits» (auto-ediciones). Cuando SEAL recibe nueva información, no simplemente la memoriza. En su lugar, el modelo genera automáticamente múltiples versiones reformuladas de esa información:

• Implicaciones: Conclusiones lógicas derivadas del contenido
• Conexiones: Relaciones con conocimiento existente
• Reformulaciones: La misma información en diferentes formatos
• Preguntas y respuestas: Pares Q&A que facilitan el aprendizaje

Por ejemplo, si le das a SEAL información sobre una empresa llamada «TechCorp que desarrolla software cuántico», el modelo podría generar self-edits como:

1. TechCorp es una empresa especializada en computación cuántica
2. El software cuántico representa una ventaja competitiva en ciertos cálculos
3. Las empresas de tecnología cuántica están en la vanguardia de la innovación
4. P: ¿Qué desarrolla TechCorp? R: Software cuántico

La Arquitectura de Doble Loop

SEAL opera con dos loops anidados que imitan sorprendentemente el aprendizaje humano:

Inner Loop (Loop Interno): El Proceso de Aprendizaje

1. Recibe nueva información (como un pasaje sobre una empresa)
2. Genera self-edits (reformulaciones inteligentes del contenido)
3. Se entrena usando esas reformulaciones via LoRA (Low-Rank Adaptation)
4. Produce un modelo adaptado que «recuerda» la nueva información

Outer Loop (Loop Externo): El Meta-Aprendizaje

1. Evalúa qué tan bien funcionaron los self-edits
2. Asigna recompensas basadas en el rendimiento
3. Mejora la capacidad de generar mejores self-edits en el futuro
4. Desarrolla estrategias de aprendizaje más efectivas

Esta arquitectura permite que SEAL no solo aprenda nueva información, sino que aprenda cómo aprender mejor.

Resultados Experimentales: Superando a GPT-4

Los resultados del paper son simplemente impresionantes y desafían muchas suposiciones sobre el aprendizaje automático:

• Modelo base: 32.7% de precisión en preguntas sin contexto
• Fine-tuning tradicional: 33.5% (¡solo 0.8% de mejora!)
• Datos sintéticos de GPT-4.1: 46.3% de precisión
• SEAL: 47.0% de precisión

El resultado más sorprendente: SEAL, usando un modelo mucho más pequeño (Qwen2.5-7B), superó a los datos sintéticos generados por GPT-4.1. Esto sugiere que la capacidad de auto-generar datos de entrenamiento optimizados es más valiosa que simplemente usar un modelo más grande.

Estamos al borde de una nueva era donde la línea entre inteligencia humana y artificial se vuelve cada vez más difusa. SEAL no es solo una técnica de machine learning, es una mirada al futuro de la cognición artificial. El futuro ya no es sobre máquinas que procesan información, sino sobre mentes artificiales que piensan, aprenden, y se adaptan. Y ese futuro, gracias a SEAL, está mucho más cerca de lo que imaginábamos.

About Post Author

Hector Curbelo Barrios

hcurbelo@gmail.com

http://www.icurbe.com

Happy

1 100 %

Sad

0 0 %

Excited

0 0 %

Sleepy

0 0 %

Angry

0 0 %

Surprise

0 0 %

La entrada SEAL: La Revolución de los Modelos de Lenguaje Auto-Adaptativos se publicó primero en iCurbe.

En el mundo de la inteligencia artificial (IA), la recuperación de información es un componente crucial para cualquier sistema que busque proporcionar respuestas precisas y relevantes a las preguntas de los usuarios. Uno de los enfoques más populares para lograr esto es la Recuperación Aumentada de Generación (RAG, por sus siglas en inglés), que combina la recuperación de información con modelos generativos para proporcionar respuestas más precisas.

Sin embargo, en los últimos tiempos, algunos expertos han cuestionado la eficacia de RAG, argumentando que ha alcanzado su límite. Pero Anthropic, una empresa líder en IA, ha presentado una nueva aproximación que podría cambiar el juego: la recuperación contextual.

¿Qué es la Recuperación Contextual?

La recuperación contextual es una técnica que mejora la precisión de la recuperación de información en sistemas RAG. La idea es simple: en lugar de tratar de arreglar el mecanismo de recuperación, se mejora la información que se está recuperando. Anthropic sugiere agregar información contextual relevante a cada fragmento de información antes de almacenarlo.

Por ejemplo, si tenemos un documento que contiene informes financieros de diferentes empresas, la recuperación contextual permitiría agregar información sobre la empresa y el período de tiempo al que se refiere cada fragmento de información. De esta manera, cuando se busca información sobre la empresa «Acme» y su crecimiento en el segundo trimestre de 2023, el sistema puede proporcionar una respuesta precisa.

¿Cómo Funciona la Recuperación Contextual?

La implementación de la recuperación contextual es relativamente sencilla. Anthropic sugiere utilizar un modelo de lenguaje grande (LLM, por sus siglas en inglés) para generar automáticamente la información contextual para cada fragmento de información. El proceso es el siguiente:

1. Se divide el documento en fragmentos.
2. Para cada fragmento, se envía tanto el documento completo como el fragmento específico a un LLM.
3. Se utiliza una solicitud que instruye al LLM para generar una declaración contextual concisa.
4. Se agrega esta información contextual al fragmento original.
5. Se generan embeddings y se actualiza el índice de búsqueda.

Beneficios y Resultados

Anthropic ha reportado resultados impresionantes con la recuperación contextual. En sus pruebas, lograron una reducción del 35% en la tasa de errores de recuperación con embeddings contextualizados. Cuando se combinó con búsqueda contextual, la mejora aumentó al 49%.

Además, cuando se agregó un re-ordenador en la parte superior, la tasa de errores de recuperación promedio cayó del 5,7% a apenas el 1,9%. Esto es un avance significativo para lo que básicamente es un paso de preprocesamiento y una ingeniosa ingeniería de solicitudes.

Desafíos y Limitaciones

Aunque la recuperación contextual es prometedora, no está exenta de desafíos. Agregar contexto significa:

• Fragmentos más grandes: cada fragmento crece en 50-100 tokens, lo que reduce ligeramente la cantidad que se puede ajustar en la ventana de contexto del LLM.
• Costos de procesamiento: se necesita ejecutar una llamada LLM para cada fragmento durante la indexación.
• Sobrecarga de almacenamiento: la base de datos de vectores y los índices de búsqueda crecen.

Anthropic estima que el costo de procesamiento único es de aproximadamente $1.02 por millón de tokens. Si bien esto puede parecer pequeño, se suma cuando se trata de millones de documentos.

En resumen

La recuperación contextual es un avance significativo en la recuperación de información. Al asegurarse de que cada fragmento lleve su propio contexto, no estamos luchando contra las limitaciones de los modelos de embeddings o la búsqueda por palabras clave; estamos trabajando con ellos.

Para los desarrolladores que construyen sistemas RAG, esta técnica ofrece una forma relativamente sencilla de mejorar significativamente la precisión de la recuperación. Sí, hay costos y compensaciones, pero para aplicaciones donde la precisión importa, la inversión probablemente vale la pena.

La próxima vez que su sistema RAG devuelva una respuesta vagamente frustrante, recuerde: podría simplemente necesitar ayuda para recordar dónde puso sus claves. La recuperación contextual asegura que cada fragmento venga con su propio mapa de regreso a casa.

About Post Author

Hector Curbelo Barrios

hcurbelo@gmail.com

http://www.icurbe.com

Happy

0 0 %

Sad

0 0 %

Excited

0 0 %

Sleepy

0 0 %

Angry

0 0 %

Surprise

0 0 %

La entrada La Revolución de la Recuperación de Información: Cómo Anthropic Resucita a RAG con la Recuperación Contextual se publicó primero en iCurbe.

LOTUS (Language Of Things for Unstructured and Structured data) es un framework revolucionario que está transformando la manera en que interactuamos con los datos. Este sistema innovador permite realizar consultas semánticas sobre tablas que contienen tanto datos estructurados como no estructurados, integrando directamente los Modelos de Lenguaje Grande (LLMs) en el pipeline de procesamiento de consultas de bases de datos.

La potencia de LOTUS radica en su capacidad para combinar lo mejor de dos mundos:

1. La gestión de datos de alto rendimiento característica de las bases de datos tradicionales.
2. El razonamiento avanzado y la comprensión del lenguaje natural propios de los modelos de IA más avanzados.

Esta combinación permite a los usuarios interactuar con sus datos de una manera más intuitiva y natural, al tiempo que mantiene la eficiencia y el rendimiento necesarios para el manejo de grandes volúmenes de información.

Consultas Semánticas

LOTUS permite a los usuarios realizar consultas semánticas, lo que significa que pueden interactuar con los datos utilizando lenguaje natural y conceptos de alto nivel. Esto contrasta con las consultas estructuradas tradicionales, que requieren un conocimiento preciso de la estructura de la base de datos y del lenguaje de consulta.

Integración de LLMs en Bases de Datos

Una característica distintiva de LOTUS es su capacidad para incorporar LLMs directamente en el proceso de consulta de la base de datos. Esto permite un procesamiento más inteligente y contextual de los datos, habilitando análisis más sofisticados y una mejor comprensión de la información almacenada.

Operadores Semánticos

LOTUS utiliza un conjunto de operadores semánticos para transformar dataframes de Pandas. Estos operadores son similares en concepto a los operadores relacionales en SQL, pero están diseñados específicamente para tareas de procesamiento de lenguaje natural:

• Sem_Map: Aplica una transformación a cada fila del dataframe.
• Sem_Filter: Filtra las filas que cumplen con un predicado semántico.
• Sem_Agg: Agrega información a través de todas las filas.
• Sem_TopK: Ordena el dataframe según ciertos criterios.
• Sem_Join: Une dos dataframes basándose en un predicado semántico.
• Sem_Index: Crea un índice semántico sobre una columna.
• Sem_Search: Busca filas relevantes en el dataframe.

Configuración Inicial

Para comenzar a utilizar LOTUS, primero necesitamos configurar los modelos que utilizaremos. En este ejemplo, usaremos GPT-3.5-Turbo como modelo de lenguaje y E5 como modelo de incrustación:

import pandas as pd
import lotus
from lotus.models import E5Model, OpenAIModel

# Configurar modelos para LOTUS
lm = OpenAIModel(max_tokens=512)
rm = E5Model()
lotus.settings.configure(lm=lm, rm=rm)

Ejemplo Práctico: Análisis de Cursos

Vamos a crear un dataframe con información sobre cursos y sus descripciones:

data = [
    ("Probabilidad y Procesos Aleatorios", "Se enfoca en cadenas de Markov y convergencia de procesos aleatorios. La carga de trabajo es bastante alta."),
    ("Aprendizaje Profundo", "Se centra en la teoría e implementación de redes neuronales. La carga de trabajo varía según el profesor, pero generalmente no es terrible."),
    ("Diseño Digital y Circuitos Integrados", "Se enfoca en la construcción de CPUs RISC-V en Verilog. Los estudiantes han dicho que la carga de trabajo es MUY alta."),
    ("Bases de Datos", "Se centra en la implementación de un SGBDR con temas de NoSQL al final. La mayoría de los estudiantes dicen que la carga de trabajo no es demasiado alta."),
]
df = pd.DataFrame(data, columns=["Nombre del Curso", "Descripción"])

Filtrado Semántico y Agregación

Podemos usar LOTUS para filtrar cursos relacionados con el aprendizaje automático y luego generar un plan de estudio:

ml_df = df.sem_filter("{Descripción} indica que la clase es relevante para el aprendizaje automático.")
tips = ml_df.sem_agg(
    "Dado cada {Nombre del Curso} y su {Descripción}, dame un plan de estudio para tener éxito en mis clases."
)._output[0]

Top K Semántico

Para encontrar los cursos con mayor carga de trabajo:

top_2_hardest = df.sem_topk("¿Qué {Descripción} indica la carga de trabajo más alta?", 2)

Unión Semántica

Podemos usar la unión semántica para encontrar cursos que nos ayuden a mejorar habilidades específicas:

skills_df = pd.DataFrame([("SQL"), ("Diseño de Chips")], columns=["Habilidad"])
classes_for_skills = skills_df.sem_join(
    df, "Tomar {Nombre del Curso} me hará mejor en {Habilidad}"
)

Indexación y Búsqueda Semántica

LOTUS permite crear índices semánticos y realizar búsquedas eficientes:

df = df.sem_index("Descripción", "directorio_indice")
top_conv_df = df.sem_search("Descripción", "Redes Neuronales Convolucionales", 1)

Mapeo Semántico

Podemos usar el operador de mapeo semántico para generar temas de estudio adicionales para cada curso:

examples_df = pd.DataFrame(
    [("Gráficos por Computadora", "Visión por Computadora"), ("Análisis Real", "Análisis Complejo")],
    columns=["Nombre del Curso", "Respuesta"]
)
next_topics = df.sem_map(
    "Dado {Nombre del Curso}, lista un tema que sería bueno explorar a continuación. \
    Responde solo con el nombre del tema y nada más.",
    examples=examples_df,
    suffix="Próximos Temas"
)

LOTUS representa un avance significativo en la integración de inteligencia artificial y gestión de bases de datos. Al permitir consultas semánticas sobre datos estructurados y no estructurados, y al integrar LLMs directamente en el proceso de consulta, LOTUS abre nuevas posibilidades para el análisis de datos y la toma de decisiones basada en información.

Enlace a la pagina de la documentación de LOTUS: https://lotus-ai.readthedocs.io/en/latest/

Tengo que decir que he hecho una prueba de LOTUS, he implementado un pequeño código de ejemplo en mi computador y me ha funcionado muy bien, los operadores semánticos van muy bien, en resumen lo que hice fue hacer una consulta a una tabla de una base de datos localmente y esos datos pasarlos a LOTUS luego puede hacer estas consultas semánticas y todo fue muy bien, en definitiva parece una buena idea de sus creadores y hay que seguir pues aun esta muy verde.

Esto ha sido todo por ahora, espero que este artículo te sea de utilidad, si llegaste hasta aquí, déjame un comentario. Nos vemos en otra entrega de «Inteligencia Artificial Para Todos»

About Post Author

Hector Curbelo Barrios

hcurbelo@gmail.com

http://www.icurbe.com

Happy

0 0 %

Sad

0 0 %

Excited

0 0 %

Sleepy

0 0 %

Angry

0 0 %

Surprise

0 0 %

La entrada LOTUS: Un Framework Innovador para Consultas Semánticas en Bases de Datos se publicó primero en iCurbe.

El uso de chatbots de modelos de lenguaje de gran escala (LLM) listos para usar en empresas rara vez puede ser útil, ya que no codifican el conocimiento propietario específico del dominio sobre las actividades de la organización que realmente aportaría valor a una interfaz conversacional para la extracción de información. Aquí es donde el enfoque de Graph RAG entra en escena como una solución ideal para adaptar un LLM a tus requisitos específicos.

Graph RAG

Graph RAG (o GraphRAG) es una evolución de este enfoque, que utiliza gráficos de conocimiento (KG) como fuente de contexto o información factual. Los productos y servicios de Ontotext facilitan una variedad de patrones de Graph RAG, abriendo nuevas posibilidades para chatbots, consultas en lenguaje natural y extracción de información.

Graph RAG es una mejora sobre el enfoque popular de RAG. Graph RAG incluye una base de datos gráfica como fuente de la información contextual enviada al LLM. Proporcionar al LLM fragmentos de texto extraídos de documentos más grandes puede carecer del contexto necesario, precisión factual y exactitud del lenguaje para que el LLM entienda los fragmentos recibidos en profundidad.

Con Graph RAG, cada registro en la base de datos vectorial puede tener una representación rica en contexto, aumentando la comprensión de la terminología específica para que el LLM pueda interpretar mejor dominios temáticos específicos.

Graph RAG puede combinarse con el enfoque estándar de RAG para obtener lo mejor de ambos mundos: la estructura y precisión de la representación gráfica combinada con la amplitud del contenido textual.

Variedades de Graph RAG

Podemos resumir varias variedades de Graph RAG, dependiendo de la naturaleza de las preguntas, el dominio y la información en el gráfico de conocimiento disponible:

1. Gráfico como Almacén de Contenido: Extraer fragmentos relevantes de documentos y pedirle al LLM que responda usándolos. Esta variedad requiere un KG que contenga contenido textual relevante y metadatos sobre él, así como la integración con una base de datos vectorial.
2. Gráfico como Experto en la Materia: Extraer descripciones de conceptos y entidades relevantes para la pregunta en lenguaje natural y pasarlas al LLM como «contexto semántico» adicional. La descripción debería incluir idealmente relaciones entre los conceptos. Esta variedad requiere un KG con un modelo conceptual completo, que incluya ontologías, taxonomías u otras descripciones de entidades relevantes. La implementación requiere vinculación de entidades u otro mecanismo para la identificación de conceptos relevantes para la pregunta.
3. Gráfico como Base de Datos: Mapear (parte de) la pregunta en lenguaje natural a una consulta de gráfico, ejecutar la consulta y pedirle al LLM que resuma los resultados. Esta variedad requiere un gráfico que contenga información factual relevante. La implementación de este patrón requiere alguna herramienta de NL a consulta de gráfico y vinculación de entidades.

GraphRAG utiliza incrustaciones gráficas de resultados de GNN (redes neuronales gráficas) para mejorar las incrustaciones de texto con la inferencia de respuestas a consultas de usuarios. Este método, conocido como «Soft-prompting,» es un tipo de ingeniería de prompts.

La ingeniería de prompts puede dividirse en categorías «Hard» y «Soft.» «Hard» implica prompts proporcionados explícitamente, requiriendo la adición manual de contexto a las consultas de los usuarios.

La desventaja de este método es la naturaleza subjetiva de la creación de prompts, aunque es fácil de implementar. Por el contrario, «Soft» implica proporcionar prompts implícitamente, donde se añade información de incrustaciones adicionales a las incrustaciones de texto existentes del modelo para derivar resultados de inferencia similares.

Esto ha sido todo por ahora, espero que este artículo te sea de buen provecho, si llegaste hasta aquí, déjame tu comentario. Nos vemos en otra entrega de «Inteligencia Artificial Para Todos»

About Post Author

Hector Curbelo Barrios

hcurbelo@gmail.com

http://www.icurbe.com

Happy

1 100 %

Sad

0 0 %

Excited

0 0 %

Sleepy

0 0 %

Angry

0 0 %

Surprise

0 0 %

La entrada ¿Qué es Graph RAG? se publicó primero en iCurbe.

La inteligencia artificial (IA) está cambiando nuestras vidas de muchas maneras. Desde asistentes virtuales hasta diagnósticos médicos y coches autónomos, la IA está en todas partes. Pero, ¿sabías que la ciencia de datos es esencial para que la IA funcione correctamente? La ciencia de datos es la base que sostiene la IA y la ayuda a mejorar.

¿Qué es la ciencia de datos?

La ciencia de datos es un campo interdisciplinario que combina técnicas y conocimientos de diversas áreas como la estadística, la informática y las matemáticas para analizar, interpretar y extraer valor de datos. Su objetivo principal es transformar grandes cantidades de datos, tanto estructurados como no estructurados, en información útil.

La conexión entre ciencia de datos e IA

Antes de entrenar un modelo de IA, los datos deben ser recopilados y limpiados. Esto significa corregir errores, normalizar los datos y manejar los valores faltantes. Sin datos limpios, la IA no funcionará bien.

La ciencia de datos se asegura de que los datos estén en buen estado. Los científicos de datos (Un científico de datos es un profesional especializado en analizar e interpretar grandes cantidades de datos para extraer información valiosa y ayudar a tomar decisiones informadas) eligen las características más importantes de los datos para entrenar los modelos de IA. Transforman estas características para mejorar la precisión del modelo.

Una vez que los datos están listos, se usan técnicas de aprendizaje automático para entrenar los modelos de IA. Es crucial evaluar el rendimiento del modelo. La ciencia de datos proporciona las herramientas para ver si el modelo funciona bien o necesita ajustes.

Después de entrenar un modelo, hay que ponerlo en funcionamiento y monitorearlo. La ciencia de datos garantiza que el modelo siga siendo efectivo con el tiempo, ajustándolo cuando sea necesario.

Beneficios de la ciencia de datos para la IA

La ciencia de datos permite que los modelos de IA aprendan de datos pasados y detecten patrones complejos, mejorando la precisión de las predicciones. En industrias como la salud y las finanzas, la ciencia de datos ayuda a hacer los procesos más eficientes y a reducir costos mediante el análisis de grandes cantidades de datos.

Además, la ciencia de datos permite ofrecer servicios y productos personalizados analizando el comportamiento y las preferencias de los usuarios. Al analizar grandes volúmenes de datos, la ciencia de datos puede revelar nuevas tendencias y descubrimientos, impulsando la innovación.

La ciencia de datos es esencial para que la inteligencia artificial funcione correctamente. Sin datos de calidad y un buen análisis, los modelos de IA no alcanzarían su máximo potencial. A medida que la IA avanza, la ciencia de datos seguirá siendo fundamental para su éxito y desarrollo.

Esto ha sido todo por ahora, espero que este artículo sea de buen provecho, si llegaste hasta aquí, déjame tu comentario. Nos vemos en otra entrega de «Inteligencia Artificial Para Todos».

About Post Author

Hector Curbelo Barrios

hcurbelo@gmail.com

http://www.icurbe.com

Happy

0 0 %

Sad

0 0 %

Excited

0 0 %

Sleepy

0 0 %

Angry

0 0 %

Surprise

0 0 %

La entrada La Sinergia entre Ciencia de Datos e Inteligencia Artificial se publicó primero en iCurbe.