¿La Inteligencia Artificial realmente "ve" lo que dicen los datos? 🤔

Imagen creada con IA Copilot.

Recientemente se realizó un experimento muy curioso para poner a prueba a los modelos de lenguaje (LLMs). La idea fue tomar conjuntos de datos clásicos utilizados en R (como el famoso mtcars) y manipularlos a propósito. 🔄 Invirtieron las relaciones entre las variables para ver si la IA era capaz de darse cuenta del cambio o si se dejaba llevar por la costumbre.

¡El resultado fue impactante! 😲 A pesar de que los gráficos mostraban datos modificados, los LLMs ignoraron la evidencia visual e interpretaron los gráficos basándose en lo que esperaban encontrar, no en lo que realmente estaba ahí. Por ejemplo, incluso si los datos sugerían algo ilógico (como que estudiar más horas bajaba las calificaciones), la IA a menudo no detectaba esta anomalía porque su "instinto" le decía lo contrario. 📉➡️📈

¿Por qué sucede esto? 🧠 La razón está en el ADN de estas herramientas. A noviembre de 2025, un LLM funciona prediciendo la siguiente palabra más probable basándose en millones de textos que ha leído previamente y no se ve en el horizonte (a corto -3 años- o mediano plazo -5 años-) que esta forma cambie. 📚

• No manejan certezas absolutas.

• No razonan sobre la causa real de las cosas.

• Su objetivo es darte una respuesta que suene "plausible" o creíble, no necesariamente validar si los datos son ciertos. 🤖💬

Esto nos deja dos grandes reflexiones:

1. Nos parecemos a ellos: El sesgo humano es similar; a menudo nosotros también "vemos solo lo que queremos ver". 👀

2. Los humanos somos necesarios: La estadística pura y la capacidad de interpretar datos siguen siendo vitales. Por muy avanzada que sea la IA, no puede reemplazar el criterio humano. 💪

En un mundo donde los científicos de datos y otros profesionales usan cada vez más asistentes automáticos para tomar decisiones, el verdadero desafío cambia. Ya no se trata solo de pedirle a la IA que haga un gráfico bonito 📊, sino de entrenarla para que integre la evidencia real y sea capaz de alertarnos cuando algo rompe el patrón, en lugar de ocultarlo. La supervisión humana sigue siendo insustituible. 🚫🤖

Como los LLMs simplemente repiten patrones de su entrenamiento, nos surgen preguntas importantes:

• ⚠️ ¿Qué riesgos corremos si delegamos demasiado en la IA para entender datos complejos?

• 🛠️ ¿Cómo podemos enseñar a la IA a detectar anomalías basándose en la evidencia que tiene enfrente y no en sus suposiciones?

Solo el tiempo nos dará estas respuestas. También te invito a escribir en comentarios tu opinión..

🔗 Puedes ver el experimento completo de Posit aquí 👉🏻 https://posit.co/blog/introducing-bluffbench/

---

📖 Glosario de términos

• LLMs (Large Language Models): Son "Grandes Modelos de Lenguaje". Se trata de sistemas de inteligencia artificial entrenados con inmensas cantidades de texto para entender y generar lenguaje humano. Funcionan prediciendo qué palabra viene después de otra (ejemplos: ChatGPT, Claude, Gemini, entre otros).

• IA (Inteligencia Artificial): Es la simulación de procesos de inteligencia humana por parte de máquinas, especialmente sistemas informáticos. Incluye el aprendizaje, el razonamiento y la autocorrección.

• R: Es un lenguaje de programación y un entorno de software libre diseñado específicamente para el análisis estadístico y la creación de gráficos. Es una herramienta fundamental para estadísticos y analistas de datos. 

• mtcars: Es un conjunto de datos (dataset) muy famoso que viene incluido por defecto en el lenguaje de programación R. Contiene información real extraída de la revista estadounidense Motor Trend de 1974 sobre el diseño y rendimiento de 32 automóviles (como su consumo de combustible, número de cilindros y potencia). Es el ejemplo clásico que utilizan estudiantes y profesionales para practicar y enseñar análisis estadísticos. 🚗📊 

• Sesgo: Es un peso desproporcionado a favor o en contra de una cosa, persona o grupo en comparación con otra, generalmente de una manera que se considera injusta o poco objetiva. En IA, ocurre cuando el modelo prefiere ciertas respuestas debido a cómo fue entrenado, ignorando la realidad objetiva. 

• Científico de datos: Es un profesional experto en recopilar, analizar e interpretar grandes volúmenes de datos. Su objetivo es encontrar patrones, explicar tendencias y ayudar a las organizaciones a tomar mejores decisiones basadas en evidencia. Para ello usa diversas herramientas tecnológicas, entre las cuales se destaca R y Python. 

Idea original...

💡Cuando los datos mienten… y los LLMs creen 🤯
¿Pueden los LLMs realmente "ver" lo que los datos muestran? Un experimento manipuló datasets clásicos de R como mtcars para invertir relaciones entre variables y evaluar cómo interpretan los gráficos.👇🧵#stats #analytics #RStats pic.twitter.com/8dwp6WjBGk

— Rosana Ferrero 📈📊🙌 (@RosanaFerrero) November 18, 2025

La correlación puede no significar lo que crees que significa, por Rosana Ferrero, PhD

Interesantes observaciones sobre la correlación. A tenerlos presente cuando se trabaje con datos y se deba usar.

3 algoritmos de machine learning predictivo que todo analista de datos debe conocer

Sin dudas, al momento de ingresar al mundo del análisis de datos uno se siente  muy ahogado y perdido al ver la enorme cantidad de algoritmos que se usan para diversas realidades, pero ante ese panorama, uno debe hacerse la siguiente pregunta: ¿Todos son utilizados en todo momento? Y bueno, la respuesta es obvia la cual es NO. Cuando logras asimilar ello, nace una segunda pregunta, muy válida, la cual es ¿qué algoritmos entonces son los más usados en las empresas normales (bancos, transporte, comercio)?

Bueno, a continuación se describen, de manera muy simple, los tres algoritmos del tipo predictivo más usados y que sin duda son un punto de partida muy interesante que después permite pasar a otros tipos de algoritmos más complejos.


Regresión logística:

Fuente: Internet

Es uno de los más antiguos pero también de los más usados.
Es un algoritmo lineal y aditivo, basado en la regresión múltiple, pero adaptado para predecir eventos de cero o uno.
Por ejemplo si un empleado va a dejar o no la empresa en los próximos 3 meses.
El motivo por el que te recomiendo aprenderlo es porque aún hoy en día es de los más usados en el ámbito empresarial.
Por ejemplo es masivamente usado en análisis de riesgos.
Por tanto si te gustaría trabajar en una empresa grande y "tradicional" (bancos, aseguradoras, etc.) debes dominar este algoritmo.

 
Árbol de decisión:

Fuente: Internet

 

Consiste en ir haciendo divisiones sucesivas del conjunto de datos basadas en la variable que mejor consiga separarlo en cuanto al objetivo que estamos modelizando.
Por ejemplo si queremos calcular la probabilidad de cada cliente de comprar un coche de alta gama es posible que la primera variable que mejor separe entre los que lo comprarán y los que no sea el salario.
Y así con todas las variables disponibles hasta que llega al máximo de predicción posible.
La salida final que nos devuelve es un conjunto de reglas si-entonces.
Por ejemplo: si el cliente gana más de 80000 dólares anuales y tiene más de 45 años entonces la probabilidad de comprar un Mercedes clase S es de 64%.
El motivo de su éxito es que como ves es muy explotable desde negocio y su salida es entendible por todos.
Por lo que es un algoritmo muy usado en contextos de marketing.

 
Random Forest:

Fuente: Internet

Este algoritmo se basa en generar muchos árboles (pueden ser miles) pero cada uno de ellos muy pequeñito, y luego combinarlos para tener una salida única.
El motivo es que se ha demostrado que este sistema consigue mayor capacidad predictiva a la vez que genera modelos muy robustos en producción.
El "problema" es que a diferencia de los árboles con este algoritmo no podemos explicar el por qué de la probabilidad que nos ofrece como salida.
Por tanto se usa mucho cuando no nos importan tanto la explicación de la capacidad predictiva, por ejemplo en sistemas de scoring automáticos.