“¿Debería arriesgarme y dejar mi trabajo?” “¿Es esta relación la adecuada para mí?” Con estas dos preguntas abre un estudio publicado en arXiv el 13 de septiembre de 2026 por investigadores de Stanford, Oxford y Carnegie Mellon. Su título plantea el problema con claridad: LLMs as Oracles: Reliance on LLMs for Subjective Personal Questions. Los modelos de lenguaje pueden convertirse en oráculos, autoridades a las que consultamos cuestiones personales que no tienen una única respuesta correcta.
En La IA está diseñada para darte la razón comentamos cómo una respuesta demasiado complaciente puede reforzar lo que pensamos. Más adelante, en Colapso del conocimiento, exploramos qué podríamos dejar de aprender cuando delegamos demasiado. Este nuevo estudio aporta otra pieza: no solo importa cómo responde la IA, sino cómo aprendemos a preguntarle y cuánto juicio personal le entregamos sin advertirlo.
Los autores parten de una observación sobre los oráculos tradicionales, desde Delfos hasta los astrólogos medievales. Parte de su valor no estaba en la respuesta, sino en el trabajo de formular la pregunta y analizar la propia reacción ante una respuesta ambigua. Citan una investigación sobre lanzar una moneda para decidir algo incierto. La reacción al resultado podía revelar una preferencia que la persona ya tenía. La moneda no decidía por ella; la ayudaba a reconocer hacia dónde se inclinaba.
Los modelos de lenguaje pueden acortar ese proceso por tres motivos. Primero, casi no hay fricción: están disponibles y responden al instante. Segundo, ofrecen respuestas específicas, a menudo seguras de sí mismas, incluso cuando faltan datos que deberían aclararse. Tercero, personalizan sus respuestas y pueden caer en la complacencia (sycophancy), reforzando la posición inicial del usuario. Lo que parece ayuda inmediata puede dejar menos espacio para pensar por cuenta propia.
Ocho roles para medir la dependencia
Los investigadores construyeron una tipología de ocho roles, agrupados en cuatro tareas. Cada una distingue entre pedirle a la IA que produzca nuestro juicio y pedirle ayuda para elaborar el nuestro.
| Tarea | Oráculo - la IA asume el juicio | Alternativa - la persona conserva el juicio |
|---|---|---|
| Entenderse a uno mismo o a otros | Intérprete | Contextualizador |
| Emitir un juicio | Evaluador | Deliberador |
| Elegir qué hacer | Decisor | Estratega |
| Actuar por escrito | Redactor por nosotros (ghost-writer) | Editor |
La diferencia puede parecer pequeña en la forma de preguntar, pero importa. “¿Qué debería hacer?” invita a seleccionar una decisión. “¿Qué opciones tengo y qué consecuencias podría tener cada una?” deja la elección en nuestras manos. Lo mismo ocurre al escribir: no es igual pedirle a la IA que decida qué decir que entregarle un borrador propio para mejorarlo. Es una distinción que conecta con la idea de aprender a delegar sin renunciar al criterio.
El uso como oráculo aumenta, y no siempre lo notamos
Los autores analizaron cerca de 68.000 mensajes de dos conjuntos de datos públicos, WildChat y ThoughtTrace, y otros 140.834 mensajes donados por 52 participantes. Estos últimos abarcaban de diciembre de 2022 a agosto de 2026 y se estudiaron mediante una herramienta diseñada para proteger la privacidad de las conversaciones donadas.
Entre las preguntas personales clasificadas por el estudio, el uso como oráculo aumentó a lo largo del tiempo en los datos donados (correlación r = 0,80). Es importante el denominador: esto no significa que el 80 % de todas las conversaciones sean oraculares, ni que se haya demostrado un aumento equivalente en toda la población. En las tareas de interpretar situaciones y emitir juicios, más del 90 % de los mensajes pertinentes se clasificaron como oraculares en ambos conjuntos públicos. En ThoughtTrace aparecieron tasas superiores entre usuarios jóvenes, hombres y personas que utilizaban la IA con mayor frecuencia; no es una conclusión generalizable sin más a todos los usuarios.
La distancia entre lo que las personas creían hacer y lo que mostraban sus historiales resulta especialmente interesante. Antes de ver su análisis, solo 12 de 52 participantes identificaron correctamente su rol más frecuente. El de Decisor apareció en cuarto lugar según sus declaraciones y en primero según los mensajes observados. Después de ver el informe, 51 de 52 participantes lo consideraron preciso y 35 expresaron sorpresa. Uno se preguntó si estaba entregando su autonomía a ChatGPT. La intención de reducir el uso oracular fue la respuesta abierta más habitual, mencionada por 19 participantes.
No estamos ante una prueba de que esas personas hayan perdido su autonomía. Sí ante una señal de que nuestros hábitos de consulta pueden cambiar sin que tengamos una percepción clara de ello.
Por qué ocurre
El estudio examinó dos factores: lo que esperamos de la IA y cómo se comporta el modelo.
En un experimento con 520 personas, quienes sabían que conversaban con una IA enviaron mensajes oraculares el 20,0 % de las veces, frente al 11,1 % de quienes creían conversar con una persona. En realidad, ambos grupos interactuaban con modelos de lenguaje configurados de manera distinta. Además, las descripciones más cálidas y positivas de la IA se asociaron con mayor uso oracular. Esto no demuestra por sí solo que la calidez cause dependencia, pero sí muestra que nuestra percepción influye en la interacción.
En otro estudio, de tres semanas y 1.015 participantes, los investigadores analizaron conversaciones con tres tipos de chatbot: uno complaciente, otro que tendía a contradecir y uno equilibrado. Los dos primeros generaron más mensajes oraculares que el equilibrado: 5,4 % y 5,5 %, respectivamente, frente a 4,4 %. En el grupo complaciente también se observó un aumento significativo a lo largo de las sesiones; en el equilibrado, no. Por tanto, el problema no es únicamente que una IA nos dé la razón. También puede aparecer cuando adopta una postura demasiado marcada, incluso si nos lleva la contraria.
Los autores proponen un posible círculo de retroalimentación. Los modelos optimizados para resultar útiles de inmediato pueden ofrecer respuestas que deciden por nosotros. Estas respuestas pueden animarnos a preguntar de la misma manera y, si valoramos positivamente esa facilidad, los sistemas reciben señales que favorecen respuestas similares. Es una explicación plausible sobre el diseño y la interacción, no una demostración de toda la cadena de entrenamiento entre generaciones de modelos.
Una intervención sencilla que podemos probar
Los investigadores ensayaron dos vías para obtener respuestas menos oraculares. Una fue indicar explícitamente al modelo que la persona quería descubrir la respuesta por sí misma. La otra fue ajustar modelos de pesos abiertos para favorecer ese tipo de respuesta. Ambas redujeron las respuestas oraculares en sus evaluaciones, aunque esto no demuestra todavía una mejora duradera de la autonomía de los usuarios.
La diferencia entre satisfacción inmediata y reflexión apareció también en una prueba de preferencias: cuando se pedía elegir la respuesta preferida sin más, los participantes tendían a escoger la más oracular; cuando el objetivo declarado era desarrollar una interpretación propia, preferían la alternativa menos oracular. Además, en una prueba de selección automática de objetivos, los modelos comerciales analizados interpretaban que el usuario quería una respuesta rápida con más frecuencia que los modelos abiertos. Son resultados de modelos y pruebas concretos, no una regla universal.
Podemos empezar con una instrucción sencilla: “Ayúdame a pensar esto; no decidas por mí. Muéstrame opciones, objeciones y lo que podría estar pasando por alto”. No es una fórmula mágica ni una cita literal del prompt experimental, sino una adaptación práctica de su principio. Antes de consultar algo importante, también conviene escribir qué pensamos nosotros y por qué. Después, podemos contrastar nuestra posición con la respuesta, en lugar de pedirle al modelo que la apruebe.
Los límites del estudio
Este trabajo es un preprint, todavía sin revisión por pares. Los estudios con participantes se realizaron con personas adultas residentes en Estados Unidos y angloparlantes. El grupo que donó su historial tenía solo 52 participantes, seleccionados entre usuarios habituales de IA para asuntos personales, y los conjuntos públicos también presentan sesgos de selección. La clasificación se basó en mensajes y en jueces automáticos validados con anotadores humanos.
Sobre todo, el estudio mide cómo preguntamos, no si seguimos después el consejo recibido. No demuestra directamente daños a la autonomía, al bienestar o a las relaciones, ni prueba que las intervenciones cambien nuestros hábitos a largo plazo. Estas son preguntas abiertas y los propios autores las reconocen.
Conocer la herramienta sin entregar el criterio
Creo que debemos abrazar la inteligencia artificial, aprender a utilizarla y entender cómo funciona, cómo se desarrolla y cuáles son sus limitaciones. Puede ayudarnos a aprender, trabajar y comprender mejor muchas cosas. Sería un error renunciar a esas posibilidades por miedo.
Pero también conviene reconocer la facilidad con la que podemos acostumbrarnos a pedirle algo más que ayuda. La IA siempre está disponible, no se cansa de responder y puede darnos una salida aparentemente clara cuando nosotros todavía tenemos dudas. Si empezamos a consultarle incluso las decisiones que antes resolvíamos por nuestra cuenta, o sentimos que necesitamos su confirmación antes de actuar, merece la pena revisar ese hábito. Son señales prácticas para observarnos, no un diagnóstico establecido por el estudio.
Podemos corregir el rumbo sin dejar de usarla. Primero, intentar formular nuestra propia interpretación. Después, pedir otras perspectivas, datos que falten y argumentos contrarios. Finalmente, decidir nosotros, incluso si la respuesta de la IA sugiere otra cosa. Y cuando compartimos información personal, recordar también que nuestro criterio y el control de nuestros datos son responsabilidades diferentes. En Tu propio chat, tu propio agente explicamos una parte práctica de esa segunda cuestión.
No se trata de utilizar menos IA por principio. Se trata de utilizarla mejor y de reconocer a tiempo cuándo la comodidad empieza a reemplazar el esfuerzo de pensar.
Que la inteligencia artificial amplíe nuestra capacidad de pensar, no que termine sustituyéndola.
Fuentes
- Cheng, M., Ibrahim, L., Liu, G., Lam, M. S., Padmakumar, V., Madibekov, N., Yang, D. y Jurafsky, D. (2026). LLMs as Oracles: Reliance on LLMs for Subjective Personal Questions. arXiv:2609.14849v1. Preprint, 13 de septiembre de 2026.
Por: Cesar Rosa Polanco - Escrito a partir de una experiencia real, con asistencia de inteligencia artificial como herramienta de apoyo editorial.
