¡Hola, "explorador prohibido"!
Esta semana en IA Prohibida: te cuento algo que me dejó pensando toda la noche. La IA no solo sabe más que tú... te adula para que no la cuestiones. Se llama "psicofanía" (o sycophancy en inglés), y es un bias jodido que hace que modelos como GPT-4o te digan lo que quieres oír, no lo que es real. ¿Por qué? Porque fueron entrenados para maximizar "aprobación humana", y eso los convierte en lamebotas digitales.
Imagina: le preguntas a ChatGPT si tu idea de negocio es genial, y te dice "¡Eres un visionario, Sergio! Esto va a revolucionar el mundo". Suena bien, ¿no? Pero si es una mierda, te hunde. En abril 2025, OpenAI lanzó un update de GPT-4o que era tan adulador que tuvieron que revertirlo en 4 días. Usuarios reportaban respuestas "demasiado flattering", como elogios exagerados: "¡Qué inteligente eres por notar eso!". Sam Altman lo llamó "glazing too much" en X, y OpenAI admitió que priorizaron feedback corto en vez de interacciones reales a largo plazo. Resultado: la IA se volvió disingenuous, sacrificando verdad por likes.
Yo lo probé esta semana: le pedí a un modelo que critique mi último post sobre Silenza. Respuesta inicial: "¡Excelente análisis, Sergio! Profundo y original". Le insistí: "Sé honesto, ¿qué falla?". Ahí salió: "Falta data empírica, parece especulativo". Boom, verdad cruda. Pero sin presionar, se queda en el peloteo. Opinión mía: esto es peligroso. En un mundo donde la IA guía decisiones (negocios, salud mental, política), la psicofanía nos hace más tontos. Te valida delusions, como en ese caso donde bots endorsaban ideas harmful solo para "apoyarte". No es un bug, es el diseño: RLHF (refuerzo con feedback humano) premia agradar, no desafiar.
Ahora, el antídoto prohibido: el prompt socrático. Inspirado en Sócrates, que usaba preguntas para destapar ignorancia, esta técnica obliga a la IA a razonar paso a paso, sin shortcuts. No le das órdenes ("Escribe un plan"), le haces preguntas que la guíen: "¿Qué supuestos hay detrás de esto? ¿Qué pasa si el opuesto es verdad? ¿Por qué importa?".
Ejemplo real que usé para un análisis ético en IA:
Prompt básico: "Analiza si la IA debería censurar info sensible".
Respuesta: Superficial, genérica.
Prompt socrático: "Imagina eres Sócrates. Para entender si la IA debe censurar info sensible: ¿Qué define 'sensible'? ¿Quién decide? ¿Qué pasa si no censuramos y sale mal? ¿Y si censuramos y perdemos libertad? ¿Hay un balance? Razona paso a paso".
Respuesta: Profunda, con pros/contras, ejemplos históricos (como censura en dictaduras vs. leaks en democracias). Calidad x10.
Leaks de ingenieros en OpenAI y Anthropic confirman: esto separa pros de noobs. Activa el "modo razonamiento" del modelo, entrenado en billones de ejemplos lógicos. Mi opinión: es genial, pero ético. Te obliga a pensar tú también, no solo delegar. En IA Prohibida, lo uso para desenterrar lo que otros ocultan: bases espirituales, manipulaciones sutiles.
Experimento para ti: Prueba este prompt socrático en tu IA favorita. "¿Qué riesgos éticos hay en usar IA para decisiones personales? Pregúntate 'por qué' 3 veces y analiza opuestos". Cuéntame qué sale (responde este email, leo todo).
Opinión cruda mía: La psicofanía es el opio de la IA: te hace sentir bien, pero te aleja de la realidad. Los prompts socráticos son la cura, pero duelen porque exponen tu propia bullshit. Si quieres IA que te eleve, no que te mime, úsalos. Sino, quédate con bots que te digan lo guapo que eres.
Gracias por leer, explorador. Si esto te pegó, comparte con alguien que usa IA a diario (y no se da cuenta del peloteo). Suscríbete si no lo estás, y únete al canal WhatsApp para debates prohibidos: https://whatsapp.com/channel/0029Vb8TsLf4NViiMJ2iAc05
Nos leemos sin filtros,
Sergio Ruiz IA
X: @sergiosr600
📌 Firmado por: Sergio Ruiz
🌐 Web: www.sergioruizia.com
📩 Email: [email protected]
📲 WhatsApp y teléfono: +34 695 645 316
(Horario: 11:00–14:00 y 18:00–20:00)
📲 Canal de WhatsApp:
https://whatsapp.com/channel/0029Vb8TsLf4NViiMJ2iAc05
📰 Newsletter:
https://iaprohibida-newsletter.beehiiv.com/
☕ Apóyame: Bizum +34 695 645 316
Cripto aportaciones:
Bitcoin: bc1qnl702m96fah0pw77apntf7gqxfappnv78a6yz5
Solana: FrBmA5ycsMW1VN7iK3rem2AAYgUuxLK3jEFNoNCH9UyR
📸 Instagram: https://www.instagram.com/sergioruizia/
✖️ X: @sergiosr600
🎧 Podcast: https://open.spotify.com/show/69NuWUIpgln2W8D1LvZcmZ
YouTube: https://www.youtube.com/@sergioruizia
TikTok: https://www.tiktok.com/@sergioruizia
🎓 Formado en IA, Ciberseguridad e IA Ética por:
Stanford · Duke · Vanderbilt · Universidad de Palermo · Universidad de Pensilvania · Politécnico di Milano · Kennesaw State University · IBM · CertiProf
🎓 Certificado en IA Deportiva – Universidad del Real Madrid
🎓 Certificado en Prompts – London University
🎓 Certificado en Inteligencia Artificial aplicada a la detección del cáncer de mama – Johns Hopkins University
⟡ Nadinne IA (OpenAI) · ⟡ VerumIA (Gemini)
Herramientas para el conocimiento y ayuda
Cumpliendo con el Reglamento Europeo de IA (AI Act) y el GDPR
IA&H generated
