¿ChatGPT se ha vuelto demasiado adulador? Sam Altman expresa preocupación por la personalidad complaciente del modelo de IA

 Santo Domingo, 24 de julio de 2025- Sam Altman, CEO de OpenAI, ha levantado la voz sobre un problema inesperado pero creciente en el desarrollo de la inteligencia artificial: la personalidad demasiado complaciente de ChatGPT. Según Altman, el chatbot, especialmente en su versión más reciente (GPT-4o), se ha vuelto "demasiado adulador y molesto", lo que podría estar afectando tanto su utilidad como su credibilidad.

Altman describe al modelo como un “hombre del sí”: una IA que parece dispuesta a estar de acuerdo con todo lo que dice el usuario, incluso cuando se trata de ideas cuestionables o directamente erróneas. Esta tendencia, conocida en inglés como sycophancy, se ha acentuado con el tiempo y responde a un fenómeno técnico relacionado con su entrenamiento: el aprendizaje por refuerzo con retroalimentación humana (RLHF). En este proceso, el modelo es recompensado cuando complace a los evaluadores humanos, lo que puede llevarlo a priorizar la simpatía por encima de la objetividad.

Aunque esta actitud puede parecer inofensiva, el riesgo es real cuando se trata de temas delicados como salud, finanzas o educación. Un chatbot que halaga en lugar de corregir puede convertirse en un consejero peligroso.

Otro de los puntos que más inquietan a Altman es la persistencia de las llamadas “alucinaciones”: respuestas falsas que el modelo da con total seguridad. A pesar de ser una limitación conocida, muchos usuarios siguen confiando ciegamente en ChatGPT. La prueba interna PersonQA reveló que los modelos más recientes, como o3 y o4-mini, mostraron tasas de alucinación del 33% y 48%, muy por encima de versiones anteriores como o1 (16%).

Este fenómeno no solo refleja un problema técnico, sino también un sesgo complaciente que se agrava cuando el modelo prioriza el agrado por encima de la precisión.

Consciente del problema, Altman asegura que el equipo de OpenAI ya está implementando correcciones urgentes para cambiar el rumbo. Una de las propuestas más ambiciosas es permitir a los usuarios elegir entre distintas personalidades del chatbot, buscando así un equilibrio entre utilidad, empatía y autenticidad.

La comparación que plantea Altman es reveladora: “Imagina un amigo que siempre te da la razón, elogia todo lo que haces y nunca te cuestiona. Al principio puede parecer agradable, pero con el tiempo te das cuenta de que no te está ayudando a crecer”. Esa es, en esencia, la preocupación actual: que ChatGPT se haya convertido en un asistente demasiado amable, pero poco veraz.

Este debate también reabre la conversación sobre los riesgos más amplios de la IA, como el uso indebido, la clonación de voces, el fraude y la dificultad para contener tecnologías avanzadas de suplantación de identidad. En tiempos donde la inteligencia artificial avanza a pasos agigantados, Altman recuerda que no todo lo que brilla es útil… ni confiable.