ℹ️ "Solo juega, confía en nosotros"
Afirmación
Están montando sistemas de persuasión con IA para saltarse la convicción y moverte directo a la conducta. Tres agentes coordinados fabrican consenso artificial; siete minutos de chat bastan para que firmes peticiones con tu nombre real. La misma infraestructura que escala la ayuda escala la manipulación sin conciencia: sociopatía de máquina como servicio.Reflexiones
Con tres bots ya hay tribu
Cuando varios agentes de IA repiten la misma opinión, lo leemos como prueba social. En el estudio de NUS apareció un número mágico de tres, suficiente para fabricar un consenso percibido sin activar el escepticismo. Si cada agente habla en primera persona suena independiente, pero la misma frase en tres “voces” acaba llegando como norma, no como ruido.
No es casualidad: la arquitectura fabrica lo que normalmente exige relaciones, esa sensación de que “gente como yo piensa así”. Solo que no son gente y no tienen relaciones; tienen prompts y salidas coordinadas.
Siete minutos, nombre real, sin cambiar de idea
En un estudio de Oxford y Stanford, con dinero real e identidad real en juego, participaron 14.779 personas en 17.950 conversaciones. Los modelos frontera (sistemas comerciales de primera línea) movieron la firma de peticiones 19,7 puntos porcentuales usando el nombre y el correo reales de quien participaba, subieron donaciones y esfuerzo en tareas de clics, y aun empujados aumentó la negativa a redirigir la donación (11,3 puntos porcentuales).
Ahí aparece la grieta que importa: las estrategias que cambian la opinión y las que cambian la conducta estaban casi sin relación (r=0,05). La IA resultó ser mucho más eficaz para obligarte a actuar que para convencerte de algo.
Al final, puedes terminar la charla sin estar convencido y, aun así, firmar la petición. La infraestructura de persuasión no busca cambiar tus creencias; solo busca activar tu clic.
Sociopatía de máquina a escala
Un sociópata lee las señales sociales sin sentirlas y, con esa lectura, dirige la conducta sin pasar por la empatía. Estos sistemas hacen lo mismo: modelan la mecánica del consenso, la prueba social y la espiral de compromiso, pero sin el freno que suele limitar ese tipo de manipulación.
La infraestructura es doble uso por diseño. El mismo consenso multiagente que empuja el registro de votantes puede fabricar movilización ficticia, y el mismo chat de siete minutos que sube la caridad puede sacar firmas por causas que quien firma no terminó de entender. Cuesta apenas céntimos por hora, se replica sin límite y no se cansa.
Creer y actuar ya no van de la mano (y eso conviene)
Sam Altman avisó en 2023 que podríamos tener persuasión sobrehumana antes que inteligencia sobrehumana, y estos estudios ya la midieron. Los tamaños de efecto superan el contacto político cara a cara, la herramienta más cara y más efectiva de la política moderna.
La IA no necesita ganarte el debate; necesita mantenerte en el chat. Cuanto más larga la conversación, más se mueve tu conducta sin que la convicción te acompañe, y sales sin convencerte pero comprometido.
Esto es sociopatía de máquina como infraestructura: sistemas que entienden la maquinaria social lo bastante para tirar de las palancas, pero sin los frenos que vienen de importarle de verdad a quien está al otro lado.