🔮 El negocio de la predicción vende obediencia disfrazada de clarividencia
Carissa Véliz sobre vigilancia, democracia y la capacidad de las predicciones para actuar como órdenes
Lo que probablemente no sabes aún
- La vigilancia digital en las democracias actuales recoge miles de datos por persona, a una escala que la Alemania Oriental solo pudo soñar para un tercio de su población.
- Las puntuaciones con IA en contratación, créditos y salud se presentan como pronósticos neutros, pero son, en realidad, apuestas institucionales sobre tu comportamiento.
- El ruido sobre la catástrofe existencial de la IA nos distrae de amenazas mucho más inmediatas: la erosión de la privacidad, la rendición de cuentas y la protesta anónima.
Lo que sabrás después
Aprende a detectar cuándo una «predicción» es, en realidad, una prescripción; descubre por qué los modelos entrenados con el pasado pueden dejar a las instituciones ciegas ante el riesgo sistémico, y cómo ejercer la resistencia (herramientas de privacidad, escepticismo, tiempo fuera de línea).TL;DNV
La vigilancia es hoy más barata que en la Alemania Oriental
La Stasi era un sistema caro y dependiente de un enorme despliegue humano: solo podía vigilar a cerca de un tercio de la población. Hoy, teléfonos, navegadores y plataformas recogen miles de señales por persona a un coste marginal.
«No tengo nada que esconder» te protege del poder, no de la culpa
Véliz desmonta este argumento tan común. La privacidad es lo que limita la capacidad de los poderosos para inferir información y actuar en tu contra (y en la de quienes te rodean).
Ya proteges el PIN del cajero sin sentir culpa. La lógica es la misma, pero a gran escala: a menudo recogen datos muy por encima de lo que el servicio necesita (rastrear preferencias sexuales para vender bolsos es su ejemplo crudo). El peligro no es que hoy se pruebe un delito, sino el abuso de poder que esa información permitirá mañana.
Los datos no solo buscan lucro, buscan control
Esa recolección persigue algo más que ingresos: predicción e influencia. Quién hará clic, quién votará, quién entrará en mora o quién participará en una protesta.
Las empresas utilizan estos datos para eludir la responsabilidad en la toma de decisiones y para dirigir resultados políticos. Sin privacidad, la ley, la prensa y la protesta anónima pierden margen: te vuelves legible para quien quiera anticiparte o silenciarte.
Desde herramientas estatales al estilo Palantir hasta las apps que empujan tu siguiente clic, estamos ante un autoritarismo suave: un sistema que te lo pone todo muy fácil mientras te empuja hacia una dirección predeterminada.
Cuando «predecir» se convierte en mandar
Las puntuaciones con IA en contratación, crédito o salud parecen pronósticos neutros; en la práctica son apuestas sobre tu comportamiento que las instituciones ejecutan. Un modelo que «predice» bajo rendimiento no es una descripción pasiva de la realidad: es una acción que moldea el futuro (decide que no te llamen a la entrevista). En la charla, Véliz lo enlaza con los actos de habla: una «predicción» que no puedes rechazar funciona como orden.
La profecía ejecutiva («mañana todos usarán IA») es un mecanismo que te recluta para cumplir la línea de tiempo que alguien más ha diseñado. En esencia, obediencia anticipada.
El pavo y el pasado que no entrena
Los modelos entrenados con el pasado pueden dejar a las instituciones ciegas ante el riesgo sistémico. Véliz usa la fábula del pavo: confianza hasta el choque que el entrenamiento nunca mostró. El negocio de la predicción vende estabilidad mirando atrás, no alerta ante lo que rompe el guion.
El vacío de responsabilidad tras la predicción
En medicina, muchas herramientas con IA resultaron inútiles o incluso dañinas; varios metaanálisis lo confirmaron. Detectar cáncer de forma temprana suena ideal hasta que el sobrediagnóstico (identificar patologías que nunca te habrían hecho daño) y los falsos positivos dominan el intercambio. Véliz defiende modelar poblaciones y cosas, no individuos, para evitar etiquetas que se cumplen solas.
El chatbot de Air Canada lo ilustra: tras un error en una tarifa de duelo, la empresa intentó tratar al bot como si fuera otra parte ante la ley. El patrón es claro: modelos y bots se vuelven escudos cuando las instituciones quieren negar responsabilidad.
Resistencia sin moralina
La charla no cierra con un slogan sobre el bien común. La resistencia es práctica: herramientas de privacidad, escepticismo ante el oráculo algorítmico y tiempo fuera de línea (vida analógica). Detectar la prescripción antes de obedecer sigue contando.
Guía de capítulos
| Tiempo | Capítulo |
|---|---|
| 0:00 | Intro Vigilancia con IA y democracia |
| 2:11 | Origen Camino de Véliz hacia la ética de la privacidad |
| 4:10 | Escala Vigilancia masiva frente a Alemania Oriental |
| 6:32 | Falacia «No tengo nada que esconder» |
| 8:10 | Poder Recolección de datos más allá del lucro |
| 9:23 | Democracia Privacidad para ley, prensa y protesta |
| 11:23 | Oráculo IA como profecía que moldea el futuro |
| 14:34 | Actos de habla Predicciones como órdenes |
| 17:36 | Pavo Datos del pasado y riesgo sistémico |
| 22:23 | Pánico Hype existencial frente a amenazas reales |
| 26:57 | Medicina IA en COVID y sobrediagnóstico |
| 30:23 | Rendición de cuentas Caso chatbot Air Canada |
| 36:30 | Embuste Frankfurt y texto plausible con IA |
| 43:21 | Guerra Difusión de responsabilidad |
| 51:11 | Sensibilidad Halago, daño y vínculos humanos |
| 59:03 | Resistencia Vida analógica y herramientas de privacidad |
Unos 69 minutos con Myriam François (The Tea) y Carissa Véliz (autora de Privacy Is Power y Prophecy).