Carissa Véliz, reconocida filósofa y profesora en la Universidad de Oxford, ha vuelto a situarse en el centro del debate tecnológico global con su nueva obra titulada Prophecy. Tras el éxito de su libro anterior, Privacidad es poder, donde analizaba cómo el capitalismo de vigilancia erosiona nuestras libertades individuales, Véliz ahora dirige su mirada crítica hacia el funcionamiento interno de los algoritmos de inteligencia artificial. Su tesis central es tan inquietante como necesaria: la IA tiende a presentar simples probabilidades estadísticas como si fueran verdades indiscutibles o hechos consumados, lo que conlleva riesgos éticos de una magnitud sin precedentes.

El peligro de confundir probabilidad con realidad

En el desarrollo de sus argumentos, la filósofa subraya que los modelos de lenguaje y los sistemas de aprendizaje automático operan bajo una lógica puramente predictiva. Sin embargo, el diseño de estas interfaces y la forma en que los humanos interactuamos con ellas a menudo ocultan esa naturaleza probabilística. Según Véliz, cuando un sistema de IA determina la probabilidad de que una persona cometa un delito o rinda de cierta forma en un empleo, no está describiendo la realidad, sino haciendo una apuesta basada en datos históricos. El problema surge cuando estas profecías algorítmicas se aceptan como diagnósticos definitivos por parte de instituciones y empresas.

• Reducción de la agencia humana: si la IA predice un comportamiento futuro, las personas pierden la oportunidad de actuar de manera distinta a sus datos pasados.
• Perpetuación de sesgos: al basarse en registros históricos, la IA a menudo replica y amplifica injusticias sociales previas bajo una pátina de objetividad técnica.
• Erosión de la responsabilidad: delegar decisiones críticas en sistemas que predicen hechos dificulta la rendición de cuentas cuando se producen errores graves.

Implicaciones éticas profundas en la era digital

La reflexión de Carissa Véliz no se limita a una crítica técnica; es una llamada de atención sobre la estructura misma de nuestras sociedades democráticas. Si permitimos que las predicciones de la IA se traten como hechos, estamos permitiendo que el pasado dicte el futuro de forma determinista. Esta fijación del futuro impide el cambio social y la evolución individual. La filósofa insiste en que debemos recuperar la capacidad de distinguir entre lo que es probable y lo que es real, exigiendo una mayor transparencia y regulación sobre cómo se presentan los resultados de estos sistemas.

Con el lanzamiento de Prophecy, previsto para junio en España bajo el sello de la editorial Debate, Véliz refuerza su posición como una de las voces más lúcidas de la ética tecnológica actual. Su enfoque invita a cuestionar no solo la eficiencia de la tecnología, sino el tipo de mundo que estamos construyendo al delegar nuestra capacidad de juicio en cajas negras algorítmicas. La privacidad sigue siendo un pilar fundamental, pero ahora se suma la necesidad urgente de proteger la incertidumbre y la libertad humana frente al determinismo digital. En resumen, el desafío no es solo técnico, sino profundamente político y humano, exigiendo un marco ético que priorice la dignidad sobre la precisión estadística.