Una especialista de Harvard nos alerta sobre cómo las instituciones nos clasifican con el rastrillo de los modelos matemáticos.
Difícil imaginar un curso de matemáticas en el que ningún alumno cansado haya preguntado sobre su uso en la “vida real”. A las respuestas usuales, Cathy O’Neill en su libro Weapons of Math Destruction (2016) (Armas de destrucción matemática), agrega una advertencia singular: las matemáticas no solo tienen un impacto real, sino un potencial capaz de afectar a la sociedad e incluso a la democracia.
La trayectoria de la autora nos puede traer a la mente la del físico nuclear Robert Oppenheimer; ambos parten de las ciencias puras para, tras dejar el mundo académico, descubrir las repercusiones morales de sus trabajos. En el caso de O’Neill, estamos ante una doctora en matemática de Harvard, convertida en especialista en modelos matemáticos y estadísticos para Wall Street, en donde fue parte de la crisis financiera del 2008.
Y es justamente en los modelos en donde, según ella, nacen los problemas.
Hoy en día, los gobiernos y empresas trabajan con estos para clasificar o asignar puntajes a la enorme cantidad de datos de la que disponen. Un ciudadano o, según sea el caso, un cliente, es clasificado según su comportamiento crediticio, el historial de su salud, su desempeño escolar, desempeño laboral y hasta según las páginas web que visita. De este modo las bases de datos, tras el cálculo de una serie de fórmulas, nos dirán la tasa de interés que se aplicará en un préstamo, el monto a cobrar para la prima del seguro, … o hasta que información se le mostrará cuando navegue en Internet.
Estos modelos son “cajas negras” en la mayoría de los casos, nadie conoce sus ponderaciones ni algoritmos. Además, reflejan los sesgos de sus creadores, por más científicos que estos sean no pueden ser imparciales. De los numerosos ejemplos del libro, tomemos por ejemplo el Ranking de Universidades en Estados Unidos. El primero aparece en 1988, cuando los editores de la revista U.S. News emprenden un proyecto que les ayudaría a vender más ejemplares: deciden evaluar 1,800 instituciones educativas, para lo cual distribuyen encuestas a los presidentes de las mismas. Como el resultado no pareció justo a todos, el staff decide luego añadir, según su criterio, nuevas variables a medir en su fórmula. ¿El resultado? Las universidades, que hasta ese entonces podían haberse enfocado con éxito en su quehacer habitual, educar, ahora tienen que gastar recursos en mejorar los criterios relevantes para estos terceros y competir con otras universidades enfocadas en adivinar la mejor forma de ganarle al modelo de U.S. News.
Otros casos que expone, siempre desde la realidad norteamericana, pero es indudable que estos luego se copian en otros países, tiene que ver con modelos de prevención del crimen, asignación de penas carcelarias o la evaluación de currículos laborales, que no hacen más que castigar a las clases sociales menos pudientes o desprotegidas. Como cuando un individuo recibe más años en prisión porque el programa encuentra que tiene familiares en la cárcel o recibe menos puntos en los sistemas automáticos de procesamiento de CVs, simplemente por el lugar en dónde vive.
Ante esto, Cathy O’Neill da cuenta de iniciativas de académicos que buscan desentrañar los sesgos de algunos sistemas ya existentes. La regulación de los gobiernos es importante también, para que se haga claro los cálculos que usan las entidades financieras y las centrales de riesgo. Pero primero, sugiere empezar con los creadores de estos modelos y los científicos de datos, como ella misma, para que se comprometan a tener presente los posibles usos indebidos e interpretaciones erróneas de sus sistemas.
