ARMAS DE DESTRUCCIÓN MATEMÁTICA.
Edit.2010
CATHY O´NEIL
1972. Estados Unidos
Vivimos en la edad el algoritmo. Las
decisiones que afectan a nuestras vidas no están hechas por humanos, sino por
modelos matemáticos. En teoría esto debería conducir a una mayor equidad: todos
son juzgados de acuerdo con las mismas reglas, sin sesgo. Pero en realidad,
ocurre exactamente lo contrario. Los modelos que se utilizan en la actualidad
son opacos, no regulados e incontestables, incluso cuando están equivocados.
La crisis financiera dejó bien claro
que las matemáticas, que una vez habían sido mi refugio, no solo estaban
profundamente involucradas en los problemas del mundo, sino que además
agravaban muchos de ellos. La ruina inmobiliaria, la ruina de grandes entidades
financieras, el aumento del desempleo: todo esto había sido impulsado e
inducido por matemáticos que blandían fórmulas mágicas…
En el año 2010 aproximadamente las
matemáticas se habían impuesto como nuca antes en los asuntos humanos, y el
público en general recibió el cambio con los brazos abiertos… Sus veredictos,
incluso cuando estaban equivocados o era perjudiciales, eran indiscutibles e
inapelables y solían castigar a los pobres y los oprimidos de nuestra sociedad,
al tiempo que enriquecían a los ricos.
En el caso de los gigantes web como
Google, Amazon y Facebook, solo sus algoritmos hechos meticulosamente a medida
valen cientos de miles de millones de dólares.
Las ADM en desarrollo en los sectores
de los recursos humanos, la salud y la banca, por mencionar solo algunos de
ellos, están estableciendo con rapidez normas generales que ejercen sobre
nosotros una fuerza muy similar al poder de la ley…
En 2009 ya resultaba obvio que las
lecciones del hundimiento del mercado no habían cambiado el rumbo del mundo de
las finanzas ni habían inculcado nuevos valores en él. Los grupos de presión
lograron casi todos sus propósitos y el juego siguió siendo el mismo…
Una vez establecida la ignorancia, la
clave para el reclutador, al igual que para el matasanos, es localizar a las
personas más vulnerables y utilizar su información privada en su contra.
Los algoritmos de Facebook pueden
influir en los sentimientos de millones de personas sin que estas se den cuenta
de lo que ocurre.
Las mismas ADM que maltratan a los
pobres también colocan a las clases acomodadas de la sociedad en sus propio
silos de marketing.
Debemos integrar de forma explícita
mejores valores en nuestros algoritmos y crear modelos de big data que sigan nuestro ejemplo ético. Y a veces eso significa
antes que a los beneficios…
Debemos trabajar juntos para vigilar,
dominar y desarmar estas ADM. Espero que pasen a la historia, al igual que
ocurrió con las terribles minas de carbón de hace un siglo, como las reliquias
de los albores de esta nueva revolución, antes de que aprendiéramos a
introducir la justicia y la rendición de cuentas en la era de los datos.
--
EL
BOBO DE KORIA (RECOPILADOR)
No hay comentarios:
Publicar un comentario