Armas de Destrucción Matemática - Cathy O'Neil

Tanto si eres un trabajador como un patrón, un profesor o un estudiante, ¿te has parado a pensar que quizás tus decisiones ya no son tuyas? ¿Es que ahora los números rigen y gobiernan absolutamente todo?

Aunque parezca una teoría de la conspiración, ¡es la pura verdad! Actualmente, simples algoritmos no solo definen, sino que determinan la vida de cada uno y pueden ponerla patas arriba.

El libro “Armas de Destrucción Matemática” expone la realidad que no vemos, excepto unos pocos elegidos, y cómo por más neutrales que sean los números cuando son comandados por los humanos, pueden generar sesgos muy prejuiciosos y opresivos.

“La ignorancia es una bendición”, y cerrar los ojos ante algunas minucias que suceden a nuestro alrededor es más fácil y cómodo, ¿no? Pero, si decides tomar la pastilla roja y despertar a esta realidad de los algoritmos y la seguridad de los datos, ¡sigue leyendo el resumen!

El libro “Armas de Destrucción Matemática”

Con 342 páginas divididas en 12 partes, tenemos en las manos una historia no sólo de la vida de la autora, como de la actualidad del ser humano. Pasando por encima de los puntos de transformación en el uso de algoritmos no sólo para la venta, sino en varios aspectos de nuestras vidas.

Publicado en 2016 con el título original “Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy”, se ha convertido en uno de los mayores best-sellers del área y busca revelar los números que gobiernan nuestros sistemas en la actualidad.

¿Quién es Cathy O'Neil?

Además de matemática y científica, la estadounidense Catherine Helen O’Neil fue una gran activista del movimiento por la igualdad social y económica. Su trayectoria profesional ha sido diversa y extensa, entre la docencia y el desempeño de importantes cargos en grandes empresas.

Finalmente, gracias a sus experiencias, se convirtió en autora y escribió uno de sus mayores éxitos, el libro “Armas de Destrucción Matemática”.

¿Por qué leer “Armas de Destrucción Matemática”?

Este campo abarca la sociedad en su totalidad, por lo que entenderlo significa conocer las fuerzas que intentan controlar su camino detrás de las escenas y utilizarlo en su beneficio.

Así pues, tanto si eres estudiante y trabajador como si eres profesor y empresario, podrás disfrutar del contenido de este libro de formas diferentes pero esenciales, pues a todos nos afecta a escala y depende de nosotros revertir su uso.

Principales enseñanzas del libro “Armas de Destrucción Matemática”

• Qué son las ADMs;
• Qué tipos de modelos matemáticos generan los algoritmos y cómo se utilizan;
• Inconvenientes que trae el Big Data en varios ámbitos de la vida para los más pobres mientras engaña a los más ricos;
• Cómo los anuncios predatorios se benefician de la desigualdad;
• La política y las redes sociales en la red de datos.

¿Cuáles son los nuevos problemas generados en la Cuarta Revolución Industrial?

Cada comienzo de una explosión tecnológica cambia la forma en que vivimos y, en consecuencia, la forma en que nos adaptamos.

Cada comienzo de una explosión tecnológica cambia la forma de vivir y, por consiguiente, la forma de adaptarse. Al principio, solo se veían y exaltaban las partes positivas, pero, como sabemos, estas también trajeron grandes problemas, uno de ellos la contaminación masiva y el efecto invernadero.

Esta vez, en la Cuarta Revolución Industrial, nuestro problema consiste en el uso de las nuevas tecnologías. Como todo es tan nuevo todavía no entendemos cuán nocivo y prejuicioso puede llegar a ser, o, en este caso, se está convirtiendo.

En el libro vemos cómo empezó todo, puntuando a los individuos mediante modelos de valor agregado, llamados por el autor Armas de Destrucción Matemáticas o ADM. Estos procesos sumados a la economía del Big Data se han apoderado de todos los aspectos de nuestra vida, incluso de los más sencillos.

Controlan lo que las personas ven en Internet, generan data (datos) para empresas, universidades, bancos y otros. El problema de esta “facilidad” es la forma injusta y discriminatoria en que se aplica, incluso sin saberlo acabamos infiriendo prejuicios a través de los números.

Después de todo, ¿todos sabemos cómo funciona este algoritmo? ¡Claro que no! Las personas seleccionadas que los crearon lo saben y por eso se agrupan en función de lo que creen que es correcto. Esto crea un problema básico que muchos empresarios conocen, ¿dónde está el feedback?

Si nosotros, los usuarios, no sabemos por qué nos han puesto en una determinada caja o patrón, no podemos dar feedback y entonces, aunque haya errores en el programa, este nunca se corregirá y el ciclo continuará.

¿Cómo funcionan los modelos de valor agregado?

Los modelos siempre tienen un objetivo en mente, quienes lo definen son sus creadores que para obtener los resultados que desean deben estudiar y mantener un contacto constante con su objeto de estudio. No son más que simplificaciones de nuestra realidad, que intentan aportar patrones comunes dentro de una multitud.

Suena sencillo y eficaz, ¿verdad? ¿Cuál es el problema de estos modelos?

Cuando se aplica a cosas simples y directas, como se observa en el libro, como las alarmas de incendio, el indicador es más que eficiente, ya que necesitan un humo para activarse y tener sus objetivos cumplidos. Sin embargo, si se añaden los seres humanos a la ecuación se genera un factor más complejo y aún no calculable.

Nuestras emociones, la moral, la complejidad de las interacciones y mucho más son excepciones no computables dentro de las matemáticas. ¿Cómo sabrán entonces estos modelos cuándo serán más justos y menos “fríos”?

A pesar de no conocer esta respuesta en la actualidad, estas ADMs se consideran influencias nocivas a partir de tres características intrínsecas: opacidad, escala y daño. Con ello, el autor plantea preguntas que nos harán comprender mejor estas características.

1. Incluso si el usuario es consciente de su participación en el modelo, ¿hasta qué punto es poco transparente el modelo en su análisis de la relevancia de los datos?
2. ¿El modelo va en contra del individuo? ¿Altera o perjudica las vidas?
3. ¿Gana escala? Es decir, ¿es inofensivo, actúa en pequeñas proporciones o crece exponencialmente hasta el punto de interferir en la vida de muchas personas?

¿En qué áreas de nuestra vida interfieren los algoritmos?

Hemos visto hasta ahora como los números pueden convertirse en algo perjudicial dependiendo de algunas características, una de ellas es el uso de proxies, informaciones aproximadas con la realidad y que en consecuencia no calculan las excepciones y sentimientos como se ha explicado anteriormente.

Entonces, ¿cómo van a decidir exactamente estas ADMs algunos aspectos de su vida? Veamos algunos ejemplos a continuación.

Acceso a las universidades

La vida universitaria es algo a lo que muchos aspiran, independientemente de su origen y riqueza, después de todo, ¿por qué serían importantes estos factores? ¡La respuesta más sencilla es que estos rasgos se utilizan ahora para determinar quién entra o no en ellas!

En el momento en que los rankings determinaron cuáles eran las mejores y peores universidades, todo el funcionamiento cambió. Al utilizar diferentes ponderaciones para los datos no explicados, obligan a los centros de enseñanza a seguir un patrón y, en consecuencia, a ceñirse a un modelo que casi no entienden.

En otras palabras, esto afecta a los profesores, que a menudo son despedidos por motivos injustos, a los rectores, que se ven encerrados en una fórmula que no pueden cumplir, y a los alumnos, que deben ajustarse a los resultados extremos que exigen.

Desde los ricos hasta la clase trabajadora, todos tratamos de encajar dentro de una ADM, que para encajar se carga de deudas. Todos ellos forman parte, como se menciona en el libro, de una carrera armamentística. ¡No venzas a nadie y lucha contra todos!

Justicia penitenciaria

El tratamiento de datos es tan grande que este método ha llegado incluso al ámbito de la seguridad, influyendo en la policía y en el proceso judicial.

Para disminuir los atracos, los robos y las infracciones frívolas, como conducir borracho o el consumo de drogas, se utilizan sistemas para observar la frecuencia con la que se producen estas situaciones.

Por lo general, se llevan a lugares periféricos, ya que los delitos de perturbación se repiten en la misma zona, mientras que los más graves están más dispersos.

Esto genera más detenciones por delitos sin víctimas, llenando el sistema penitenciario que automáticamente observa algunas tendencias no sólo en la localidad, sino en el tipo de personas con las que conviven estos individuos.

Entonces empiezan a buscar e inspeccionar cada vez más sesgadamente a personas que nunca han cometido delitos sólo por el entorno externo en el que se encuentran. No importa lo que hayas hecho, sino con quién te juntas y dónde vives.

Mientras tanto, los delitos de cuello blanco que implican miles de millones son impunes y casi intocables, porque si se hunden mucha gente cae con ellos, un argumento que no tienen los menos favorecidos.

Acceder a un puesto de trabajo

Aquí vemos una forma de explotación del trabajo, porque ¿cuál es el objetivo de una empresa? Mayor eficiencia con el menor gasto posible.

Esta mentalidad crea jornadas de trabajo que absorben toda la energía del trabajador con horarios irreales e insatisfactorios, lo que afecta principalmente a los trabajadores de las cafeterías – burnouts.

Además de este hecho están las grandes entrevistas o cuestionarios, con preguntas preseleccionadas que en función de la respuesta A, B o C determinan toda la valía y eficacia de una persona. Algo que muchas veces ni siquiera se explica para ser contestado o aprendido tanto por el individuo como por el método utilizado.

Esto provoca pérdidas para la empresa que puede perder un empleado valioso, así como para la otra parte que no entiende las razones por las que no ha sido seleccionada.

Obtención de créditos bancarios

Antiguamente, los propios banqueros cometían injusticias y prejuicios al validar los préstamos sólo a quienes andaban en el mismo ciclo que ellos o se vestían más adecuadamente. Hoy llegó una forma más justa, en la que los algoritmos veían cómo era la vida financiera de esa persona, si pagaban o debían.

Sin embargo, en lugar de mantener la norma para parecer singular, aquí se aplicó el mismo método de la prisión. Ahora bien, por vivir o rodearse de personas que no pagaban, ¡tu crédito también bajaría!

La utilización de e-scores comenzó a dominar, lo que veías, lo que comprabas, todo afectaba a los scores que tenías, determinando también lo que se te mostraba – incluso los préstamos.

Por un lado, al principio estas puntuaciones eran justas, porque entendías lo que hacía que aumentara como pagar en el plazo establecido, pero luego tomaron el mismo rumbo oscuro e incierto que las ADMs.

¿Cómo pueden interferir las redes sociales en la política?

Antes de contestar a esta pregunta, veamos el panorama total de cómo funcionan las redes sociales junto con estas ADMs. Estos modelos, como se ha visto hasta ahora, están llenos de informaciones que clasifican y categorizan nuestras preferencias, ayudando así a las empresas a saber cuándo y dónde colocar los anuncios.

En parte es evidente que el mundo se ha vuelto más tecnológico e inteligente, después de todo, a menudo ni siquiera hay que buscar las cosas que se les ocurren. Internet ha cambiado por completo la forma de recoger estos datos, generando millones de leads en minutos.

Sin embargo, hay que recordar las tres características de las que hemos hablado antes, hay diferencias entre lanzar un producto al mercado y atraer visceralmente a una persona a través de anuncios engañosos que perjudican a un individuo, generalmente generando grandes deudas.

Como podemos ver, todo este proceso tiene como objetivo el beneficio de las empresas y estas dependen directamente de un organismo que están entrelazados, estos se llaman gobiernos. Son ellos los que regulan, imponen impuestos y son también los que pueden incluso hacer la vista gorda con los paraísos fiscales.

Así que nada más cohesionado que ellos devuelvan el favor arrojando dinero a las acciones políticas. Saber dónde y cuándo son los momentos más adecuados para lanzar una campaña más específica gracias a los mismos datos recogidos anteriormente.

La relación entre las empresas, la política y la población debe ser discutida e investigada, pero para eso es necesario saber que estos efectos se producen y el interés en el tema para detener su crecimiento.

Más libros sobre estrategia

En el libro “Big Tech: A Ascensão dos Dados e a Morte da Política” de Evgeny Morozov, tenemos otro punto de vista sobre los datos y cómo influyen en la política, las finanzas y mucho más.

Ya en el libro “Big Data e Internet das Coisas” de Larissa Kakizaki de Alcantara, veremos los retos de la seguridad de los datos en la realidad brasileña.

Por último, para entender cómo hemos llegado a los niveles tecnológicos actuales tenemos que empezar por algún sitio, ¿no? En el libro “Sapiens”, del autor Yuval Noah Harari, podemos ver las transiciones de cada momento notable de la historia humana.

¿Cómo utilizar el Big Data de forma consciente?

El primer paso ya se ha dado, que es tomar conciencia del problema. Ahora viene la parte difícil y que lleva tiempo obtener, la conciencia general. Desde el momento en que vemos los defectos y los dolores que puede causar este algoritmo, ¡nos toca a nosotros, que lo hemos creado, desarrollar una solución para ello!

• Revisa tu forma de obtener y analizar los datos obtenidos de Internet;
• Pregúntate si esto contribuye de alguna manera al sufrimiento de una minoría;
• Reformula tu forma de feedback a algo transparente e inclusivo, sólo así podrás corregir los errores de tus algoritmos.

Califica el resumen del libro “Armas de Destrucción Matemática”

Acabas de dar un paso más hacia el éxito, ¡enhorabuena! Disfruta aprendiendo más sobre los diferentes métodos empresariales y las interesantes ideas con los audios de los resúmenes con los audios de los resúmenes suscribiéndote al Plan Premium de PocketBook4You.

¿Te ha gustado este resumen? Entonces califica tu experiencia con nosotros a continuación, tu feedback es esencial para que podamos mejorar nuestro contenido.

Y para ver el contenido de este libro en su totalidad, haz clic en la imagen de abajo y adquiere tu ejemplar: