Armas de destrucción matemática

Weapons of Math Destruction (2016) ofrece una mirada crítica al creciente número de algoritmos que podrían estar afectando su vida cotidiana de maneras que ni siquiera conoce. A medida que más empresas y servicios, incluidas las escuelas y la policía, utilizan algoritmos para automatizar los trabajos, un número cada vez mayor de personas sufre los efectos adversos. Así que no te dejes a merced de la automatización: descubre qué puedes hacer para protegerte y proteger tus datos.

Vea las matemáticas desde una perspectiva completamente nueva.

 

Tal vez hayas oído hablar de Big Data y de cómo los algoritmos que usan esa información proporcionan nuevas ideas sobre los patrones de consumo, la política y las plataformas de redes sociales. De hecho, los algoritmos están en todas partes. Guían nuestros feeds de redes sociales y tamizan los anuncios que vemos. Y también influyen en la vida humana de muchas otras maneras; a menudo, ahora dictan a qué trabajos y escuelas tenemos acceso.

 

Se podría pensar que las decisiones, sobre contratación, sobre admisiones, serían mucho más justas si se basaran en cálculos objetivos en lugar de en el instinto de alguien. Después de todo, los algoritmos juzgan a todos en la misma escala, ¿verdad? Bueno, como aprenderá en este resumen, la situación es un poco más compleja que eso.

 

También lo descubrirás

 

  • por qué manipular los feeds de Facebook puede mejorar la participación electoral;
  •  

  • cómo un algoritmo utilizado para clasificar las universidades de EE. UU. Aumentó la matrícula en un 500 por ciento; y
  •  

  • por qué los conductores de Florida con un historial de manejo impecable pagan primas más altas que los conductores ebrios.
  •  

Los algoritmos tienen el potencial de influir en el público votante y perturbar la democracia.

 

En muchos sentidos, internet ayuda a la democracia. Es una plataforma pública que admite voces independientes. Pero esa misma plataforma también está abierta a poderosas máquinas de propaganda que pueden manipular la conversación.

 

La investigación ha demostrado que las redes sociales y los motores de búsqueda son especialmente vulnerables a los algoritmos que pueden influir en las decisiones de los usuarios desprevenidos.

 

Los investigadores Robert Epstein y Ronald Robertson encontraron pruebas de esto después de pedirles a los votantes indecisos en los Estados Unidos y la India que encontraran información sobre un puñado de diferentes candidatos políticos.

 

El problema fue que se les dijo a los votantes que usaran un motor de búsqueda específico, sin saber que había sido programado con un algoritmo que favorecía a un candidato sobre todos los demás. Como resultado, los participantes mostraron un cambio del 20 por ciento hacia votar por la opción preferida del algoritmo.

 

Un estudio similar ocurrió en Facebook justo antes de las elecciones de 2012: Solomon Messing, del Pew Research Center, diseñó un algoritmo especial que generaría las noticias de dos millones de usuarios y favorecería las noticias políticas sobre todas las demás publicaciones.

 

Facebook encuestó a los participantes antes y después de las elecciones, y los resultados mostraron que un 3 por ciento más de usuarios acudieron a votar de lo esperado antes de que el algoritmo se ajustara para favorecer la política.

 

Si bien no podemos saber con certeza si ciertos motores de búsqueda o algoritmos de redes sociales están diseñados para influir en los usuarios, está claro que existe un gran potencial de abuso.

 

También está claro que los candidatos políticos son muy conscientes de su poder para obtener votos.

 

Antes de las elecciones de 2012, Obama tuvo un equipo de analistas de datos que entrevistó a miles de votantes y utilizó sus respuestas, además de datos demográficos y de consumidores, para crear perfiles matemáticos.

 

Estos perfiles se utilizaron para encontrar personas similares en bases de datos nacionales. Según los perfiles, podrían suponer que las personas con intereses y antecedentes similares también compartirían las mismas opiniones políticas. Una vez que las personas con datos similares se agruparon, los analistas pudieron crear algoritmos que se aseguraron de que estos grupos recibieran anuncios específicos que fueran atractivos para sus gustos.

 

Entonces, aquellos que mostraron evidencia de tener preocupaciones ambientales, por ejemplo, fueron blanco de anuncios que destacaban las políticas ambientales de Obama.

 

Los algoritmos diseñados para predecir el crimen también refuerzan los prejuicios.

 

Predecir crímenes futuros suena como algo sacado de una historia de ciencia ficción de Philip K. Dick, pero de hecho es parte de la realidad de hoy. Los departamentos de policía están utilizando algoritmos para apuntar a posibles delincuentes.

 

Pero este software está lejos de ser perfecto, y los algoritmos han llevado a que las ciudades sean controladas de manera desigual y que ciertas personas sean injustamente identificadas.

 

¿Cómo ha sucedido esto?

 

Los algoritmos se basan en datos históricos para determinar dónde es más probable que ocurran crímenes, y es la policía quien determina qué datos se introducen en el algoritmo.

 

Parte del problema es que la policía tiende a centrarse en tipos específicos de delitos, como los “delitos molestos”, que incluyen la vagancia y ciertos delitos relacionados con las drogas.

 

Dado que estos delitos tienden a ocurrir en vecindarios pobres, el análisis terminará siendo completamente sesgado hacia estas partes de la ciudad. Como resultado, la policía envía la mayoría de sus unidades de patrulla a las calles de los barrios pobres, haciendo que los residentes se sientan injustamente atacados. Esto también lleva a la negligencia de los barrios más ricos, que se vuelven más vulnerables a la actividad criminal.

 

Sesgos similares incorporados distorsionan los datos que la policía usa para predecir posibles delitos violentos, lo que lleva a que personas inocentes sean etiquetadas como peligrosas.

 

En 2009, el Departamento de Policía de Chicago recibió una subvención para desarrollar un nuevo software de predicción de delitos. Usaron ese dinero para desarrollar un algoritmo que creó una lista de las 400 personas con mayor probabilidad de estar involucradas en un homicidio.

 

Una de esas personas era Robert McDaniel, un joven de 22 años que se convirtió en el foco de atención de la policía. Un día, en 2013, un oficial de policía incluso visitó la casa de McDaniel para hacerle saber que la policía tenía sus ojos en él.

 

Pero McDaniel nunca fue acusado de ningún delito. Terminó siendo marcado por el algoritmo basado únicamente en las personas que sigue en las redes sociales y los delincuentes que viven en su vecindario.

 

En resumen, crecer en un vecindario pobre es todo lo que se necesita para etiquetarte como potencialmente peligroso.

 

Para ser justos, los algoritmos de predicción de delitos están diseñados para proteger a las personas, pero pueden empeorar fácilmente la vida de las personas de lo que eran antes.

 

Como veremos en el próximo capítulo, un problema similar está plagando el negocio de los seguros.

 

Las compañías de seguros están explotando a las personas con mal crédito.

 

Si está familiarizado con las agencias de seguros, es posible que sepa que le pedirán a diferentes clientes que paguen diferentes primas. Y no, no solo hacen esto al azar. Utilizan los datos específicos que han recopilado sobre sus clientes.

 

Para el seguro de automóviles, los algoritmos se utilizan para calcular los montos de pago en función de cuántos accidentes anteriores ha tenido un cliente, así como sus informes de crédito anteriores.

 

De hecho, en algunas áreas, esos informes de crédito tienen más peso que el historial de manejo de un cliente.

 

Tal es el caso en Florida, donde los adultos con registros de manejo limpios e informes crediticios deficientes terminan pagando un promedio de $ 1,552 más por año que los conductores con excelente crédito y antecedentes de conducir ebrio.

 

Esto conduce a que los conductores pobres con habilidades de conducción impecables tengan que pagar más por el seguro que los conductores ricos.

 

Y así comienza el círculo vicioso: al verse obligados a pagar más por el seguro, es más probable que las familias con problemas de liquidez pierdan el pago de otra factura y empeoren aún más su puntaje de crédito. Y luego, cuando expire su seguro actual, la tasa en su próximo contrato aumentará aún más, incluso si no han violado una sola regla de tráfico.

 

Algunas compañías de seguros incluso están utilizando algoritmos para calcular la probabilidad de que un cliente compare precios más baratos.

 

La compañía de seguros Allstate hace esto utilizando un modelo que emplea datos demográficos y de consumo. Si el algoritmo sugiere que es probable que un cliente busque precios más bajos, le ofrecerá un precio reducido, a veces hasta un 90 por ciento de descuento sobre la tarifa promedio.

 

Sin embargo, si no es probable que un cliente compare, su tasa puede aumentar hasta en un 800 por ciento.

 

Pero lo que realmente está haciendo el algoritmo de Allstate es aprovecharse de las personas pobres sin educación formal, ya que este es el grupo demográfico que es menos probable que busque otras opciones.

 

El mercado laboral también está siendo influenciado injustamente por algoritmos.

 

Puede ser difícil detectar a los mejores trabajadores de un grupo de cientos de solicitantes. Por lo tanto, tiene sentido utilizar una variedad de pruebas, en combinación con la ayuda de compañías de datos, para clasificar los resultados.

 

Pero estas pruebas han demostrado ser restrictivas para ciertos tipos de personas, especialmente cuando se trata de pruebas de personalidad, lo que ha hecho casi imposible que alguien como Kyle Behm consiga un trabajo.

 

Behm tuvo que abandonar sus clases en la Universidad de Vanderbilt para recibir tratamiento para su trastorno bipolar. Pero en 2012, estaba lo suficientemente saludable como para comenzar a buscar un trabajo a tiempo parcial.

 

Entonces solicitó a Kroger, una cadena de supermercados, después de que un amigo le dijo a Behm que había una posición abierta. Cuando lo rechazaron, verificó con su amigo, quien le dijo que había sido “iluminado en rojo” debido a los resultados de su prueba de personalidad: el algoritmo había etiquetado a Behm como “probable que tenga un rendimiento inferior”.

 

Desafortunadamente, lo mismo le sucedió a Behm en todos los otros trabajos de salario mínimo que solicitó. Entonces, con la ayuda de su padre, presentó una demanda contra siete compañías diferentes bajo la Ley de Estadounidenses con Discapacidades. A partir de 2016, la demanda aún estaba pendiente.

 

Parte del problema es que las empresas que manejan los datos pueden cometer algunos errores preocupantes.

 

Cuando Catherine Taylor solicitó un trabajo con la Cruz Roja en Arkansas, fue rechazada y le dijeron que se debía a su cargo penal por la intención de fabricar y vender metanfetamina. Esto le pareció extraño a Catherine ya que ella tenía un historial bastante limpio.

 

Cuando investigó más, descubrió que esos cargos pertenecían a otra Catherine Taylor que tenía el mismo cumpleaños.

 

También descubrió que fue la compañía que proporcionó los datos a la Cruz Roja la que cometió el error, lo que la llevó a investigar un poco más. Al final, Catherine descubrió que al menos diez corredores de datos habían cometido el mismo error, vinculándola a un delito grave que nunca había cometido.

 

Las clasificaciones universitarias tienen efectos negativos en la educación superior.

 

No es ningún secreto que las universidades en los Estados Unidos se han vuelto bastante caras en los últimos 30 años, pero pocas personas saben que una de las principales razones del aumento de la matrícula se debe a un periódico.

 

En la década de 1980, US News and World Report comenzó a utilizar un algoritmo que clasificaba la calidad de las universidades de EE. UU. Utilizando datos que creían que determinarían su éxito, como los puntajes SAT y las tasas de aceptación.

 

De repente, este ranking se volvió crucialmente importante para todas las universidades involucradas, y todas se propusieron mejorar su desempeño en las áreas que utilizaba el algoritmo US News . Pero para hacer eso, necesitaban recursos.

 

Esta lucha por el dinero es en gran parte responsable de la matrícula que se va por las nubes. Entre 1985 y 2013, el costo de la educación superior aumentó en un 500 por ciento.

 

Estas clasificaciones no fueron el único factor que contribuyó a este aumento, pero ciertamente alentaron a las escuelas a aumentar sus costos.

 

Una de las cosas más perjudiciales US News hizo fue incluir las tasas de aceptación en su fórmula, ya que arruinó por completo el concepto de una “escuela de seguridad”.

 

Tradicionalmente, una escuela de seguridad era una universidad que tenía una alta tasa de aceptación, y serviría como un buen plan de respaldo para un estudiante que también estaba aplicando a una escuela más prestigiosa como Harvard o Yale.

 

Pero desde US News dio a las escuelas con una tasa de aceptación más baja una mejor posición en el ranking, muchas escuelas comenzaron a bajar sus tasas y enviar menos cartas de aceptación.

 

Para mantener sus números de matrícula reales iguales, tuvieron que elegir a qué estudiantes iban a rechazar. Al observar sus números, las escuelas de seguridad pudieron ver que solo un pequeño porcentaje de los mejores estudiantes los elegirían entre las prestigiosas escuelas, por lo que creyeron que rechazarlos no haría ningún daño.

 

Pero incluso si solo algunos de estos estudiantes de alto rendimiento decidieran asistir, habría beneficiado a la escuela. Además, la decisión de rechazar de antemano a los de alto rendimiento arruinó los planes de respaldo de muchos buenos estudiantes.

 

Como todos los otros algoritmos que analizamos, lo que comenzó como una buena idea terminó haciendo mucho más daño que bien.

 

Resumen final

 

El mensaje clave en este libro:

 

Los algoritmos fueron creados inicialmente para ser neutrales y justos al evitar sesgos demasiado humanos y lógica defectuosa. Sin embargo, muchos de los algoritmos utilizados hoy, desde el mercado de seguros hasta el sistema de justicia, han incorporado los prejuicios e ideas erróneas de sus diseñadores. Y dado que estos algoritmos operan en una escala masiva, estos sesgos conducen a millones de decisiones injustas.

 

Consejo práctico:

 

Escribir currículums aptos para máquinas.

 

La mayoría de las empresas actuales utilizan lectores automáticos de currículums. Para aumentar sus posibilidades de obtener el trabajo, modifique su currículum con el lector automático en mente. Aquí hay algunos consejos simples que siempre puede aplicar:

 

  • Usa fuentes simples como Arial y Courier
  •  

  • Manténgase alejado de las imágenes, que el lector no puede procesar
  •  

  • No utilices símbolos, incluso los simples como las flechas pueden confundir al lector
  •  

¿Tienes comentarios?

 

¡Nos encantaría saber lo que piensas sobre nuestro contenido! ¡Simplemente envíe un correo electrónico a [email protected] con el título de este libro como asunto y comparta sus pensamientos!

 

Sugerido más lectura: Big Data por Viktor Mayer-Schönberger y Kennethnekger y Kenne

 

Big Data proporciona una visión perspicaz de por qué un cambio a “big data” es un cambio importante en la forma en que recopilamos, usamos y pensamos sobre los datos que nos rodean. Proporciona excelentes explicaciones y ejemplos de cómo las personas y empresas que ya están por delante de la curva están utilizando las herramientas de Big Data para crear valor y ganancias. Mirando hacia adelante, el libro también describe las implicaciones futuras para una sociedad de big data en términos de riesgos, oportunidades e implicaciones legales.

 

Total
0
Shares
Related Posts

Somos el clima

We Are the Weather (2019) es una investigación rigurosa del cambio climático, lo que significa y por qué los humanos parecen tan impotentes para enfrentarlo. Jonathan Safran Foer argumenta que si bien el cambio climático es aterrador y difícil de entender, hay una acción muy simple que podemos tomar: al dejar de lado la carne y los productos animales para el desayuno y el almuerzo, podemos hacer una gran contribución a la salud del planeta .
Read More

Mujeres que aman demasiado

Mujeres que aman demasiado (1985) explora las relaciones poco saludables en que algunas mujeres se encuentran una y otra vez. Utilizando estudios de casos de la vida real y visiones devastadoras, las ideas explican las verdaderas razones detrás de la fascinación de las mujeres por los hombres inadecuados y describen cómo podemos superar nuestras inseguridades para siempre.
Read More

Vagabundo

Como vagabundo, Potts detalla sus aventuras de viaje en Vagabonding (2002). Informado por la experiencia de primera mano, describe qué hacer y qué no hacer para aprovechar al máximo el camino a largo plazo.
Read More

Tus primeras 1000 copias

En Your First 1000 Copies, Tim Grahl describe una guía paso a paso de su estrategia de conexión para los autores. Él revela cómo puedes crear una plataforma para encontrar tu audiencia y mantenerla informada para que puedan comprar tu próximo libro. Repleto de información vital sobre cómo mantener a los lectores interesados ​​en su trabajo con buen contenido en línea y cómo vender sin ser sórdido, Your First 1000 Copies es una lectura obligada para cualquier autor aspirante o establecido.
Read More

La cosa más importante

En The Most Important Thing, Howard Marks describe la filosofía de inversión a veces controvertida que desarrolló y perfeccionó a través de muchos años de experiencia en el mercado. En su opinión, la inversión exitosa requiere que prestemos mucha atención a muchos aspectos diferentes del mercado actual, y que con demasiada frecuencia usemos esa información para contrarrestar las tendencias predominantes.
Read More

La historia del cuerpo humano

La historia del cuerpo humano (2013) es una exploración fascinante de una historia que se ha desarrollado durante más de un millón de años: la evolución del cuerpo humano. Partiendo desde el momento en que nuestros antepasados ​​se distinguieron por primera vez de sus hermanos homínidos, Daniel Lieberman rastrea la historia biológica de los humanos hasta nuestro presente en la oficina.
Read More

Palabras en movimiento

Words on the Move (2016) es un recorrido por la historia del idioma inglés, desde sus raíces anglosajonas hasta la lingua franca mundial. Repleto de ideas esclarecedoras sobre la evolución de las palabras y el significado, la mirada entretenida del lenguaje de John McWhorter disipa muchos mitos en el camino. Argumenta que los emoticones y el nuevo uso de "me gusta" no son una amenaza para nuestro lenguaje, sino todo lo contrario: son los últimos capítulos de una historia de evolución sin fin.
Read More

La paradoja del tiempo

El tiempo importa. La mayoría de nosotros somos esclavos del tiempo, ya sea que estemos planificando, realizando múltiples tareas, posponiendo o haciendo listas de tareas. Pero es nuestra actitud hacia el concepto de tiempo lo que realmente afecta quiénes somos y cómo vivimos. The Time Paradox (2009) le muestra cómo puede comenzar a pensar en el tiempo de una manera que lo ayude a llevar una vida mejor, más feliz y más plena.
Read More

La vida secreta del sueño

The Secret Life of Sleep (2014) da una mirada esclarecedora a lo que es exactamente dormir. Utilizando investigaciones científicas de vanguardia y ejemplos de culturas de todo el mundo, Kat Duff explora por qué y cómo dormimos, y qué hace que algunos patrones de sueño occidentales sean particularmente poco saludables.
Read More

Por eso no podemos tener cosas bonitas

Esta es la razón por la que no podemos tener cosas bonitas (2015) explora la subcultura del trolling: de dónde vino, quién lo hace, por qué lo hacen y qué es exactamente lo que hacen. El libro examina la línea borrosa entre un ataque malicioso en línea y comentarios sociales reveladores, y muestra cómo los trolls y la cultura dominante han llegado a formar un vínculo estrecho.
Read More

Ofertas de riesgo

Venture Deals ofrece información privilegiada sobre los mecanismos que rigen los acuerdos de capital de riesgo, así como trucos que lo ayudarán a aprovechar al máximo las negociaciones con los inversores. Presenta los aspectos básicos de las operaciones de capital de riesgo de una manera que es fácil de entender y le dará una ventaja en la mesa de negociaciones.
Read More

La solución para dormir

The Sleep Solution (2017) analiza los fundamentos de dormir. Explica por qué es importante mantener un ritmo y un horario constantes y cómo el insomnio no es la falta de sueño, sino el resultado de tratar mal el sueño deficiente. Aprenderá cómo mejorar sus patrones de sueño y, como resultado, mejorar su calidad de vida.
Read More

El hombre que alimentó al mundo

The Man Who Fed the World cuenta la historia de Norman Borlaug, ganador del Premio Nobel de la Paz, y su trabajo en la lucha contra el hambre en el mundo. Se examinan el pasado y el futuro de la agricultura mundial y el hambre.
Read More

El momento de elevación

The Moment of Lift (2019) relata el viaje que Melinda Gates emprendió para ayudar a empoderar a las mujeres de todo el mundo. Ya sea a través de historias de personas que conoció a través de su trabajo caritativo o de experiencias contadas por otros, esta memoria parcial, llamada a la acción explora la miríada de problemas sociales y económicos que las mujeres y las niñas enfrentan a diario. Pero si bien muchos de estos obstáculos parecen insuperables, solo la superación de la humanidad en su conjunto puede avanzar hacia un futuro más igualitario y justo.
Read More

¿Por qué a los estudiantes no les gusta la escuela?

¿Por qué a los estudiantes no les gusta la escuela? (2009) busca explicar los procesos más importantes del cerebro relacionados con la memoria, el aprendizaje y la inteligencia. Una mejor comprensión de estos mecanismos permitirá a todos los educadores capacitarse en mejores métodos de enseñanza y resultar en programas educativos más atractivos y efectivos.
Read More