Armas de destrucción matemática

Weapons of Math Destruction (2016) ofrece una mirada crítica al creciente número de algoritmos que podrían estar afectando su vida cotidiana de maneras que ni siquiera conoce. A medida que más empresas y servicios, incluidas las escuelas y la policía, utilizan algoritmos para automatizar los trabajos, un número cada vez mayor de personas sufre los efectos adversos. Así que no te dejes a merced de la automatización: descubre qué puedes hacer para protegerte y proteger tus datos.

Vea las matemáticas desde una perspectiva completamente nueva.

 

Tal vez hayas oído hablar de Big Data y de cómo los algoritmos que usan esa información proporcionan nuevas ideas sobre los patrones de consumo, la política y las plataformas de redes sociales. De hecho, los algoritmos están en todas partes. Guían nuestros feeds de redes sociales y tamizan los anuncios que vemos. Y también influyen en la vida humana de muchas otras maneras; a menudo, ahora dictan a qué trabajos y escuelas tenemos acceso.

 

Se podría pensar que las decisiones, sobre contratación, sobre admisiones, serían mucho más justas si se basaran en cálculos objetivos en lugar de en el instinto de alguien. Después de todo, los algoritmos juzgan a todos en la misma escala, ¿verdad? Bueno, como aprenderá en este resumen, la situación es un poco más compleja que eso.

 

También lo descubrirás

 

  • por qué manipular los feeds de Facebook puede mejorar la participación electoral;
  •  

  • cómo un algoritmo utilizado para clasificar las universidades de EE. UU. Aumentó la matrícula en un 500 por ciento; y
  •  

  • por qué los conductores de Florida con un historial de manejo impecable pagan primas más altas que los conductores ebrios.
  •  

Los algoritmos tienen el potencial de influir en el público votante y perturbar la democracia.

 

En muchos sentidos, internet ayuda a la democracia. Es una plataforma pública que admite voces independientes. Pero esa misma plataforma también está abierta a poderosas máquinas de propaganda que pueden manipular la conversación.

 

La investigación ha demostrado que las redes sociales y los motores de búsqueda son especialmente vulnerables a los algoritmos que pueden influir en las decisiones de los usuarios desprevenidos.

 

Los investigadores Robert Epstein y Ronald Robertson encontraron pruebas de esto después de pedirles a los votantes indecisos en los Estados Unidos y la India que encontraran información sobre un puñado de diferentes candidatos políticos.

 

El problema fue que se les dijo a los votantes que usaran un motor de búsqueda específico, sin saber que había sido programado con un algoritmo que favorecía a un candidato sobre todos los demás. Como resultado, los participantes mostraron un cambio del 20 por ciento hacia votar por la opción preferida del algoritmo.

 

Un estudio similar ocurrió en Facebook justo antes de las elecciones de 2012: Solomon Messing, del Pew Research Center, diseñó un algoritmo especial que generaría las noticias de dos millones de usuarios y favorecería las noticias políticas sobre todas las demás publicaciones.

 

Facebook encuestó a los participantes antes y después de las elecciones, y los resultados mostraron que un 3 por ciento más de usuarios acudieron a votar de lo esperado antes de que el algoritmo se ajustara para favorecer la política.

 

Si bien no podemos saber con certeza si ciertos motores de búsqueda o algoritmos de redes sociales están diseñados para influir en los usuarios, está claro que existe un gran potencial de abuso.

 

También está claro que los candidatos políticos son muy conscientes de su poder para obtener votos.

 

Antes de las elecciones de 2012, Obama tuvo un equipo de analistas de datos que entrevistó a miles de votantes y utilizó sus respuestas, además de datos demográficos y de consumidores, para crear perfiles matemáticos.

 

Estos perfiles se utilizaron para encontrar personas similares en bases de datos nacionales. Según los perfiles, podrían suponer que las personas con intereses y antecedentes similares también compartirían las mismas opiniones políticas. Una vez que las personas con datos similares se agruparon, los analistas pudieron crear algoritmos que se aseguraron de que estos grupos recibieran anuncios específicos que fueran atractivos para sus gustos.

 

Entonces, aquellos que mostraron evidencia de tener preocupaciones ambientales, por ejemplo, fueron blanco de anuncios que destacaban las políticas ambientales de Obama.

 

Los algoritmos diseñados para predecir el crimen también refuerzan los prejuicios.

 

Predecir crímenes futuros suena como algo sacado de una historia de ciencia ficción de Philip K. Dick, pero de hecho es parte de la realidad de hoy. Los departamentos de policía están utilizando algoritmos para apuntar a posibles delincuentes.

 

Pero este software está lejos de ser perfecto, y los algoritmos han llevado a que las ciudades sean controladas de manera desigual y que ciertas personas sean injustamente identificadas.

 

¿Cómo ha sucedido esto?

 

Los algoritmos se basan en datos históricos para determinar dónde es más probable que ocurran crímenes, y es la policía quien determina qué datos se introducen en el algoritmo.

 

Parte del problema es que la policía tiende a centrarse en tipos específicos de delitos, como los “delitos molestos”, que incluyen la vagancia y ciertos delitos relacionados con las drogas.

 

Dado que estos delitos tienden a ocurrir en vecindarios pobres, el análisis terminará siendo completamente sesgado hacia estas partes de la ciudad. Como resultado, la policía envía la mayoría de sus unidades de patrulla a las calles de los barrios pobres, haciendo que los residentes se sientan injustamente atacados. Esto también lleva a la negligencia de los barrios más ricos, que se vuelven más vulnerables a la actividad criminal.

 

Sesgos similares incorporados distorsionan los datos que la policía usa para predecir posibles delitos violentos, lo que lleva a que personas inocentes sean etiquetadas como peligrosas.

 

En 2009, el Departamento de Policía de Chicago recibió una subvención para desarrollar un nuevo software de predicción de delitos. Usaron ese dinero para desarrollar un algoritmo que creó una lista de las 400 personas con mayor probabilidad de estar involucradas en un homicidio.

 

Una de esas personas era Robert McDaniel, un joven de 22 años que se convirtió en el foco de atención de la policía. Un día, en 2013, un oficial de policía incluso visitó la casa de McDaniel para hacerle saber que la policía tenía sus ojos en él.

 

Pero McDaniel nunca fue acusado de ningún delito. Terminó siendo marcado por el algoritmo basado únicamente en las personas que sigue en las redes sociales y los delincuentes que viven en su vecindario.

 

En resumen, crecer en un vecindario pobre es todo lo que se necesita para etiquetarte como potencialmente peligroso.

 

Para ser justos, los algoritmos de predicción de delitos están diseñados para proteger a las personas, pero pueden empeorar fácilmente la vida de las personas de lo que eran antes.

 

Como veremos en el próximo capítulo, un problema similar está plagando el negocio de los seguros.

 

Las compañías de seguros están explotando a las personas con mal crédito.

 

Si está familiarizado con las agencias de seguros, es posible que sepa que le pedirán a diferentes clientes que paguen diferentes primas. Y no, no solo hacen esto al azar. Utilizan los datos específicos que han recopilado sobre sus clientes.

 

Para el seguro de automóviles, los algoritmos se utilizan para calcular los montos de pago en función de cuántos accidentes anteriores ha tenido un cliente, así como sus informes de crédito anteriores.

 

De hecho, en algunas áreas, esos informes de crédito tienen más peso que el historial de manejo de un cliente.

 

Tal es el caso en Florida, donde los adultos con registros de manejo limpios e informes crediticios deficientes terminan pagando un promedio de $ 1,552 más por año que los conductores con excelente crédito y antecedentes de conducir ebrio.

 

Esto conduce a que los conductores pobres con habilidades de conducción impecables tengan que pagar más por el seguro que los conductores ricos.

 

Y así comienza el círculo vicioso: al verse obligados a pagar más por el seguro, es más probable que las familias con problemas de liquidez pierdan el pago de otra factura y empeoren aún más su puntaje de crédito. Y luego, cuando expire su seguro actual, la tasa en su próximo contrato aumentará aún más, incluso si no han violado una sola regla de tráfico.

 

Algunas compañías de seguros incluso están utilizando algoritmos para calcular la probabilidad de que un cliente compare precios más baratos.

 

La compañía de seguros Allstate hace esto utilizando un modelo que emplea datos demográficos y de consumo. Si el algoritmo sugiere que es probable que un cliente busque precios más bajos, le ofrecerá un precio reducido, a veces hasta un 90 por ciento de descuento sobre la tarifa promedio.

 

Sin embargo, si no es probable que un cliente compare, su tasa puede aumentar hasta en un 800 por ciento.

 

Pero lo que realmente está haciendo el algoritmo de Allstate es aprovecharse de las personas pobres sin educación formal, ya que este es el grupo demográfico que es menos probable que busque otras opciones.

 

El mercado laboral también está siendo influenciado injustamente por algoritmos.

 

Puede ser difícil detectar a los mejores trabajadores de un grupo de cientos de solicitantes. Por lo tanto, tiene sentido utilizar una variedad de pruebas, en combinación con la ayuda de compañías de datos, para clasificar los resultados.

 

Pero estas pruebas han demostrado ser restrictivas para ciertos tipos de personas, especialmente cuando se trata de pruebas de personalidad, lo que ha hecho casi imposible que alguien como Kyle Behm consiga un trabajo.

 

Behm tuvo que abandonar sus clases en la Universidad de Vanderbilt para recibir tratamiento para su trastorno bipolar. Pero en 2012, estaba lo suficientemente saludable como para comenzar a buscar un trabajo a tiempo parcial.

 

Entonces solicitó a Kroger, una cadena de supermercados, después de que un amigo le dijo a Behm que había una posición abierta. Cuando lo rechazaron, verificó con su amigo, quien le dijo que había sido “iluminado en rojo” debido a los resultados de su prueba de personalidad: el algoritmo había etiquetado a Behm como “probable que tenga un rendimiento inferior”.

 

Desafortunadamente, lo mismo le sucedió a Behm en todos los otros trabajos de salario mínimo que solicitó. Entonces, con la ayuda de su padre, presentó una demanda contra siete compañías diferentes bajo la Ley de Estadounidenses con Discapacidades. A partir de 2016, la demanda aún estaba pendiente.

 

Parte del problema es que las empresas que manejan los datos pueden cometer algunos errores preocupantes.

 

Cuando Catherine Taylor solicitó un trabajo con la Cruz Roja en Arkansas, fue rechazada y le dijeron que se debía a su cargo penal por la intención de fabricar y vender metanfetamina. Esto le pareció extraño a Catherine ya que ella tenía un historial bastante limpio.

 

Cuando investigó más, descubrió que esos cargos pertenecían a otra Catherine Taylor que tenía el mismo cumpleaños.

 

También descubrió que fue la compañía que proporcionó los datos a la Cruz Roja la que cometió el error, lo que la llevó a investigar un poco más. Al final, Catherine descubrió que al menos diez corredores de datos habían cometido el mismo error, vinculándola a un delito grave que nunca había cometido.

 

Las clasificaciones universitarias tienen efectos negativos en la educación superior.

 

No es ningún secreto que las universidades en los Estados Unidos se han vuelto bastante caras en los últimos 30 años, pero pocas personas saben que una de las principales razones del aumento de la matrícula se debe a un periódico.

 

En la década de 1980, US News and World Report comenzó a utilizar un algoritmo que clasificaba la calidad de las universidades de EE. UU. Utilizando datos que creían que determinarían su éxito, como los puntajes SAT y las tasas de aceptación.

 

De repente, este ranking se volvió crucialmente importante para todas las universidades involucradas, y todas se propusieron mejorar su desempeño en las áreas que utilizaba el algoritmo US News . Pero para hacer eso, necesitaban recursos.

 

Esta lucha por el dinero es en gran parte responsable de la matrícula que se va por las nubes. Entre 1985 y 2013, el costo de la educación superior aumentó en un 500 por ciento.

 

Estas clasificaciones no fueron el único factor que contribuyó a este aumento, pero ciertamente alentaron a las escuelas a aumentar sus costos.

 

Una de las cosas más perjudiciales US News hizo fue incluir las tasas de aceptación en su fórmula, ya que arruinó por completo el concepto de una “escuela de seguridad”.

 

Tradicionalmente, una escuela de seguridad era una universidad que tenía una alta tasa de aceptación, y serviría como un buen plan de respaldo para un estudiante que también estaba aplicando a una escuela más prestigiosa como Harvard o Yale.

 

Pero desde US News dio a las escuelas con una tasa de aceptación más baja una mejor posición en el ranking, muchas escuelas comenzaron a bajar sus tasas y enviar menos cartas de aceptación.

 

Para mantener sus números de matrícula reales iguales, tuvieron que elegir a qué estudiantes iban a rechazar. Al observar sus números, las escuelas de seguridad pudieron ver que solo un pequeño porcentaje de los mejores estudiantes los elegirían entre las prestigiosas escuelas, por lo que creyeron que rechazarlos no haría ningún daño.

 

Pero incluso si solo algunos de estos estudiantes de alto rendimiento decidieran asistir, habría beneficiado a la escuela. Además, la decisión de rechazar de antemano a los de alto rendimiento arruinó los planes de respaldo de muchos buenos estudiantes.

 

Como todos los otros algoritmos que analizamos, lo que comenzó como una buena idea terminó haciendo mucho más daño que bien.

 

Resumen final

 

El mensaje clave en este libro:

 

Los algoritmos fueron creados inicialmente para ser neutrales y justos al evitar sesgos demasiado humanos y lógica defectuosa. Sin embargo, muchos de los algoritmos utilizados hoy, desde el mercado de seguros hasta el sistema de justicia, han incorporado los prejuicios e ideas erróneas de sus diseñadores. Y dado que estos algoritmos operan en una escala masiva, estos sesgos conducen a millones de decisiones injustas.

 

Consejo práctico:

 

Escribir currículums aptos para máquinas.

 

La mayoría de las empresas actuales utilizan lectores automáticos de currículums. Para aumentar sus posibilidades de obtener el trabajo, modifique su currículum con el lector automático en mente. Aquí hay algunos consejos simples que siempre puede aplicar:

 

  • Usa fuentes simples como Arial y Courier
  •  

  • Manténgase alejado de las imágenes, que el lector no puede procesar
  •  

  • No utilices símbolos, incluso los simples como las flechas pueden confundir al lector
  •  

¿Tienes comentarios?

 

¡Nos encantaría saber lo que piensas sobre nuestro contenido! ¡Simplemente envíe un correo electrónico a [email protected] con el título de este libro como asunto y comparta sus pensamientos!

 

Sugerido más lectura: Big Data por Viktor Mayer-Schönberger y Kennethnekger y Kenne

 

Big Data proporciona una visión perspicaz de por qué un cambio a “big data” es un cambio importante en la forma en que recopilamos, usamos y pensamos sobre los datos que nos rodean. Proporciona excelentes explicaciones y ejemplos de cómo las personas y empresas que ya están por delante de la curva están utilizando las herramientas de Big Data para crear valor y ganancias. Mirando hacia adelante, el libro también describe las implicaciones futuras para una sociedad de big data en términos de riesgos, oportunidades e implicaciones legales.

 

Total
0
Shares
Related Posts

Mujeres remando hacia el norte

Women Rowing North (2019) explora cómo las mujeres pueden continuar floreciendo a medida que entran en sus sesenta y setenta años. A través de historias conmovedoras de la vida real de las mujeres, este resumen examina las posibilidades de felicidad, amistad y compromiso comunitario en las etapas posteriores de la vida.
Read More

Retiro

El retiro revela la tensión que una jubilación anticipada ejerce no solo en la economía, sino también en el individuo. Se ofrece una alternativa más positiva: "No retiro", donde los trabajadores de mayor edad se reorientan hacia carreras más agradables, utilizando esta nueva fase en sus vidas para marcar la diferencia en el mundo en general.
Read More

El opuesto de mimado

The Opposite of Spoiled (2015) es la guía esencial para criar pacientes, niños generosos a través de la educación financiera. Este resumen le mostrará cómo guiar el desarrollo de sus hijos al hablarles sobre el dinero, involucrarlos en las decisiones financieras y mostrarles la importancia de la generosidad y el trabajo.
Read More

El plan de contenido de una hora

El Plan de contenido de una hora (2017) es una guía estratégica para crear contenido de blog atractivo, llamativo y rentable. Fruto de años de experiencia práctica en marketing en línea, el consejo práctico de Meera Kothand para los posibles creadores de contenido se centra directamente en el cómo. Lleno de consejos y estrategias útiles, este resumen lo ayudará a hacer realidad sus brillantes ideas.
Read More

Negocios inconclusos

Unfinished Business (2015) ofrece un análisis franco de una pregunta apremiante. ¿Es realmente posible para hombres y mujeres "tenerlo todo" en nuestra sociedad moderna? ¿Podemos esperar tener una gran vida familiar y una gran carrera? Como revela este resumen, lograr un equilibrio entre lo personal y lo profesional no solo es posible; es más fácil de lo que piensas.
Read More

Tendencia

Trendology examina cómo las marcas pueden usar las redes sociales como Twitter para establecer contacto directo con su base de clientes, y pueden beneficiarse al aprovechar las tendencias en la conversación en las redes sociales. Además de la teoría de las redes sociales, Trendology ofrece una guía paso a paso sobre cómo construir un programa exitoso de redes sociales y tener éxito en el marketing en tiempo real.
Read More

Mujeres, comida y dios

Women, Food and God (2010) analiza de cerca la complicada relación que las mujeres pueden tener con la comida, particularmente en cómo los trastornos alimentarios reflejan problemas más profundos que una preocupación superficial por los estómagos planos. La autora Geneen Roth muestra cómo nuestra relación con la comida está cargada de emociones y profundamente ligada a nuestra comprensión de quiénes somos, por lo que hemos pasado y el camino espiritual en el que estamos.
Read More

Las nuevas reglas de trabajo

The New Rules of Work (2017) es el manual definitivo para navegar en el lugar de trabajo moderno. Los autores Cavoulacos y Minshew reconocen que la forma en que trabajamos ha cambiado junto con el avance de la tecnología y que la forma en que pensamos sobre las carreras profesionales ha evolucionado en consecuencia. Los trabajadores modernos esperan que un trabajo haga más que solo pagar las facturas: el trabajo también debe ser satisfactorio. Sus nuevas reglas lo ayudarán a descubrir la carrera que más le convenga y le brindarán las herramientas para tener éxito en el mercado laboral moderno, desde la solicitud hasta la promoción.
Read More

El Valedictorian de estar muerto

The Valedictorian of Being Dead (2019) explora la batalla de una mujer con la depresión y el tratamiento radical que se sometió para curarla. Este cuadro resumen resume el viaje de Heather B. Armstrong a través del infierno y su recuperación inspiradora.
Read More

El hábito de crecimiento de los ingresos

El hábito de crecimiento de ingresos (2015) es una colección de estrategias para aumentar sus ingresos y aumentar su exposición a clientes potenciales y existentes. Estos métodos son rápidos, fáciles y rentables, perfectos para entregar su mensaje a las personas que más le importan.
Read More

Ganancias extrañas para padres

Weird Parenting Wins (2019) le muestra cómo no perderlo mientras cría a sus hijos: todo lo que necesita es un poco de locura. Eso significa ser creativo y juguetón. Los niños se acercan a la vida listos para desplegar su imaginación a cada paso, y este libro en resumen muestra cómo puedes ser igual de imaginativo. Encontrarás formas de facilitar la vida de toda la familia e incluso divertirte en el proceso.
Read More

El negocio posterior a la verdad

Post-Truth Business (2018) aborda una pregunta que ha estado manteniendo a las agencias de marketing y publicidad despiertas por la noche durante un tiempo: ¿Cómo convencer a los consumidores de que confíen en su marca en un mundo cada vez más desconfiado? Basándose en el conocimiento de primera mano de Sean Pillot de Chenecey sobre la industria conocida como "adland", este resumen muestra cómo las empresas más innovadoras de la actualidad están fortaleciendo el compromiso del consumidor y asegurándose de que su marca no termine con una brecha de credibilidad.
Read More

Estamos desplazados

En We Are desplazados (2018), la activista internacional Malala Yousafzai comparte su historia de ser desplazada de su tierra natal de Pakistán. También comparte las historias de algunas de las mujeres y niñas que conoció mientras visitaba campos de refugiados en todo el mundo. Con más de 68.5 millones de personas actualmente desplazadas de sus hogares en todo el mundo, estas historias son un recordatorio vívido e importante de la individualidad y humanidad de todas y cada una de las personas desplazadas.
Read More

La ciencia del logro inteligente

La Ciencia del Logro Inteligente (2018) trata sobre cómo ser más productivo y creativo, para que pueda alcanzar las metas que se ha fijado. El libro le muestra cómo pensar los pensamientos correctos y rodearse de las personas adecuadas para mantener su motivación.
Read More

Más de menos

The More of Less (2016) es la guía definitiva para sacar más provecho de la vida al poseer menos. Escrito por una luz líder en el creciente movimiento de Estados Unidos contra el consumo excesivo y la vida desordenada, este es un libro práctico diseñado para ayudarlo a liberar espacio en la cabeza, recursos y tiempo para que pueda perseguir las cosas que realmente importan.
Read More