Archivo de la etiqueta: El dilema de las redes sociales

UNA REFLEXIÓN BALANCEADA DEL DOCUMENTAL DE NETFLIX: CODED BIAS ¿ INTELIGENCIA ARTIFICIAL RACISTA? – COLUMNA DE OPINION DATLAS

Desde el equipo de Datlas y los autores de las columnas de este blog nos encanta la generación de contenido y difusión sobre temas de analítica, inteligencia artificial y transformación digital. Hemos hecho columnas de documentales como el dilema de las redes sociales: “3 REFLEXIONES SOBRE “SOCIAL DILEMMA” y publicado opiniones sobre nada es privado: “3 reflexiones de Great Hack”. En esta ocasión hablaremos del documental recientemente lanzado llamado “CODED BIAS” que hace referencia a situaciones donde la inteligencia artificial ha mostrado ser racista.

***SPOILER ALERT*** : Si aún no has visto el documental, tal vez quieras detenerte un poco y regresar a esta lectura para no arruinarte o sesgar tus pensamientos.

Los antecedentes ¿De qué trata?

Un estudiante del MIT identifica un problema evidente en la tecnología de la detección facial. Este desarrollo, desde su nacimiento y entrenamiento (Te recomendamos leer “Algoritmos supervisados y no supervisados” para mejorar tu comprensión de este tema), no está preparado para ser usado con la misma eficiencia por personas de color. Este es el preámbulo de toda una controversia de poderes y autocrítica a los desarrollos de inteligencia artificial de la actualidad y la problemática de la toma de decisiones habilitadas por computadora con modelos de “cajas negras” (Esto quiere decir, en pocas palabras, que son modelos donde no podemos identificar con claridad el efecto de cada variable tomada en el resultado o la justificación exacta de un resultado matemático. Solamente un % de ajuste que nos hace sentir matemáticamente certeros de que es el mejor modelo).

¿En cuál problema se centra el documental?

En un problema social. La temática de racismo y discriminación no es nueva en el contexto de la inteligencia artificial. Muchas de las empresas e investigadores que son pioneros en generar sistemas de identificación utilizan condiciones de “entrenamiento de sistemas” con un sesgo demográfico y socioeconómico.

Al no haber la diversidad suficiente en un equipo de desarrollo de algoritmos las predicciones de, por ejemplo, una cámara de seguridad que alerta cuando una persona “parece terrorista en una aeropuerto” , pueden estar vinculadas a una carga cultural y/o sistemática incorrecta.

Ejemplo citado en la película de cómo la policía local de una región del Reino Unido que utilizan cámaras y algoritmos de “profiling” para detener y entrevistar ciudadanos que, a criterio de su sistema, parecen sospechosos han fallado el 91% de las veces

¿Cuál es el problema de continuar con aplicaciones de inteligencia artificial como “facial recognition” o la “identificación facial” sin reconocer y cuidar los sesgos inherentes?

Si el futuro del mundo está alrededor de la inteligencia artificial (IA) y esta es un reflejo de la sociedad entonces tendremos sistemas sesgados.

Ejemplo de asertividad para identificar personas considerando distintas tecnologías: Azure, IBM y FACE (Empresa China)

Esta es una conversación que no es nueva. Constantemente se hacen estas “auditorias” a empresas de tecnología. Bastantes líderes den el sector tecnológico han empoderado un mensaje claro de que no debemos de dejar que la IA gobierne las decisiones humanas sin entender verdaderamente cómo funciona

Recordemos el caso de Steve Wozniak, uno de los fundadores de Apple, que tan pronto la empresa de tecnología lanzó su tarjeta de crédito obtuvo un crédito 10 veces del tamaño del de su esposa. Siendo que comparten cuentas bancarias, antecedentes crediticios y propiedades.

“La aparición estelar: Cathy O’neil”

En el documental “Coded Bias” hay un personaje que hace su aparición y honra decirlo. A opinión personal, el documental debió tratarse de ella. Nos referimos a Cathy Oneal, la autora de “Weapon of Math Destruction”

Cathy es una especialista en el tema de algoritmos, matemática de formación y con mucha experiencia en el diagnóstico de modelos de inteligencia artificial. Comenzó su carrera en la academia y después paso al mundo financiero donde algunas “formas” y consecuencia sde todos los modelos que se trabajaban le empezaron a “sonar raro”

Ha identificado y denunciado algoritmos que han tenido interpretaciones incorrectas en sectores bancarios hasta el mismo sistema legal norte-americano.

Aunque su intervención en la película es pequeña, si has leído alguno de sus libros podrás entender el valor que le aporta al movimiento impulsado por la película.

La reflexión final (opinión del autor de la columna, no a nombre de Datlas)

Mientras por un lado resulta “taquillero” hablar negativamente de la inteligencia artificial, sus impactos en el mundo y los problemas sociales que esta podría causar es justo decir que la conversación debe continuarse ampliando. Muy probablemente veamos nuevas series y documentales hablando del tema.

La temática de este documental no es nueva. Sin embargo había espacios para ser más técnicos y revisar los impactos de un mal uso de la IA en la sociedad. En ese sentido, en el casting debió de haber tenido más protagonismo una especialista en la materia como Cathy Oneil, con espacio para poder aprender mucho más de ella.

Por otro lado, si bien la IA ha generado potenciales problemas también hay muchos escenarios de impacto positivo. Un buen uso de IA y desarrollos con conciencia social auditados por un consejo especializado para reducir sesgos en los modelos pudiera dar brillantes resultados. Creo que esa parte de la historia faltó contarse en este documental que termina siendo algo dramático.

Documentales como estos tienen la oportunidad de hacer resonar propuestas de intervención escalables y transparentes para resolver las problemáticas que presentan. Faltó profundizar en más propuestas en este documental. Sin embargo podemos alegar que la directora Shalini Kantayya nos dejó esa tarea. Ahora tocará a la sociedad investigar más recursos para poder cuestionarnos la aplicación del IA.

Y ¿Cuáles son tus opiniones? Compártenos en @DatlasMX qué fue lo que te gustó y no te gustó del documental ¿Cuál fue tu mayor aprendizaje?

– Equipo Datlas –

Keep it weird

3 reflexiones sobre “social dilemma” (el dilema de las redes sociales) documental en netflix y un ejemplo mexicano- COLUMNA DE OPINION DATLAS

Algún tecnólog@ una vez dijo:

” Si no estás pagando por el producto, entonces tu eres el producto ” – Sin referencia correcta-

Escucha el capítulo SOCIAL DILEMMA en: https://open.spotify.com/episode/6IXLt4ink5DYhzkBCjlPHN

En una economía digital donde las FAMGA (Facebook, Apple, Microsoft, Google, Amazon) tienen un montón de “aplicaciones gratuitas” para la comunidad hay que cuestionarse porque enviar un mensaje de Whatsapp es tan fácil y gratuito, esa estancia de Facebook de 2 minutos se extiende a 20 minutos porque los videos están muy buenos o cómo la estética digital y comunitaria que construyen redes como Instagram se inclinan a mostrar un lado “perfecto” de la vida.

Estos y otros puntos se presentan en el nuevo documental que se puede ver en NETFLIX “The Social dilemma” o “El dilema de las redes sociales” que explora cómo la digitalización de nuestra vida ha sido impulsada por los negocios que promueven las redes sociales. Y este negocio se acompaña de problemas como falta de privacidad, algoritmos que nos producen adicciones y el poder social que han logrado desarrollar.

En esta columna recopilaremos y sintetizaremos 3 reflexiones sobre esta película. Te recomenas ver primeramente este trailer:

**También te puede interesar: 3 reflexiones de “The Great Hack”, Nada es privado

Para poner en contexto primero hablaremos de cómo funciona el modelo de negocio de las redes sociales (mayormente) y después de las 3 reflexiones

MODELO DE NEGOCIO EN REDES SOCIALES y GOOGLE

Una empresa como Facebook o Google ¿Qué son? ¿Una red social, una empresa de internet, una empresa de mercadotecnia, un negocio para promocionar negocios, una casa de subastas o qué? En realidad un poco de todo.

Las empresas más grande de internet (FAMGA) operan bajo un modelo de negocios en donde conectan anunciantes con usuarios relevantes. Debido a esto las compañías de tecnología recopilan datos de usuarios para generar segmentos de usuarios con gustos, intereses y preferencias similares. Estos grupos son ofrecidos en “subastas” a los anunciantes donde se realizan ofertas para que sus anuncios o contenidos estén prioritariamente destacados en las búsquedas que hacen los usuarios o durante su estancia en internet.

En este sentido se imaginaran que estas compañías contratan filósofos, desarrolladores de videojuegos, programadores, expertos en ciencia de datos, expertas en UX y UIX para volver la experiencia más adictiva y relevante. Porque el nombre del juego es … del total de tiempo que pasa en internet un usuario cuánto le dedica a mi plataforma.

Según el documental, existen 3 palancas importantes que las estrategias de las grandes empresas de redes sociales buscan:

1) Engagement – Seguir scolleando

2) Crecimiento – Son sitios que hacen que regreses mediante notificaciones y que invites a más amigos a las comunidades

3) Advertising – Que genere dinero por contenido pagado

AI en la película

Por otro lado, en contexto, estas grandes compañías venden “certidumbre” lo que quiere decir es que tienen que generar buenas predicciones para ofrecerle una clientela relevante a los anunciantes. Y para generar eso necesitas muchos, muchos…muchos datos.

3 REFLEXIONES DE SOCIAL DILEMMA

1) En una generación donde hay que estar conectados siempre (o casi siempre) hay un tercero infiltrado que financia manipulaciones

Casi 1 de cada 7 personas en el mundo nacieron conectados, es decir en un mundo con internet. No muchos conocerán esa frustración de contar con un internet de 56kb que te quitaba la linea telefónica o internet muy muy lento. Pero en los últimos 10 años conforme se incrementaba la velocidad de nuestra conexión nuevas compañías como Facebook emergían aprovechando esta oportunidad para conectar a más personas.

Sin embargo, esto no puede ser gratis si lo quieren hacer bien y rápido. Si verdaderamente redes sociales como Facebook van a llegar a conectar a todo el mundo tienen que tener buenas fuentes de ingreso. Por esa razón siempre que usemos una red social hay que estar conscientes de que hay un 3ero en cuestión “financiando” o “patrocinando” esa conversación.

¿Dirías lo mismo ahora que sabes que alguien que no quieres que te escuche te está escuchando? ¿Compartirías las mismas fotos? ¿Pertenecerías a las mismas comunidades? Son temas a reflexionar…

2) Evolucionamos para ser seres sociales en grupos de 50 ó 100 personas. Pero no para socializar con 10,000 personas y tener su aprobación (Like, corazón, etc)

Las redes sociales en automático nos conectan con miles de personas. A nuestro alcance virtualmente está contactar a una buena parte de la población con accede a internet. Sin embargo ¿Estamos preparados para esto?

Los algoritmos en las redes sociales nos han acostumbrado a las recompensas. Como los económistas de comportamiento y sociólogos establecen se pueden entrenar a las masas a estos incentivos ¿Se acuerdan de algo así en una serie llamada Big Bang Theory? (0:40 en video de Youtube)

Subimos el contenido, si alguien nos da Like o similar nos refuerza para seguir hablando del tema o publicando. Por otro lado si subimos esa foto donde en lugar de los 100 likes sólo obtenemos 10, muchos cuestionamientos comienzan al grado de querer eliminar la foto o peor querer alterarnos físicamente para que la foto pueda obtener mejores impresiones.

3) Las redes sociales son herramientas de persuasión. Los paises se pueden invadir sin cruzar fronteras físicas, sólo digitales

Entonces si las redes sociales se financian con grupos de interés y organizaciones, además tienen la capacidad de premiarnos e “incentivarnos” por nuestros acto gracias a los algoritmos sociales inteligentes que han creado entonces estamos creando una máquina “casi perfecta” de manipulación.

Jeff Orlowski, director del documental y uno de los protagonistas, establece junto a un grupo de expertos que a este ritmo un país que identifique cómo aprovechar las redes sociales puede invadir a otro sin cruzar fronteras físicas ¿Les suena a intervención electoral? ¿Confusiones que el 5G es el provocador de COVID-19? o ¿Marcas pro-causa ? Detrás de todo esto hay grupos de intereses aprovechando redes sociales.

**Recuerda que puedes descargar GRATUITAMENTE nuestro DATA PLAYBOOK más reciente “Ciencia de Datos a la Mexicana”. Click aqui

CONCLUSIÓN

A voz del director de esta serie, nosotros construimos estas cosas tenemos responsabilidad de cambiarlas antes de que sean demasiado gracias. La reflexión final es que hay que educarnos más sobre las capacidades de estas máquinas que diariamente guían nuestro día a día. Los incentivos económicos para crear mejores algoritmos para las compañías seguirán creciendo conforme más inversionistas tengan. Estos algoritmos, en su evolución, buscará la manera de ser más “seamless” o transparente en su experiencia. Mientras tanto hay que proponer iniciativas como cuotas de uso, transparencia de redes sociales Entre otros.

UNA DE AZÚCAR PARA EL TEMA, CASO MEXICANO

Recientemente Facebook acaba de liberar una herramienta que brinda transparencia sobre los presupuestos en campañas de redes sociales para políticos. Obviamente no encontramos los de Trump, Bide u Obama… pero para nuestro amado México, más específico Nuevo León, México se liberaron los siguientes datos.

¿Crees que los partidos políticos están aprovechando las redes para influenciar nuestra forma de pensar? (No nuestro voto, nuestra forma de pensar? O sólo se trata de anuncions insignificantes

Déjanos tus comentarios y comparte este blog

Equipo Datlas

-Keep it weird-

Fuentes