algoritmos de censura – entendiendo POR QUÉ BLOQUEAN CUENTAS DE PRESIDENTES EN REDES SOCIALES (trump en twitter) – DATLAS COLUMNA DE OPINIÓN

Recientemente, una de las notas internacional fue cómo a uno de los líderes mundiales lo censuraban a través de un bloqueo en la red social de twitter. Esta red, al igual que facebook, instagram o similares, siempre ha tenido filtros de censura impidiendo contenido que incite a la violencia o promueva la pornografía. Debido a que no hay fuerza humana capaz de “auditar” todo el contenido de la red se programan algoritmos para levantar alertas y monitorear cuentas puntuales . Pero ¿Por qué la cuenta del presidente de Estados Unidos Donald Trump fue bloqueada? En esta columna explicaremos algunos de los motivos para que un algoritmo levante una bandera de “alerta” sobre este tipo de cuentas. Todo esto usando la narrativa del libro de Cathy O’neil “Weapons of math destruction” (Armas de destrucción matemática).

Recomendaciones de libros para empezar el 2021, en la esquina superior derecha “Weapons of math destruction”

La antesala ¿Qué algoritmos “protegen” el contenido en una red social?

Te recomendamos leer nuestra columna sobre “Algoritmos supervisados” para un mejor entendimiento de esta columna.

En un minuto de internet se genera el siguiente contenido

No hay poder humano ni empresa que pueda auditar o prever el mal uso de este tipo de redes. Pero la censura es importante, una red social, un medio de prensa y los intereses de sus inversionistas, se pueden ver fuertemente impactados si no se cuida su contenido. En el peor de los casos imaginense que nadie gobierne sobre las fotografías que se comparten en Facebook y haya muchas cuenta que promueven pornografía infantil. Esto seguramente molestará a millones de usuarios que sólo entraban para conectar con sus seres queridos a la red.

De manera análoga, en la red social de Twitter, que es una red menos visual donde se publican mensajes de texto de máximo 280 caracteres. Se puede incitar, sobre todo con cuentas con grandes base de seguidores, al odio, a la confusión o a cometer crímenes. Ha sido el caso durante el COVID-19 que la promoción de #fakenews o noticias falsas ha sido bastante distribuida. Te recomendamos revisar nuestra columna sobre “Fake News” aqui.

En ese sentido, al habilitar una red tan grande de personas donde se promueve el diálogo y la publicación de contenido, es una necesidad generar mecanismos adecuados de monitoreo. Sin embargo, es fácil entrar en debate, porque los grupos que controlan estas redes podrían tomar un “sesgo” o interés.

¿Cómo funciona un algoritmo de censura?

Un algoritmo de censura, en realidad es una aplicación de un algoritmo de aprendizaje automático. Se puede manejar de distintas formas, depende del analista o científico de datos, pero existen muchos estándares. Primero que nada recordemos que existen algoritmos supervisados y no supervisados. Los supervisados requieren una base , una historia o un catálogo para ser entrenados y asemejar los nuevos hallazgos con los que tienen en su base. Por otro lado, los no supervisados, no tienen un marco definido por el cuál “asociarse”. Los algoritmos van encontrando patrones y mapeando características que pueden ordenar o asignar a un grupo determinado.

En ambos casos, los algoritmos pueden encontrar con apoyo de “etiqueteo” para optimizar los resultados. Por ejemplo te ha pasado que tu celular detecta a tu mascota en todas las fotos que aparece en tu celular. Como usuarios podemos etiquetar en las fotos a objetos o mascotas, por ejemplo en este caso a tu perro que se llama “lobo”. Después aplicativos como Google Photos pueden darte resultados cada ves que en la barra de búsqueda de tu carpeta colocas la frase “lobo”. De esa manera tu etiquetaste para el algoritmo de detección de imágenes a lobo y con eso te puede dar una mejor experiencia de usuario.

Otro ejemplo de este tipo de etiquetas es cuando un “captcha” para identificar que no eres un robot te pide detectar objetos como el siguiente ejemplo.

En términos muy resumidos y prácticos asi funciona un algoritmo de censura. Pero en lugar de tener objetos, mascotas o un glosario que asociar está preparado para alertar a “power-users” y reaccionar sobre contenido catalogado como prohibido o peligroso. De acuerdo a su programación, accionan y censuran en automático, o en otros casos filtran para que los casos específicos sean monitoreados por humanos.

Como establece el libro “Weapon of math destruction” (parafraseando) , vivimos en la era del algoritmo, así como hay casos donde equipos de basquetbol, patrullajes de policías y/o exámenes de orientación académica se ven beneficiados de algoritmos es una realidad que es un arma de doble filo. Un algoritmo de censura mal ejecutado pudiera mostrar racismo, discriminación, preferencia a usuarios con más seguidores o similar.

¿Qué son algunas de las cosas que pasaron para bloquear las cuentas del presidente de Estados Unidos?

Al día de hoy Twitter ha bloqueado la cuenta de @realDonaldTrup. Una cuenta con casi 89 millones de seguidores con motivos de incitar al odio.

A continuación algunas situaciones que anticipaban esta situación

1) Bloqueo por actividades sospechosas

Se hacen publicaciones de manera constante que sólo te sacan de la red si justificar motivos

2) Reportes de usuario

Una cantidad significativa de usuarios ha bloqueado deliberadamente una cuenta

3) Etiqueta de usuarios como contenido dañino

Usuarios han “flageado” o “bandereado” tweets compartidos como sensibles

4) Faltas a los pronunciamientos de compañía por temporada electoral

5) Más sistemas de bloque sobre las reglas de comunidad de Twitter

Reflexión final

Hasta aqui la columna de hoy. Los algoritmos de censura continúan teniendo mayor relevancia en la medida que las redes sociales van tomando mayor relevancia comunitaria. Por otro lado las autoridades están más vigilantes que nunca de la política de privacidad

En el libro citado, mencionan que quien se quede atrás verdaderamente corre el riesgo de perder el juego de la “economía de los datos”. Lo que quiere decir que este tipo de tecnologías y algoritmos como las de twitter podrán ser comercializados a otras redes en el futuro. Y, por qué no, comenzar a auditar líderes mundiales o usuarios que rompan las reglas de la red social .

Cuéntanos qué opinion tienes sobre los algoritmos de censura y qué otros libros podrán soportar un mejor entendimiento de este tipo de bloques.

Equipo Datlas

– Keep it weird –

Un comentario en “algoritmos de censura – entendiendo POR QUÉ BLOQUEAN CUENTAS DE PRESIDENTES EN REDES SOCIALES (trump en twitter) – DATLAS COLUMNA DE OPINIÓN”

Responder

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Salir /  Cambiar )

Google photo

Estás comentando usando tu cuenta de Google. Salir /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Salir /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Salir /  Cambiar )

Conectando a %s

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios .