Archivo de la etiqueta: Steve wozniak

UNA REFLEXIÓN BALANCEADA DEL DOCUMENTAL DE NETFLIX: CODED BIAS ¿ INTELIGENCIA ARTIFICIAL RACISTA? – COLUMNA DE OPINION DATLAS

Desde el equipo de Datlas y los autores de las columnas de este blog nos encanta la generación de contenido y difusión sobre temas de analítica, inteligencia artificial y transformación digital. Hemos hecho columnas de documentales como el dilema de las redes sociales: “3 REFLEXIONES SOBRE “SOCIAL DILEMMA” y publicado opiniones sobre nada es privado: “3 reflexiones de Great Hack”. En esta ocasión hablaremos del documental recientemente lanzado llamado “CODED BIAS” que hace referencia a situaciones donde la inteligencia artificial ha mostrado ser racista.

***SPOILER ALERT*** : Si aún no has visto el documental, tal vez quieras detenerte un poco y regresar a esta lectura para no arruinarte o sesgar tus pensamientos.

Los antecedentes ¿De qué trata?

Un estudiante del MIT identifica un problema evidente en la tecnología de la detección facial. Este desarrollo, desde su nacimiento y entrenamiento (Te recomendamos leer “Algoritmos supervisados y no supervisados” para mejorar tu comprensión de este tema), no está preparado para ser usado con la misma eficiencia por personas de color. Este es el preámbulo de toda una controversia de poderes y autocrítica a los desarrollos de inteligencia artificial de la actualidad y la problemática de la toma de decisiones habilitadas por computadora con modelos de “cajas negras” (Esto quiere decir, en pocas palabras, que son modelos donde no podemos identificar con claridad el efecto de cada variable tomada en el resultado o la justificación exacta de un resultado matemático. Solamente un % de ajuste que nos hace sentir matemáticamente certeros de que es el mejor modelo).

¿En cuál problema se centra el documental?

En un problema social. La temática de racismo y discriminación no es nueva en el contexto de la inteligencia artificial. Muchas de las empresas e investigadores que son pioneros en generar sistemas de identificación utilizan condiciones de “entrenamiento de sistemas” con un sesgo demográfico y socioeconómico.

Al no haber la diversidad suficiente en un equipo de desarrollo de algoritmos las predicciones de, por ejemplo, una cámara de seguridad que alerta cuando una persona “parece terrorista en una aeropuerto” , pueden estar vinculadas a una carga cultural y/o sistemática incorrecta.

Ejemplo citado en la película de cómo la policía local de una región del Reino Unido que utilizan cámaras y algoritmos de “profiling” para detener y entrevistar ciudadanos que, a criterio de su sistema, parecen sospechosos han fallado el 91% de las veces

¿Cuál es el problema de continuar con aplicaciones de inteligencia artificial como “facial recognition” o la “identificación facial” sin reconocer y cuidar los sesgos inherentes?

Si el futuro del mundo está alrededor de la inteligencia artificial (IA) y esta es un reflejo de la sociedad entonces tendremos sistemas sesgados.

Ejemplo de asertividad para identificar personas considerando distintas tecnologías: Azure, IBM y FACE (Empresa China)

Esta es una conversación que no es nueva. Constantemente se hacen estas “auditorias” a empresas de tecnología. Bastantes líderes den el sector tecnológico han empoderado un mensaje claro de que no debemos de dejar que la IA gobierne las decisiones humanas sin entender verdaderamente cómo funciona

Recordemos el caso de Steve Wozniak, uno de los fundadores de Apple, que tan pronto la empresa de tecnología lanzó su tarjeta de crédito obtuvo un crédito 10 veces del tamaño del de su esposa. Siendo que comparten cuentas bancarias, antecedentes crediticios y propiedades.

“La aparición estelar: Cathy O’neil”

En el documental “Coded Bias” hay un personaje que hace su aparición y honra decirlo. A opinión personal, el documental debió tratarse de ella. Nos referimos a Cathy Oneal, la autora de “Weapon of Math Destruction”

Cathy es una especialista en el tema de algoritmos, matemática de formación y con mucha experiencia en el diagnóstico de modelos de inteligencia artificial. Comenzó su carrera en la academia y después paso al mundo financiero donde algunas “formas” y consecuencia sde todos los modelos que se trabajaban le empezaron a “sonar raro”

Ha identificado y denunciado algoritmos que han tenido interpretaciones incorrectas en sectores bancarios hasta el mismo sistema legal norte-americano.

Aunque su intervención en la película es pequeña, si has leído alguno de sus libros podrás entender el valor que le aporta al movimiento impulsado por la película.

La reflexión final (opinión del autor de la columna, no a nombre de Datlas)

Mientras por un lado resulta “taquillero” hablar negativamente de la inteligencia artificial, sus impactos en el mundo y los problemas sociales que esta podría causar es justo decir que la conversación debe continuarse ampliando. Muy probablemente veamos nuevas series y documentales hablando del tema.

La temática de este documental no es nueva. Sin embargo había espacios para ser más técnicos y revisar los impactos de un mal uso de la IA en la sociedad. En ese sentido, en el casting debió de haber tenido más protagonismo una especialista en la materia como Cathy Oneil, con espacio para poder aprender mucho más de ella.

Por otro lado, si bien la IA ha generado potenciales problemas también hay muchos escenarios de impacto positivo. Un buen uso de IA y desarrollos con conciencia social auditados por un consejo especializado para reducir sesgos en los modelos pudiera dar brillantes resultados. Creo que esa parte de la historia faltó contarse en este documental que termina siendo algo dramático.

Documentales como estos tienen la oportunidad de hacer resonar propuestas de intervención escalables y transparentes para resolver las problemáticas que presentan. Faltó profundizar en más propuestas en este documental. Sin embargo podemos alegar que la directora Shalini Kantayya nos dejó esa tarea. Ahora tocará a la sociedad investigar más recursos para poder cuestionarnos la aplicación del IA.

Y ¿Cuáles son tus opiniones? Compártenos en @DatlasMX qué fue lo que te gustó y no te gustó del documental ¿Cuál fue tu mayor aprendizaje?

– Equipo Datlas –

Keep it weird

NOMADX – ¿Qué nos dijo nuestro amigo Steve Wozniak @MTY?

Qué tal

Esta nota es complementamente motivada por el evento del domingo pasado NOMADX. Este fue un festival muy cool de música, arte y emprendimiento. Se dio lugar en la explanada del museo de historia mexicana y como es común ver en los festivales dehoy en día había un montón de puestos de chucherías estilo barrio antiguo, food trucks y cerveza doble vendida de una forma muy “gadgetera”.

nomadx

A pesar del grandioso evento, nos dio sorpresa ( a mi y a mi socio ThumbsUp) ver tan vacío este festival. Sí que la verdad mucha gente ni se enteró, pero también es deber de los emprendedores andar buscando este tipo de eventos. ¿Cómo te vas a perder a #SteveWozniak echar una platicada sobre su historia con apple?

Nosotros tuvimos la fortuna de que un contacto nos dió el pitazo de que estaban dando cortesías al intercambiar por unos likes de facebook. A todo esto le agradecemos a MATCHIDEAS y ASHOKA por ser los grupos que nos apoyaron con el acceso al evento.

Nosotros fuimos directito a escuchar a Steve y nos gustaría compartir la impresión con la que quedamos y dejarles 2 vídeos para que de viva voz escuchen sus mensajes más importantes.

(Por Jurgen Feuchter – Co Fundador de ThumbsUp )
Steve Wozniak desde un inicio me pareció alguien humilde, no era para nada la persona que pensaba que era. Nunca me imagine que fuera alguien tan abierto y que invitaba a hablar y preguntar para responder. Algunas de las frases que más me quedaron de su plática fueron las siguientes:
lisa
“If you can´t afford it, then BUILD IT” – Steve Wozniak 2015
———————————————————————————————————————————————
Muchas veces nos vemos limitados por una razón u otra al querer emprender en algo que en verdad nos apasiona. Siento que esta frase debería de ser el pensamiento de todo emprendedor. Ya que muchas veces, más que crear algo nuevo, estamos innovando en algo que ya existe y dándole un uso mejor. Muchas veces nos vemos limitados por el capital que tenemos a la hora de querer generar estas innovaciones. En mi opinión, esta frase la usaría más para el punto por el que pasa todo emprendedor que es el cómo se va a hacer algo para los que no se tiene capital. Pues en esos casos ingeniártelas, porque siempre hay una manera.
“People now days have role models who to look up to. What they tend to forget is how every one of them started out really young as well.” – Steve Wozniak 2015
—————————————————————————————————————————————–
Esta frase pienso que Wozniak quiere decirnos que aunque sí, ahorita tenemos a estos ejemplos que seguimos. Muchas veces no vemos el camino que recorrieron y desde cuando lo recorren. Al principio de la conferencia el dijo: “It didnt take me 1 day or 1 week or 1 month to build the first apple computer, it took me 10 years.”. Con todo esto, los emprendedores queremos ver resultados ya, y al ver como nuestros ejemplos a seguir armaron toda una empresa en mucho tiempo. Tendemos a no ver el tiempo que les costó armar toda esa empresa. No hay que querer comernos al mundo de 1 bocado, pero tampoco te tardes mucho.

Por último hay elementos clave que todo buen emprendedor recomienda. Aquí de viva voz de Steve los suyos:

“There are 3 key elements every entrepreneur must know…” – Steve Wozniak 2015

—————————————————————————————————————————————–

Esta es toda la nota por hoy. Espero que les haya gustado la forma en que “cubrimos” la conferencia de #Stevewozniak y que si cualquier organizador de festivales de emprendimiento lea esto sepa que aqui hay un blog donde podemos distribuir. De Steve nos llevamos que lo mejor que puedes ser después de una excelente carrera de emprendimiento es un filántropo… alguien que beneficié a los jóvenes porque está consciente de las revoluciones que vienen con más tecnología y que para hacer realidad una idea hay que perseguir sueños.

Steve Wozniak es un motivador que expresa que la forma más expresa de ser libre es con “libertad de intelecto” … lo que nos permite innovar, crear y transformar.

Es todo por hoy, recuerda COMPARTIR la columna con tus conocidos.. Nuestros números están mejorando mucho

Comártenos  todos los detalles de eventos de emprendimiento en tu ciudad o país @PedroVallejo4

También si conoces concurso o competencias de emprendimiento.. estamos por lanzar una mega columna con los mejores eventos en México de este tipo.

Y recuerda persigue tus sueños & “Keep it weird”

Saludos

Del equipo de ThumbsUp www.thumbsupideas.com