“Recién bloqueamos a KiwiFarms” publico el CEO de Cloudflare en un mensaje que pareció una claudicación al pedido de usuarios de internet pidiendo que le cancelen el servicio de protección a Kiwifarms, un foro que ataca a personas trans; pero esto abre mas interrogantes que respuestas porque nada es lineal en Internet.
Cloudflare es una plataforma de protección anti DDoS, básicamente evita que un sitio sea “apagado” por un ataque donde se simula que millones de usuarios están queriendo accederlo para que los usuarios reales no puedan verlo, y hoy protegen al 20% de internet… y aunque la respuesta les parezca fácil como twittear “Discriminatorio!!!” les pido que piensen estos preguntas antes de responder:
Cuando Apple introdujo ATT, el sistema de “privacidad” en iOS14.5, comenzó una gran campaña sobre Apple defendiendo tu privacidad. Esos 15.000 millones de dólares al año es lo que pierde anualmente Facebook por esa implementación; también esos 15.000 millones de dólares al año es lo que paga Google a Apple anualmente para poder ser el buscador por defecto en Safari y… no tener problemas de tracking. ¿Lo interesante? Apple trató de convencer a Facebook de hacer una versión paga de sus servicios y cobrar una comisión justo antes de lanzar ATT.
“Every day, we meet and collaborate with developers of all sizes to make suggestions, address concerns, and help them continue to grow their businesses“
Apple spokesman
Sin entrar en teorías raras, si uno se sienta un par de minutos a analizar los modelos de negocios de las 3 empresas que estamos viendo ($AAPL, $META y $GOOG) vemos algunas pistas que la privacidad estuvo en venta desde el momento en que Apple decidió enfocarse en aumentar sus ingresos por servicios y dejar de depender del hardware para empujar sus ingresos.
En 2017 Tim Cook promete duplicar ingresos de servicios por el estancamiento de su unidad de hardware y comienzan las negociaciones con Facebook.
En 2018 se lanza un update en Safari que bloquea el tracking de usuarios entre sitios de diferentes dueños.
En 2019 los ingresos de hardware de Apple caen por primera vez.
En 2020 se anuncia App Tracking Transparency (ATT) y se cierran las negociaciones con Facebook. Se descubre (gracias al juicio de Epic Games) un acuerdo secreto por el que Google paga a Apple miles de millones por estar en Safari como buscador predeterminado (sin limitaciones de tracking).
En 2022 Facebook registra una caída de ingresos publicitarios por primera vez en su historia y la acción de Snap cae un 25% como consecuencia de eso.
Interesante nota en NYT sobre Fawkes y algunos papers de de-identificación muestran los esfuerzos que se están haciendo para evitar que los sistemas de reconocimiento facial nos identifiquen pero en esta carrera armamentística la capacidad de volvernos anónimos esta perdida.
Vamos por partes, las imagenes izquierdas y derechas de Jessica Simpson, Gwyneth Paltrow y Patrick Dempsey que nuestro cerebro identifica como de la misma persona, para un algoritmo tradicional genera problemas y es interpretada como un objeto diferente porque se rompe alguna de las caracteristicas salientes de identificación.
La herramienta que genera estas modificaciones o “cloaking” (palabra que siempre asociaré a la tecnología romulana de las naves Klingon) se llama Fawkes y esta disponible para que la bajes y pruebes e imagines que vas a poder aplicarlo y evitar que Deepface, Rekognition, Azure Face API, Clearview y otros te reconozcan… ¿la realidad? no vas a tener éxito.
Los sistemas de reconocimiento facial trabajan analizando datasets de miles de millones de fotos, encontrando patrones y dando un resultado relevante atado a un dato que es el ID/nombre del objeto en la foto… por eso el resultado es un “reconocimiento” que es simplemente la unión de ciertos patrones.
Para ponerlo de otro modo, a un algoritmo el objeto del medio está marcado como Gwyneth Paltrow pero solo porque se lo entrenó para eso; si le dijeramos que el ID es “Goop Founder” la presentaría como eso y punto… el cerebro humano no trabaja de esa manera y la evaluación para identificación es más abarcativa y compleja.
¿Que pasa al usar estos algoritmos de anonimato como Fakwes y ver sus resultados online? le estás explicando a los algoritmos de reconomiento facial que “este objeto es Patrick Dempsey aunque el parámetro X sea difernte” y así entender que otras cosas analizar para identificarlo.
En definitiva, estos algoritmos públicos de “anonimización” solo sirven para entrenar a los algortimos de reconocimiento facial y mejorarlos.
Básicamente estamos en una carrera armamentística donde el desbalance de poder entre los que desarrollan aplicaciones de reconocmiento facial y los que crean herramientas de anonimización es tanta que, a nivel tecnológico, la batalla está perdida.
Y el siguiente párrafo muestra el nivel de recursos que se necesita para implementar esto en video, al punto que el que lo hace es R&D de Facebook… quien siempre está interesado en nuestra privacidad ;)
We propose a method for face de-identification that enables fully automatic video modification at high frame rates. The goal is to maximally decorrelate the identity, while having the perception (pose, illumination and expression) fixed. We achieve this by a novel feed-forward encoder-decoder network architecture that is conditioned on the high-level representation of a person’s facial image. The network is global, in the sense that it does not need to be retrained for a given video or for a given identity, and it creates natural looking image sequences with little distortion in time.
¿Como lo resolvemos? En este punto solo con regulaciones y políticas claras de tratamiento de imágenes, ¿como se recolectan? ¿como se agregan? ¿como se analizan? ¿como se comercializan los datasets? ¿que algoritmos se aplican? aún así estamos en un punto donde si sos una persona de interés para un actor estatal no tenés como esconderte de forma simple o económica…
Solo espero que, la próxima vez que leas “Con esta herramienta gratuita podés evitar el reconocimiento facial” sepas que la ventaja durará el tiempo que los otros algoritmos se entrenen… y nada más.
Florida se convirtió en el primer estado de USA en regular la privacidad del ADN prohibiendo expresamente a las empresas de salud y aseguradoras acceder a los datos del ADN de una persona incluso por medio de terceras partes, esto es… las empresas de test caseros como 23 and Me.
La ‘House Bill 1189’ fue patrocinada por un senador republicano que al tener cáncer descubrió que ni HIPAA ni GINA evitan que esos datos personales se usen para las cláusulas y precio de los seguros de vida, discapacidad o enfermedades crónicas y por eso las aseguradoras promueven el uso de apps de test genéticos.
El uso de información genética, que para algunos es algo a largo plazo, es tan presente gracias a los tests caseros que:
En algunos estados, al momento de comprar un apartamento pueden pedirte que presentes un análisis de que no tenés predisposición al Alzheimer… los del consorcio!
Las leyes federales no prohiben el uso en los casos que resuelve esta nueva ley de Florida.
Ancestry y 23andMe pueden, y de hecho ya lo han hecho, compartir la información genética con las fuerzas policiales (y asi se atrapó a un asesino serial, porque compararon ADN de sospechosos y encontraron un pariente directo)
Y aunque desde hace ya un par de años sigo el tema, cada tanto aparece una empresa (médica o de seguros) que me aseguran que podrian bajar las primas gracias a la baja predisposicion a algunas enfermedades… lo que significa que podrían subirlas para otras, simplemente porque escupiste en un tarrito para hacer un test de ascendencia.
Cuando el coronavirus arrancó y las noticias hablaban sobre cómo el gobierno chino estaba conteniendo la expansión, pocos se dieron cuenta que este es un momento ideal para entender el concepto de “Estado de Vigilancia” o “Surveillance State”.
Porque a la campaña de control social tradicional que se aplicó -puertas marcando familias con infectados y hasta recompensas por la información de paraderos de personas originarias de las ciudades del virus ( Hubei, Yueyang, Hunan y Xinyang)- se le sumó la vigilancia tecnológica de China que uno conoce por arriba, pero que tiene ahora aplicaciones impensadas, como por ejemplo:
Cámaras remotas capaces de identificar personas con temperatura un poco más alta de lo normal en medio de una multitud; un algoritmo de reconocimiento facial que puede correr aun cuando usen máscaras para respirar y enviar el dato a la policía, en tiempo real, con geo-posicionamento, para intercepción y contención.
Identificar a una persona sin permiso de viaje en un transporte público, aún usando una máscara, y automáticamente notificar a las personas que están cerca de forma física mediante una notificación en sus móviles… y sumarlos a la base de datos de potenciales portadores.
Mientras algunas personas hablan de ratios de contagio del coronavirus, de mortalidad o de expansión o la comparan con enfermedades históricas, me pregunto si toman en cuenta estas capacidades modernas de identificar, aislar y contener movimientos de ciudades enteras en días. No creo que haya un Estado con tanto poder sobre sus ciudadanos como la China de hoy en día.
Mientras BlueDot roba titulares porque, incorrectamente, decía que la IA había predicho el coronavirus, me pregunto si en este caso nadie habla de privacidad o control social porque imaginan que este es un “caso bueno de control” o si simplemente porque recién se está corriendo el velo de las capacidades de vigilancia.
Hace un tiempo, la estrategia de algunos partidos es subir a Facebook videos editados y distribuirlos lo máximo posible para lastimar a sus rivales a sabiendas que son mentira; Facebook lo sabe y tomó la decisión deliberada de permitir la distribución de esos videos sino agregarle un texto abajo diciendo que “de acuerdo a nuestras fuentes este video no es real”amparándose en su política de “sólo se borra si el que lo sube es una persona falsa”… vean este video de una portavoz defendiendo una estupidez:
Con menos de una semana de diferencia Google y Facebook pusieron sus armas sobre la mesa y atacaron el tema de la privacidad de formas diferentes pero armando su jardín vallado y protegiendo sus ventajas competitivas frente al resto del ecosistema de publicidad online.
Mientras Facebook se puso defensivo pidiendo una regulación que le complique la vida a competidores pequeños, Google decidió mostrar que hay opciones para “cuidar la privacidad” y entonces presento varias cosas con pequeño impacto en su negocio y una que es una bomba para el resto: Chrome va a incluir tecnología que fuerce a los devs a pedir un opt-in explícito para usar en sitios de terceros aka: anti-fingerprint pero…
Hace tiempo Facebook está siendo golpeado por usuarios, competidores y reguladores; que no pueden hacer mucho realmente por frenar su cultura ¿una multa de millones? tienen un free cashflow de 5bn por trimestre y unos 50bn en COH ¿una campaña como #deletefacebook? tienen WhatsApp e Instagram así que no van a lograr nada… ¿competidores? miren a Snap y entiendan como pueden destruirte y como Mark lo usa como técnica de negociación.
El futuro es regulado. Esa es su estrategia defensiva en tres actos.
Cuando Facebook presentó Portal, su asistente always-on con Alexa integrado, dije básicamente que era raro que alguien pensara seriamente en utilizar un equipo de una empresa que cada 3 meses tiene un problema de privacidad y luego pide disculpas en un bucle infinito… pero $FB previendo estas críticas decidió que cada dispositivo tenga un “camera cover provided” y que no se iban a usar datos para publicidad.
Una semana después hay una declaración oficial de Facebook diciendo:
“Las llamadas de voz de Portal están construidas en la infraestructura de Messenger, por lo que cuando realices una videollamada en Portal, recopilamos los mismos tipos de información (ej: datos de uso como la duración de llamadas, frecuencia de las llamadas) que recopilamos en otros dispositivos que usan Messenger. Nosotros podríamos utilizar esta información para informar los anuncios que te mostremos en nuestras plataformas. Otros datos de uso general, como el uso agregado de aplicaciones, etc., también pueden usarse para alimentar la información que utilizamos para publicar anuncios.”
No tengo realmente claro como una empresa farmacológica como GSK comunica mejor que 23&Me el acuerdo entre ambas empresas; que incluye una inversión de $300 millones en 23&Me, identificación de subgrupos para tratamientos médicos específicos e investigación conjunta de drogas genéticas… en la base de datos del ADN que enviamos unos cinco millones de personas a 23&Me para ver nuestros patrones genéticos y de ascendencia.
Y acá les dejo unos pensamientos sueltos sobre el tema porque increíblemente estoy leyendo poco del tema en medios en español
Ayer una persona le pidio a otra cambiar de asiento asi podía viajar con su pareja, lo que sucedio no lo creerás pero básicamente Rosey Blair se dedicó a espiar a la persona que le cambió el asiento, publicó sus fotos sin consentimiento, se dedicó a calificar su aspecto físico y se viralizó tanto que la gente de Buzzfeed publicó el nombre de Euan Holden (el joven muy feliz de ser una celebrity por 15 segundos) y no consiguieron el nombre de ella.
Last night on a flight home, my boyfriend and I asked a woman to switch seats with me so we could sit together. We made a joke that maybe her new seat partner would be the love of her life and well, now I present you with this thread.
Y mientras todos nos reimos y celebramos que en el mundo el amor triunfa, al punto que el CEO de T-Mobile le va a dar crédito gratis a la que relató todo me pregunto hasta que punto no se violó la privacidad de la parejita feliz, me pregunto hasta que punto está bien fotografiar, filmar y publicar lo que hacen dos personas sin que ellos lo sepan.
Me pregunto si la privacidad cuando “es con onda” es menos importante que en otros casos… o simplemente estoy “out of touch”
Cuando The Guardian arrancó con las revelaciones sobre Cambridge Analytica usando datos de Facebook para influir en la campaña presidencial de Trump y comenzó todo el escándalo sobre la privacidad, preferí escuchar y ver cómo se iba desarrollando algo que tiene tantas aristas que gran parte de la cobertura es, cuando menos, parcial o desinformada.
Para arrancar me gustaría dejar en claro algunos puntos:
¿Usó Cambridge Analytica tus datos privados? Hasta casi 2016 estos datos eran accesibles por la API de Facebook; luego de eso sinceramente no está claro si hubo acceso indebido.
¿Qué hizo mal Cambridge Analytica con tus datos de Facebook, entonces? Venderlos a un tercero, en este caso la campaña de Trump que mostraba avisos perfilados.
¿Cómo convirtieron los datos en un arma? Simplemente por volumen y aplicación de patrones psicológicos (esos que los programadores dicen que son irrelevantes), para luego convertidos en algoritmos para escalar.
Borraste Facebook. ¿Ya está? En realidad deberías dejar de usar Google, Android, Alexa y los permisos que les diste a todas esas apps antes de borrar todo.
Sin el uso de estos datos, la mitad de los servicios y apps que estás usando gratuitamente no existirían.
Esto no es nuevo, ya en 2009 escribí sobre el Gaydar Experiment, uno uno de los experimentos más provocativos, estúpidos y hasta discriminadores que conocí: definir tu sexualidad con sólo analizar tus contactos. En 2011 se podía establecer una inclinación política en base a likes, y en 2015 se predecía el color de piel en base al mismo parámetro. Es decir que hace tres años con sólo tener acceso a los likes ya se podía perfilar tu sexualidad, el color de tu piel, tus preferencias políticas y tu posición frente a ciertos temas (armas, aborto, etc.) para mostrarte publicidad… incluso a tus amigos. Ninguna sorpresa acá, esto es el modelo de negocios de Facebook, Google y del ad-tech space.
Pocas veces los usuarios tienen conciencia de la cantidad de datos que le entregan a los proveedores de servicios, en algunos casos con razón en otros casos de formas totalmente injustificadas. Uber hace un par de semanas comenzó a forzar a que compartas tu ubicación con la app aún cuando no la estés usando alegando que así pueden entender mejor cuales son tus patrones de conducta al momento de pedir un Uber y que solamente analiza los 5 minutos anteriores y posteriores al uso de la app.
Que un juguete sea capaz de interactuar con un niño al responder sus preguntas o comentarios es genial.
Que un padre no sepa, al comprar ese juguete, que la voz de sus hijos es analizada en un servidor remoto y se convierten en datos susceptibles de ser utilizados para publicidad y explotación comercial con terceras partes es increíble.
“Ik weet zoveel van journey” significa “Te conozco tanto…” y está en la caja de los juguetes como si fuera una suerte de chiste sobre la falta de conocimiento que tienen las personas sobre su propia privacidad… y la de sus hijos.
La suprema corte de Suecia decidió prohibir el uso de drones con cámaras porque son potencialmente un aparato de vigilancia y por lo tanto solo pueden usarlas los policías o con un permiso especial para filmación que es uno de los permisos más caros que se conceden en ese país.
Es interesante porque las leyes suecas tan liberales en muchos campos son de las más estrictas en cuanto al tratamiento de la privacidad y aunque a nivel personal no esté de acuerdo con esta prohibición total de algo que tiene decenas de usos válidos debo reconocer que tiene cierta lógica en su argumento.
“the [drone] camera can be used for personal monitoring, although it is not the purpose. The camera is therefore to be regarded as a surveillance camera.”
Y la lógica de esto, frente a la de permitir el uso de cámaras en cascos o autos (que se da en el mismo comunicado) es que básicamente uno extiende el alcance de lo que puede ver/vigilar más allá de nuestra línea de visión natural convirtiéndose en algo que potencialmente puede salir del dominio público e invadir espacios privados.
Una sola de las pequeñas batallas que se avecinan en el balance entre privacidad y libertad.
Esto no es una pelea por la libertad de expresión, es una pelea de millonarios con sus egos lastimados pero donde, le guste a quien le guste o no, un jurado encontró a un medio culpable de un delito (no, el chantaje por usar un escort gay que le hicieron al CFO de una empresa se cerró con un acuerdo) y ahora tiene que pagar, o apelar
Pero de ahí, un pelea personal donde uno puede dejar que un juzgado determine la responsabilidad de un medio o no, a hablar del peligro que los periodistas y medios son para la privacidad gracias a Internet hay un trecho gigantesco… sobre todo si miembro del consejo de Facebook!
“As an internet entrepreneur myself, I feel partly responsible for a world in which private information can be instantly broadcast to the whole planet.”
Apoyé la pelea contra Gawker, no apoyo su vendetta, no apoyo su devoción por Trump ni sus negocios con Palantir y el Pentágono…
Pero Facebook debería tomar una posición cuando alguien habla de definir que es públicamente relevante para los medios y que se puede publicar o no, usando como excusa las prácticas de Gawker.
Finalmente el Departamento de Justicia de Estados Unidos perdió el juicio contra Microsoft en el que le pedían que entregue emails y datos almacenados en los cloud services de Microsoft en servidores basados en otros países lo que, técnicamente, le pone fronteras a la nube y asegura la privacidad de acuerdo a las leyes que aplican en el país donde se almacenan los datos… una victoria para el concepto de cloud services, para Microsoft y una derrota para el DoJ estadounidense.
“Los registros de vehículos confirman que la función automática SUMMON fue iniciado por una doble pulsación del botón selector de marchas, pasando de Drive a Park y solicitar la activación de SUMMON. El conductor fue alertado de la activación de SUMMON con un aviso sonoro y un mensaje emergente en la pantalla del centro de la pantalla táctil. En este momento, el conductor tuvo la oportunidad de cancelar la acción pulsando CANCEL en la pantalla del centro de la pantalla táctil; Sin embargo, el botón CANCELAR no fue pulsado por el conductor. En el segundo siguiente, el pedal de freno se liberó y dos segundos más tarde, el conductor salió del vehículo. Tres segundos más tarde, la puerta del conductor fue cerrada, y otros tres segundos más tarde, SUMMON activado de conformidad con la solicitud de doble pulsación del conductor. Aproximadamente cinco minutos, diez y y seis segundos después de la activación de SUMMON, la puerta del lado del conductor del vehículo se abrió de nuevo. El comportamiento del vehículo es el resultado de las propias acciones del conductor…”
Este twitt de @carlosdomingo muestra parte del problema gracias al cual los adblockers tienen sentido para todos, entiendo que una empresa de medios debe generar ingresos para sobrevivir, vamos… en la empresa-que-me-borró-de-su-historia vivíamos de eso pero creo que nunca llegamos a este tipo de invasión que va más allá de un banner mas o menos en mi pantalla.
Hagamos de cuenta que el ancho de banda no es un problema, hagamos de cuenta que no me molesta ver un intersticial y un banner y un desplegable y un roll-over para llegar al contenido, hagamos de cuenta que no tengo problema en pagar 4USD/mes para ver una versión de tu sitio sin publicidad, hagamos de cuenta que no me molesta que los desarrollan herramientas “anti-adblockers” son paladines de la libertad de prensa…
Les propongo a los medios que me ofrezcan un plan donde yo elija una suscripción mensual no de 4USD sino de 8USD o 15USD pero los medios se comprometen a NO trackearme de ninguna manera, remover todo script que pueda definir que soy un hombre de 44 años, casado, viviendo en Madrid y Buenos Aires que compra viajes, maletas, bolsos, relojes y zapatillas como TOC… ¿estoy pidiendo mucho?
No, no creo que esté pidiendo mucho, porque gran parte del público se cree que los adblockers sirven porque te frenan un banner, cuando lo importante es bloquear los scripts que rompen tu privacidad pedacito a pedacito y te convierten en un bit de “audiencias premium” donde se venden tus datos a quien sea… pero el dia que se den cuenta, ahí van a tener un problema y la gente va a ver a los adblockers como aliados y van a dejar de ser un 3±4% del tráfico.
En fin, si algún medio promete no trackearme… les pago con gusto, aunque las centrales de medios se mueran de hambre :)
Hay veces que siento que en la relación entre Facebook y nuestra privacidad se aplica el sindrome de la rana hervida; hoy hay algo de enojo porque WhatsApp no deja enviar links a servicios de la competencia(ie: Telegram) pero al mismo tiempo Facebook escanea tu álbum de fotos del teléfono y apenas abrís la app ya te recomienda el nombre de amigos o te ofrece publicar el último link que copiaste aún estando en otra aplicación… como si el teléfono completo fuera su campo de juegos y no tu propio dispositivo.
