Cuando uno se mueve en el mundo de la tecnología o de startups la discusión sobre ética o conformidad a reglas queda en una especie de segundo plano, donde rara vez sale de una frase; sin embargo hoy por hoy "ethics and compliance" debería ser parte de cualquier escenario tecnológico por el peso específico que la tecnología está teniendo en nuestras vidas. ¿Algoritmos neutrales? No existen. Genética justa: ¿definida por quién? Inteligencia artificial: ¿de qué sirve si es manejada por estupidez o codicia humana?
“Some airlines have set an algorithm to identify passengers of the same surname travelling together, then split the passengers up, and when the family want to travel together they are charged more.”
Este es uno de los casos más recientes y, honestamente, de los más "inocentes", cuando al identificar una familia viajando junta se les asigna asientos distantes para que, al querer viajar juntos, puedan cobrarles un extra.
Para el que se queja de "las aerolíneas" o "los algoritmos", ¿se olvidan que hay un científico de datos jugando con estas cosas? ¿Qué "ethic and compliance" está siguiendo esta persona? ¿Un mejor bono?
Assuming that independent analysis confirms today’s news, this work reinforces the urgent need to confine the use of gene editing in human embryos to settings where a clear unmet medical need exists, and where no other medical approach is a viable option, as recommended by the National Academy of Sciences.
Un científico chino dice haber creado los primeros bebés con CRISPR-CAS9 (cualquier que lea este blog sabe que para mí es el avance tecnológico de décadas) sin embargo, no se publicó ningún paper científico ni se verificó con otros científicos y sobre todo, solo se creó vida para "probar una teoría". Aún dudando de este caso (aunque haya experimentos off the book) les dejo tres preguntas:
- ¿Quién va a definir qué es ético y que no? En el caso de haber una vida involucrada ¿cuándo aparecerán las religiones a opinar? Pero.. si pudieron inventar un humano que no puede contagiarse de HIV ¿quién dice que no pueden inventar un humano capaz de portar virus siendo asintomático para distribuir cualquier enfermedad, como avanzada de una guerra biológica?
On Thanksgiving Eve, Facebook quietly admitted to hiring dirty tricksters to publish an anti-Semitic Soros hoax smearing its critics
2. Esta noticia muestra simplemente lo podrida que puede estar la cultura de una empresa en la que no hay "ethics or compliance procedures" o donde se endiosa el concepto de "move fast break things"... pero ¿quién controla una plataforma capaz de distribuir información explotando las creencias de las personas para generar un espacio de odio entre ellas?
En este caso en particular, no sólo sos el dueño de la plataforma que expande fake-news: además estás generándolas, conociendo cómo lograr máxima exposición. Y al ser descubierto lo admitís en pleno Día de Acción de Gracias, esperando que se quede oculto en las ofertas de Black Friday... o simplemente con tu algoritmo hacés que poca gente vea tu admisión de culpa.
3. ¿Nos interesa la ética en la tecnología como sociedad?
En todos y cada uno de estos casos cualquier persona puede sentirse indignada -como los que escriben notas anti Uber o anti Rappi pero quieren sus envíos en 24 horas sí o sí- pero la realidad es que la ética tecnológica y, en especial, en inteligencia artificial, genética y algoritmos (no, un algoritmo no es AI) va a ser más difícil de implementar de lo que pensamos.
¿Por qué? van algunas ideas sueltas:
- Porque la ética es más subjetiva de lo que pensamos. Pregunten en China si los emprendedores están en contra de los sistemas de control social que generan para el gobierno... los sorprenderá la respuesta :)
- ¿Queremos entregas en 30 minutos? Tenemos que entender cómo se logra ese desafío logístico y por qué Amazon no puede frenar los paros en Europa (en USA te echan y punto), o pensar en cómo impacta esto en los derechos de los trabajadores, o si estos son "socios de negocio" sólo por no decir "falsos autónomos".
- Nos fascina que una niñera en nuestra casa tenga un "historial limpio" cuando la dejamos cuidando a nuestros niños pero ¿estamos de acuerdo en que un algoritmo con algo de machine-learning refuerce estereotipos en base a su presencia en redes sociales?
Mientras no entendamos que la tecnología por si sola no resuelve nada, y que el uso de Machine Learning, Genética de Diseñador e Inteligencia Artificial sólo están acelerando los tiempos de despliegue de productos y servicios como todos los ejemplos que puse al arrancar el post... vamos a estar en peligro de llegar a las distopias soñadas en Brazil, 1984, Brave New World o The Handsmaid Tale.
Aunque quizás nos parezcamos más a Nosedive de Black Mirror.
