Es muy interesante la carta que se presentará hoy en el “International Joint Conference on Artificial Intelligence” en Buenos Aires, firmada por más de mil expertos en Inteligencia Artificial, que van desde Elon Musk, Demis Hassabis, Stephen Hawking, Peter Asaro y hasta filósofos como Chomsky o Dennett. La carta se puede leer en Autonomous Weapons: an Open Letter from AI & Robotics Researchers y tiene algunas perlas interesantes.
Aunque me encantaría hablar de un escenario futurista digno de Skynet, la realidad me suena bastante peor y por eso puse ese título que sale de una frase donde se evalúan las caídas en los costos de producción y el acceso “simple” a los componentes necesarios para su desarrollo algo que, en la carrera armamentista nuclear, no existe:
“Unlike nuclear weapons, they require no costly or hard-to-obtain raw materials, so they will become ubiquitous and cheap for all significant military powers to mass-produce. It will only be a matter of time until they appear on the black market and in the hands of terrorists, dictators wishing to better control their populace, warlords wishing to perpetrate ethnic cleansing, etc. Autonomous weapons are ideal for tasks such as assassinations, destabilizing nations, subduing populations and selectively killing a particular ethnic group.”
Y aunque este punto “economías de escala en armamento con inteligencia artificial” (sería un buen título) es grave de por si; se introduce un elemento moral y legalmente complicado que es la responsabilidad del uso de estas armas porque no hay “una persona atrás del gatillo”
¿Que pasa si un algoritmo decide que hay que ejecutar a alguien o combatir a otros? ¿quien es el responsable? ¿la AI? ¿el programador? ¿el que ejecuta el algoritmo? ¿el que autoriza su despliegue? ¿el que controla la calidad del mismo?
Las aristas son tantas y tan complicadas de analizar que no quiero entrar ni siquiera en el tema de la seguridad de las redes de conectividad necesarias para que estos equipos funcionen, no quiero entrar en terreno del aumento del conocimiento de las máquinas o si son capaces de adquirir conciencia, pero si Albert Einstein fue uno de los que firmaron en contra del desarrollo de armamento nuclear… sabiendo lo que venía y no le prestamos atención, quizas esto sea una segunda chance y deberíamos escucharlos y firmar esta carta.
Esperando que alguien la lea, aunque su argumento será “si no la desarrollamos nosotros, un terrorista lo hará y tenemos que impedirlo para que ustedes estén seguros”