1- Un robot no puede hacer daño a un ser humano o, por inacción, permitir que un ser humano sufra daño.
2- Un robot debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la Primera Ley.
3- Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la Primera o la Segunda Ley.
Estas son las tres leyes de la robótica que propuso en su momento Isaac Asimov y es interesante que en The Singularity Hub se hable de ellas como un mito imposible de cumplir cuando nacieron… para traer problemas ;)
La realidad es que cualquier fan de Asimov sabe que sus relatos siemrpe tienen como base que se produce un daño a los humanos por el seguimiento estricto a las tres leyes (hasta en la película Yo, Robot eso se ve claro) pero lo interesante del planteo de TSH es que este mito se da porque es imposible lograr controlar la inteligencia y quieren introducir el concepto de “que nuestras creaciones nos amen”.
La nota completa, sus links relacionados y la discusión en Hacker News valen la pena porque le dan una vuelta de tuerca a los problemas reales de estas tres leyes (y no me hagan empezar con la ley zero porque sino hablaríamos del “bien mayor” :P)