Muchos son los que vaticinan que los robots, la inteligencia artificial, van a acabar con nuestra especie. Demonizan a las máquinas y la capacidad de aprender de las que les estamos dotando. En conversaciones con amigos, en los medios, en las redes sociales, critican cualquier forma de progreso relacionada con esta cuestión.
Yo lo veo de forma distinta.
Veo las noticias y me dan ganas de vomitar. Niños maltratados por monstruos (que dicen ser) humanos. A veces hasta la muerte. Oleadas de refugiados a los que nadie da una vida digna (por no darles, ya ni esperanza). Guerras, hambrunas, epidemias. Fraudes, robos, mentiras, falsos profetas. ¿Sigo?
El hombre es el lobo para el hombre. La Inteligencia Artificial no lo es.
Con la ética y la filosofía por los suelos, olvidadas por los sistemas educativos y vilipendiadas por la sociedad, de repente nos preocupamos de dotar de ética a las máquinas. La ética como base de las decisiones que deben tomar las máquinas, como en el dilema del tranvía. ¿No deberíamos prestar más atención a nuestra propia ética como especie? Quizá sea otra muestra de egoísmo, por lo que nos pueda pasar.
Las máquinas hacen simplemente aquello para los que se les ha programado o enseñado. Tenemos ante nosotros el tremendo reto de crear máquinas que nos permitan resolver problemas que nosotros no hemos sido capaces: el hambre en el mundo, las sequías, las epidemias y pandemias. Pero la cosa pinta mal.
Tay
En 2016 Microsoft lanzó en Twitter un robot conversacional llamado Tay. Un sistema diseñado para mantener en las redes sociales una conversación informal y divertida con una audiencia de entre 18 y 24 años, según explicó Microsoft en su página web. El resultado fue lamentable. A los pocos días, Tay insultaba, manifestaba opiniones xenófobas, empatizaba con Hitler y apoyaba el genocidio judío. Para echarle de comer aparte.
Microsoft tuvo que cancelar el experimento al poco tiempo de empezarlo.
¿Era Tay un programa repugnante, malvado, demoníaco? No. Simplemente se limitó a aprender de la cuadrilla de imbéciles que le enseñaron determinadas expresiones y opiniones.
El sesgo algorítmico
Si enseñamos a una máquina a reconocer rostros humanos con fotografías de personas de raza blanca, no cuesta imaginar que no reconocerá las caras de personas de otras razas. Igualmente, si la entrenamos para decidir si conceder o denegar préstamos bancarios, becas educativas o lo que sea, y lo hacemos con datos sesgados que no sean realmente representativos de la realidad, estaremos cometiendo graves injusticias (ej. denegar una hipoteca a alguien por su condición social).
Puede incluso que el ingeniero de turno ponga en la inteligencia artificial sus propias creencias, o las del colectivo, no basadas en datos, como denegar una hipoteca a quien ha superado un cáncer.
Atentos al siguiente vídeo.
La inteligencia artificial será lo que nosotros queramos que sea
Ene definitiva, la inteligencia artificial hará aquello que nosotros queramos que haga, en las condiciones que le entrenemos. Es posible que termine desarrollando sus propias creencias, en base a lo que le hayamos inculcado (¿el instinto de supervivencia, de perpetuación de su especie?)
Podemos desarrollar sistemas que nos permitan vivir en un mundo mejor, ayudándonos a resolver los grandes problemas que tenemos como especie.
Alternativamente, podemos crear sistemas que obedezcan única y exclusivamente a nuestros intereses. Que les entrenemos para actuar según nuestras creencias y no a favor del bien común. A ser egoístas, desconsideradas. A no tener en cuenta el factor humano. A despojarlas de cualquier indicio de ética. A ser una versión peor de lo que ya somos como especie. Y que ya sería mucho decir.
Si las máquinas destruyen el mundo tal y como lo conocemos, si acaban con nosotros como especie, será porque les habremos dado los cimientos para que sea así. Y seremos los humanos, no la inteligencia artificial, los únicos culpables de ello. Probablemente nos lo merezcamos, y hasta las máquinas sean capaces de ver que somos un virus para nosotros mismos y lo que nos rodea.
No creo que todas las máquinas del mundo terminen siendo «buenas o malas», signifique eso lo que signifique. Habrá una variedad como consecuencia de las diferencias entre quienes las creen y entrenen. Pero, repito, está en nuestras manos si queremos que nos ayuden a tener un mundo mejor, o a terminar de destruir todo lo que nos rodea.
Imagen de cabecera: Lobo negro y blanco, por Laurita Bermejo (https://flic.kr/p/P98y3m).
Hace unos días, te hablé del capitalismo cognitivo. No es una conspiranoia, está hasta en la wikipedia:
https://es.wikipedia.org/wiki/Capitalismo_cognitivo
Los datos en si mismos son neutros. Es la forma cómo los organizamos lo que les da su valor.
Me hablaste ayer 🙂 Sí, pude leer por encima y me parece un concepto interesante. Intentaré profundizar más.
¡Gracias por comentar!
8)
Me parece interesante la manera en que abordas el tema de la Inteligencia Artificial y me impactó el video que compartes de TEDTALKS sobre ese tipo de discriminación, no tenía idea de que eso pasaba con algunos algoritmos.
Saludos cordiales.
Muchas gracias Victor.
Si Dios nos hizo, e incluso si nos hizo a su imagen y semejanza, es una cuestión de fe. Nosotros tenemos la oportunidad de mejorar gracias a la Inteligencia Artificial (racismo, sexismo, xenofobia, egoísmo, …) pero si la creamos «a nuestra imagen y semejanza» … Tendremos una versión más rápida y potente de nosotros mismos. Pero nada más.
¡Muchas gracias por comentar!
8)