Las tres grandes claves de la Inteligencia Artificial

El pasado mes de Septiembre, y por invitación del Colegio de Físicos de España y la asociación Unión Profesional, me invitaron a escribir una columna en la revista Profesiones de ésta última. La revista iba a incluir un reportaje sobre robótica y querían un texto breve  (para columna o recuadro firmado), pero desde una perspectiva más filosófica (no técnica) . Ya escribí algo sobre el tema en El Miracielos: La Inteligencia Artificial NO es el lobo para el hombre (¡es el hombre!) y tuve ocasión de dar un enfoque algo complementario sobre el tema, teniendo en cuenta la brevedad del texto que se me pedía.

La revista completa la podéis encontrar en este enlace.  El acceso directo al artículo de Esther Plaza Alba, en el que aparece mi columna, en este otro enlace.

Reproduzco en lo que sigue el texto de la columna en cuestión.

Las tres grandes claves de la Inteligencia Artificial

Dios creó al hombre a su imagen y semejanza. O eso al menos dice el Génesis en la Biblia. El hombre tiene ahora el difícil reto de no crear a máquinas a su imagen y semejanza, sino de mejorarse a sí mismo. La tecnología no es un impedimento. Las cuestiones clave son otras.

A mi juicio, las tres grandes claves de la inteligencia artificial son la ética de las máquinas, el sesgo algorítmico y la seguridad.

Un coche autotripulado va a sufrir un grave accidente con pérdida de vidas humanas. ¿Cómo tiene que maniobrar? ¿Tratando de salvar al dueño, a otros conductores/ocupantes de vehículos? ¿A sí mismo?

El sesgo algorítmico tiene que ver con el aprendizaje. Imaginemos un sistema inteligente para propuestas salariales. Si le entrenamos con los datos actuales, mucho me temo que deducirá que una mujer tiene que cobrar menos que un hombre. No sabrá el porqué, pero pensará que tiene que ser así. Y lo mismo puede suceder con algunos colectivos en temas sensibles como créditos bancarios, acceso a estudios, selección de personal, … A menos que eliminemos el sesgo en el entrenamiento, los sistemas inteligentes pueden contribuir a aumentar las injusticias y brechas sociales.

Las máquinas harán aquello para lo que las diseñemos. Pero, ¿podemos estar seguros de esto? ¿Podemos asegurar que no habrá efectos colaterales no esperados? ¿De que no cambiará ese objetivo? No sólo por el diseño de sus algoritmos, sino también por la vulnerabilidad ante ciberataques.

La Inteligencia Artificial no es el lobo para el hombre. Es el propio hombre el que lo es.

Print Friendly, PDF & Email

4s comentarios

    1. Una afirmación un tanto discutible, #Jerby. Un vistazo rápido por la prensa nos puede llevar a pensar que muchas máquinas ya son capaces de entender mejor a un niño que muchos adultos. Entender de comprender palabras y emociones, claro.

      ¡Gracias por comentar!
      8)

  1. Sin duda un tema muy interesante. Creo que Asimov dejó ya un extraordinario legado literario para reflexionar sobre ello. Sus tres leyes son un buen punto de partida, aunque ya sabemos que el verdadero problema está en la interpretación. Sobre todo cuando nos enfrentamos a casos límite.

    En todo caso, si la ética es una reflexión y apropiación de leyes o preceptos morales, entonces habría que admitir las interpretaciones hechas desde la máquina como una especie de “ética artificial”. En otras palabras, si ya admitimos el adjetivo artificial aplicado a la inteligencia, entonces habría que saber que todos su derivados se mueven en ese marco. Podrá gustarnos más o menos, pero eso no quita que el resultado sea una reflexión ética realizada desde un lugar ajeno y distinto al que estamos acostumbrados.

    ¿Qué podría enseñarnos la ética artificial? Creo que preguntas así son precisamente las que han dado mucho que decir a autores como Asimov.

    1. Hola Carlos,

      Todo un placer y un privilegio tenerte en esta humilde pecera 🙂 Máxime del tema del que hablo, del que seguro tienes una opinión más fundada que la mía. Y es que cuando dábamos por “muerta” (laboralmente hablando) a la ética y la filosofía, éstas van a ser más importantes que nunca en el panorama que describo.

      Muy bien traído el concepto de ética artificial. Quizá la ética artificial nos permita una mayor concienciación de desequilibrios sociales. O de otras cosas que no somos si quiera capaces de imaginar.

      Hay mucho trabajo y mucho debate por delante 🙂

      ¡Mil gracias por comentar y disculpa el retraso en la respuesta!
      8)

¡GRACIAS POR COMENTAR!