¿Por qué nos preocupa la estupidez artificial?

En principio porque los fallos en el diseño de algoritmos poseen un impacto en la vida de millones de personas.

Se llama estupidez artificial a la falta de naturalidad y de conocimientos, por parte de las mentes virtuales, ya que todavía son bastante limitadas y propensas a los errores.

Los algoritmos han sido diseñados para resolver problemas muy concretos, por ejemplo, la experiencia de vida de un algoritmo de visión se limita a bases de datos con miles de imágenes con las que se ha entrenado una y otra vez; pero no están diseñados para comprender qué está sucediendo en su entorno. Ven las señales y aplican la misma solución siempre.[1]

Estos fallos afectan la vida de mucha gente. El problema no es tanto la máquina, como de los sesgos preexistentes en las bases de datos con las que funcionan. Por ejemplo, el sistema de inteligencia artificial que usan los jueces en EE. UU. como asesor, tiende a desaconsejar la libertad a los negros más a menudo que a los blancos. El algoritmo analiza 173 variables, entre las cuales no cuenta la raza. Pero, la base de datos con la que opera esta inteligencia artificial está caracterizada por un sesgo que desfavorece a las personas de raza negra.

Hay otro ejemplo en que cobra peso la estupidez artificial, porque una definición de inteligencia señala: “Hacer lo correcto en el momento adecuado”. Antes una aclaración: uno de los problemas de la programación es que no se invierte suficiente dinero y energía en la ingeniería de interfaz de usuario, por lo que la mayoría de los formularios en papel están mejor diseñados. Señala Meredith Broussard, autora del libro Artificial Unintelligence (Estupidez artificial): “Estoy completando un formulario de campamento de verano ahora mismo, y usted tiene que obtener una copia de los registros de vacunación de sus hijos, debe escanear y cargar una copia del registro de vacunación y luego también tiene que pasar y escribir cada dosis única de las vacunas y la fecha en que se administró. Es ridículo. Me tomará de tres a cuatro veces más tiempo que si obtuviera una copia del registro de vacunación y lo pusiera en un sobre con un sello”.[2]

Los sistemas de computación se pueden equivocar, lo importante es saber por qué y cómo corregirlo. Debe entenderse que son errores de programación. “Ninguna máquina tiene intenciones ni las tendrán nunca”.[3] No pueden adquirir autoconsciencia unos programas que sólo saben resolver los problemas para los que están diseñados.

No debemos asumir que las computadoras siempre hacen las cosas bien. Que la tecnología siempre es la solución, es aceptar una creencia. Ha sido nuestro entusiasmo social por aplicar la tecnología informática a todos los aspectos de la vida lo que ha dado como resultado una cantidad ingente de sistemas mal diseñados.

 

 

[1] José Manuel Molina, del grupo de inteligencia artificial aplicada de la Universidad Carlos III de Madrid. En: Estupidez artificial: el problema que nadie vio venir.

[2] Hablando con Meredith Broussard. Disponible en: https://www.latimes.com/books/la-ca-jc-meredith-broussard-20180426-htmlstory.html

[3] Meredith Broussard, exprogramadora, profesora de periodismo en la Universidad de Nueva York y autora del libro Artificial Unintelligence (Estupidez artificial).

 

Comentarios

mood_bad
  • No hay comentarios todavía.
  • Agrega un comentario