El sentido común como antídoto

Las empresas que actualmente implementan o planean implementar la inteligencia artificial (IA) como parte de sus procesos de toma de decisiones deben comprender los riesgos inherentes al uso de algoritmos, y estar preparadas para hacer uso de los mismos.

Una encuesta concluye que el pequeño grupo que lidera el campo de la AI, podría utilizar la capacidad de autoaprendizaje de la IA para continuar aumentando su liderazgo. Esta proyección contribuye a incrementar la brecha de desigualdad entre riqueza y pobreza.

El desafío para la Empresas Privada y los Estados es, cerrar esta brecha antes de que se vuelva insuperable. Pero, intentar avanzar implementando inteligencia artificial de “fuerza bruta”, podía significar asumir un gran riesgo.

¿Por qué?

Los modelos de decisión impulsados ​​por IA están diseñados para maximizar una función objetiva; ya sea para optimizar el margen, minimizar el inventario o alcanzar cualquier número de objetivos comerciales. Pero están desprovistos de corazón y alma, es decir, de una interpretación cualitativa de los grandes datos. Estos algoritmos basarán sus decisiones solo en números, con consecuencias a veces terribles.

¿Por ejemplo?

Tres resultados reales de decisiones comerciales dictadas por IA, pero no gestionados por humanos:

1. Varios minoristas han quedado atrapados por algoritmos diseñados para administrar los precios y maximizar los márgenes a corto plazo. Los algoritmos fueron diseñados para evaluar la sensibilidad a los precios de las tiendas minoristas individuales. Aquellos lugares donde la demanda de productos no se vio relativamente afectada por el aumento de los precios se consideraron maduros para una serie de aumentos de precios. El problema fue que las tiendas que seleccionó el algoritmo estaban en barrios pobres. Cuando se supo que las compañías estaban subiendo los precios para sus clientes más pobres, la reacción de los medios fue dura. Cada una de las compañías abandonó rápidamente los aumentos de precios, pero no antes de que se hiciera daño a su reputación. Si alguna de las compañías hubiera instituido un proceso que incluyera una revisión humana de las decisiones de AI, este acontecimiento podría haberse evitado.
2. Un motor de inteligencia artificial creado por un minorista de moda fue diseñado para identificar a qué elementos respondería más positivamente un cliente determinado. Incluso con algoritmos totalmente imparciales, el minorista descubrió que el motor de inteligencia artificial no significaba las modas de los miembros de grupos étnicos específicos. El riesgo para el minorista es que este tipo de selección puede parecer compatible con los estereotipos.
3. Sobre la base de un análisis de IA de la secuencia de tratamientos médicos de cada cliente individual, una aseguradora de salud comenzó un programa que ofrece servicios especiales a los clientes con más probabilidades de ser admitidos en el hospital. Cuando la aseguradora comenzó a proponer estos servicios a clientes seleccionados, el personal del centro de llamadas se dio cuenta de que algunos pacientes aún no sabían que, de hecho, era más probable que necesitaran atención hospitalaria. La implementación insuficiente y reflexiva del motor de AI obligó al personal de la aseguradora a tener que explicar a los clientes por qué se les ofrecía servicios hospitalarios, que no sabían que necesitarían.

¿Cómo se estabiliza esta situación?

De hecho, se trata de recuperar el control. Lo importante es quién lo perdió y cómo y quién lo recupera y cómo.

Las metas que los líderes establecen, a menudo toman la forma de objetivos que no tienen en cuenta las condiciones del mundo real. Son los miembros más experimentados del equipo, los que retoman las riendas del asunto y emplean el sentido común, la ética y los valores morales, para alcanzar la meta.

Los algoritmos están carentes de sentido común o principios morales. Por tanto, la IA no puede ajustar sus decisiones a la ambigüedad del mundo real. Sin restricciones, los algoritmos son capaces de arrojar millones de decisiones inapropiadas de manera rápida. La autodeterminación de la IA, representa un riesgo con cada decisión para la rentabilidad de una empresa o la reputación de un país.

---