Aversión al algoritmo: ¿qué es y cómo solucionarla?

aversión al riesgo, inteligencia artificial

La inteligencia artificial es de gran utilidad, pero es importante comprender cómo interactuamos con los algoritmos para maximizar sus beneficios. Especialmente, atención con la aversión al algoritmo.

Algunos meses atrás, profesionales de la salud de la primera línea del Centro Médico de Stanford, en Estados Unidos, protestaban por no haber sido escogidos en la primera ronda de vacunación contra el covid-19. Inicialmente, pocos profesionales en contacto directo con los pacientes habían sido seleccionados. Los encargados del proceso culparon a un algoritmo que no utilizaba desarrollos complejos de inteligencia artificial (IA).

Muchas veces estos algoritmos simples son suficientes, pero en este caso el desarrollo inicial había dado mucho peso a la edad de los trabajadores y muy poco a la real exposición al virus. Así, el algoritmo estaba cometiendo errores en la priorización.

Seguramente, luego de algunos ajustes, se podría reprogramar el algoritmo para que priorice de mejor forma.
¿Pero estarán dispuestas las personas a seguir utilizándolo?

¿Qué es la aversión al algoritmo?

Cuando el que se equivoca es un algoritmo no perdonamos fácilmente y dejamos de utilizar el sistema. En la academia, este fenómeno se conoce como aversión a los algoritmos por Berkeley Dietvorst y sus colegas en 2015.

Formalmente, se entiende por aversión al algoritmo como la preferencia por un humano por sobre un algoritmo, a pesar de que normalmente los algoritmos obtienen mejores resultados que las personas a la hora de predecir.

Los autores de este artículo, junto al profesor Edgar E. Kausel, y con el apoyo de Fondecyt (No 1211367), ratifican el fenómeno de la aversión a recomendaciones algorítmicas en una investigación longitudinal donde se pronostican variables financieras y climáticas.

¿Cómo superar la aversión al algoritmo?

Hay tres formas principales de superar la aversión a los algoritmos.

1. Manejar las expectativas

La primera tiene que ver con las expectativas que tenemos de los algoritmos y la IA. Lo justo no es esperar que los algoritmos nos den una predicción perfecta, sino que simplemente entreguen una predicción mejor a la que utilizamos en la actualidad.

2. Entregar algún nivel de control a las personas

Una segunda forma de reducir la aversión es dando algún nivel de control a las personas que toman las decisiones, permitiendo que sus criterios influyan en las recomendaciones algorítmicas.

La sutileza, en este caso, es que la influencia humana no sea tan significativa, para que no empeore la predicción del algoritmo, pero que permita a las personas sentirse más satisfechas con el proceso.

3. Utilizar algoritmos “humanizados”

Por último, basado en conceptos de antropomorfismo, se ha visto que las personas son más propensas a confiar y utilizar algoritmos que exhiben características similares a las propias. Muchas empresas intentan “humanizar” las plataformas de interacción con sus clientes o empleados, tratando de atenuar un posible rechazo.

 

Más de alguno de nosotros ha seguido su instinto, escogiendo una ruta alternativa a la que ofrece Waze o Google Maps; y ha llegado más tarde a destino. Un ejemplo más de cómo la aversión a los algoritmos nos puede perjudicar.

 

Profesores ayudantes de este curso, alumnos del Magíster en Ingeniería UC: Rosario Vinagre, Felipe Cabrera, Matthias Fröhlich y Sebastián Ortiz.

 

Este artículo se basa en otro publicado originalmente en la página de Clase Ejecutiva UC en el diario El Mercurio. Descarga el PDF aquí, luego de completar unos datos.  

 

Actualízate con el curso sobre inteligencia artificial en los negocios (online) de Clase Ejecutiva UC. 





¿Te gustó? Compártelo en tus redes [addtoany]

Artículos más recientes del autor