Pregunta \u2013 \u00bfQu\u00e9 son los sesgos cognitivos?<\/em><\/p>\nRespuesta \u2013 Son errores sistem\u00e1ticos y predecibles, que ocurren de manera muy parecida en la mayor\u00eda de las personas, y que tienen lugar en procesos cognitivos como, por ejemplo, la atenci\u00f3n, el aprendizaje, la memoria, el razonamiento, o la toma de decisiones.<\/p>\n
P \u2013 \u00bfPor qu\u00e9 tenemos sesgos cognitivos (en lugar de una mente infalible)?<\/em><\/p>\nR \u2013 Como resultado de la selecci\u00f3n natural, estamos hechos para adaptarnos al mundo, no para ser perfectos. Si existen trucos y atajos que nos ayuden a tomar decisiones r\u00e1pidas y efectivas, los usaremos. Esos atajos son lo que llamamos heur\u00edsticos, y los sesgos son su contrapartida. Los heur\u00edsticos nos permiten tomar decisiones r\u00e1pidas, que a menudo son correctas, incluso aunque tengamos poca informaci\u00f3n, lo que nos facilita mucho las cosas. A menudo necesitar\u00edamos much\u00edsimo tiempo y energ\u00eda, de los que no siempre disponemos, para actuar considerando todos los \u00e1ngulos desde el punto de vista racional. Por ello utilizamos los heur\u00edsticos, que en general funcionan muy bien. El problema es que estos atajos no son muy racionales, sino que han sido seleccionados para ser eficaces en situaciones concretas, de modo que, en situaciones nuevas o diferentes a las habituales, es muy posible que nos lleven a una respuesta incorrecta. A grandes rasgos, ese ser\u00eda el motivo por el que afloran los sesgos.<\/p>\n
P \u2013 \u00bfPodr\u00edas describir alguno de nuestros sesgos cognitivos m\u00e1s habituales?<\/em><\/p>\nR \u2013 Existen much\u00edsimos sesgos. Podr\u00edamos hablar largo y tendido, incluso aunque nos centr\u00e1semos solo en los m\u00e1s comunes, como el de confirmaci\u00f3n, disponibilidad, consenso, causalidad\u2026 Este \u00faltimo, el sesgo de causalidad, es en el que m\u00e1s hemos trabajado desde nuestro equipo de investigaci\u00f3n (p. ej., Matute et al., 2015; Matute et al., 2019). El sesgo de causalidad consiste en creer, err\u00f3neamente, que un evento es causa de otro, lo que sucede a menudo cuando la posible causa y el posible efecto ocurren seguidos en el tiempo. Imagina que te duele la cabeza y tomas un medicamento alternativo que te han recomendado pero que, en realidad, no tiene ning\u00fan efecto. No ser\u00eda raro que, si al d\u00eda siguiente te encuentras mejor, le atribuyas el motivo de la mejor\u00eda, aunque \u00e9sta haya ocurrido por cualquier otra causa. Has desarrollado un sesgo de causa-efecto, lo que a veces puede tener consecuencias graves, por ejemplo, cuando alguien, por confiar en un medicamento inefectivo, deja de seguir el tratamiento que realmente podr\u00eda curarle.<\/p>\n
P \u2013 \u00bfHay algo que podamos hacer para minimizar nuestros sesgos cognitivos?<\/em><\/p>\nR \u2013 Lo m\u00e1s importante es ser conscientes de ellos. Si somos conscientes de que los tenemos, y en situaciones importantes nos esforzamos por pararnos a pensar y actuar despacio, creo que se pueden minimizar considerablemente. Por ejemplo, los que nos dedicamos a la investigaci\u00f3n, lo hacemos, al menos cuando estamos en el trabajo, a trav\u00e9s de lo que se conoce como \u201cm\u00e9todo cient\u00edfico\u201d. Inspirados en esta idea, nuestro equipo ha desarrollado recientemente un proyecto en colegios de toda Espa\u00f1a, en colaboraci\u00f3n con la Fundaci\u00f3n Espa\u00f1ola para la Ciencia y la Tecnolog\u00eda (Mart\u00ednez et al., 2024). La idea b\u00e1sica es ense\u00f1ar a los estudiantes, desde muy j\u00f3venes, a conocer algunos de sus propios sesgos, y a interiorizar el m\u00e9todo cient\u00edfico como herramienta de pensamiento cr\u00edtico. \u00a1Y lo mejor es que funciona! Hemos podido comprobar que aquellos estudiantes que participaron en este taller han sido m\u00e1s resistentes al sesgo de causalidad que compa\u00f1eros suyos de los mismos cursos que no lo hicieron. Tambi\u00e9n hemos comprobado que este efecto no s\u00f3lo es visible al final del taller, sino que se mantiene seis meses despu\u00e9s de terminar. Estos resultados nos animan a pensar que tambi\u00e9n es posible trabajar con otros sesgos desde el sistema educativo, de cara a ayudar a los j\u00f3venes a adquirir las herramientas necesarias para minimizar su impacto.<\/p>\n
P \u2013 Hablemos ahora de la inteligencia artificial (IAs) y sus sesgos. En t\u00e9rminos generales, \u00bfc\u00f3mo funcionan los sistemas de IA? \u00bfPodr\u00edas poner alg\u00fan ejemplo?<\/em><\/p>\nR \u2013 Esencialmente, son m\u00e1quinas que aprenden a partir de datos. Este proceso de aprendizaje puede ocurrir de distintas formas. Una de ellas es el aprendizaje por reforzamiento, en el que la IA ajusta su comportamiento a trav\u00e9s de sus interacciones con los usuarios. Por ejemplo, cada vez que hacemos clic en el video que nos recomienda una red social, estamos reforzando el algoritmo de su IA, que aprende as\u00ed qu\u00e9 tipo de contenido debe mostrarnos en el futuro para captar nuestra atenci\u00f3n y mantenernos m\u00e1s tiempo en la plataforma. Tambi\u00e9n existen el aprendizaje supervisado, donde se entrena a la IA a trav\u00e9s de casos espec\u00edficos (p. ej., ense\u00f1\u00e1ndole las respuestas correctas a determinadas preguntas), y el aprendizaje no supervisado, donde la IA identifica patrones presentes en grandes vol\u00famenes de datos (p. ej., agrupando informaci\u00f3n similar sin instrucciones expl\u00edcitas de c\u00f3mo hacerlo). Entre estos sistemas destacan los Modelos de Lenguaje Grandes, como ChatGPT, que se han vuelto muy populares en el \u00faltimo a\u00f1o debido a su capacidad de generar texto en apariencia coherente.<\/p>\n
P \u2013 En este proceso de aprendizaje, \u00bf\u201cheredan\u201d nuestros sesgos las IAs?<\/em><\/p>\nR \u2013 As\u00ed es, las IAs adquieren nuestros sesgos. Puede ser a trav\u00e9s de las personas que las dise\u00f1an, pero tambi\u00e9n a trav\u00e9s de las bases de datos que se utilizan para entrenarlas, as\u00ed como a trav\u00e9s de su trato con las personas que las utilizan.<\/p>\n
P \u2013 \u00bfQu\u00e9 clase de sesgos son comunes en las IAs?<\/em><\/p>\nR \u2013 A menudo desarrollan sesgos discriminatorios, de raza, de g\u00e9nero\u2026 que a su vez se fundamentan en otros sesgos cognitivos m\u00e1s b\u00e1sicos, como el de causalidad o el de representatividad. Por poner un ejemplo, una AI entrenada con una base de datos de un hospital que est\u00e9 sesgada (p. ej., porque tradicionalmente hayan recibido m\u00e1s y mejor tratamiento en ese hospital las personas blancas que las de otros grupos \u00e9tnicos), podr\u00eda acabar concluyendo que las personas blancas tienen m\u00e1s necesidad, o m\u00e1s urgencia, a la hora de recibir el tratamiento. El problema, adem\u00e1s, es que estos sesgos siempre se detectan a posteriori. No podemos saber si la IA que utiliza nuestra compa\u00f1\u00eda de seguros, por poner otro ejemplo, est\u00e1 sesgada en contra de las mujeres, hasta que no se publica un d\u00eda una noticia indicando que alguien sospechaba de la existencia de ese sesgo concreto en esa IA concreta, lo denunci\u00f3, y se vio que era verdad. Debemos tener en cuenta que esto va a seguir siendo as\u00ed, y estar prevenidos. No podemos dar por hecho que las IAs son neutrales y objetivas, porque no lo son.<\/p>\n
P \u2013 \u00bfPueden los humanos, a su vez, \u201cheredar\u201d sesgos de las IAs?<\/em><\/p>\nR \u2013 Efectivamente, y esto es algo que tambi\u00e9n estamos comprobando en nuestro laboratorio. Actualmente, lo establecido por ley es que cuando la IA interviene en contextos de decisiones de riesgo (p. ej., asistencia en diagn\u00f3stico m\u00e9dico o en decisiones judiciales), debe haber siempre una persona responsable en el proceso que garantice que la decisi\u00f3n es correcta y est\u00e1 libre de sesgos. Sin embargo, el problema, y lo que estamos viendo en nuestros estudios, es que las personas que trabajan con IAs sesgadas acaban siendo muy vulnerables a sus sesgos y pueden acabar reproduci\u00e9ndolos. De hecho, nuestros resultados muestran que, tras trabajar brevemente con una IA sesgada, las personas seguimos reproduciendo sus mismos errores, incluso cuando la IA ya no est\u00e1 presente (Vicente & Matute, 2024).<\/p>\n
P \u2013 Los riesgos de la IA podr\u00edan ir m\u00e1s all\u00e1 de los relacionados con sus sesgos, algo de lo que algunos expertos tambi\u00e9n est\u00e1is alertando. Sin embargo, hay quien opina que este miedo parte precisamente de un sesgo cognitivo, en este caso humano, por el cual sobreestimamos el peligro que conlleva la aparici\u00f3n de tecnolog\u00edas previamente desconocidas. Esto es algo que hemos visto en el pasado con diversos avances tecnol\u00f3gicos (como los coches, los rayos X o la electricidad). \u00bfPor qu\u00e9 la IA es distinta?<\/em><\/p>\nR \u2013 Creo que un aspecto fundamental es la regulaci\u00f3n. Cuando se inventaron los coches, empezamos a desarrollar normativas para controlar su uso, de manera que pudi\u00e9ramos aprovechar sus aspectos positivos, minimizando sus riesgos. Hoy en d\u00eda los coches est\u00e1n controlados, y, aun as\u00ed, todav\u00eda seguimos a\u00f1adiendo normas para regular su circulaci\u00f3n. Tambi\u00e9n el uso de los rayos X en los hospitales conlleva protocolos de alta seguridad, as\u00ed como la instalaci\u00f3n el\u00e9ctrica de cualquier edificio de viviendas. Lo mismo deber\u00eda ocurrir con la IA. Sin embargo, en este caso, deber\u00edamos ir incluso m\u00e1s all\u00e1, porque otro aspecto clave tiene que ver con el alcance de sus consecuencias. Yo comparo la IA con la energ\u00eda at\u00f3mica: una tecnolog\u00eda muy potente que, bien utilizada, puede suponer un enorme avance para la humanidad; no obstante, mal utilizada, tiene el potencial de destruirla. Es una tecnolog\u00eda que, adem\u00e1s, avanza a un ritmo vertiginoso, lo que supone un incentivo a\u00f1adido para regularla sin demora. Si dejamos el desarrollo de esta tecnolog\u00eda tan potente en manos de empresas interesadas en usarla en su propio beneficio, como en gran medida est\u00e1 ocurriendo hasta ahora, la humanidad puede encontrarse, y muy pronto, con problemas muy serios. Es por ello por lo que tenemos que regularla, y debemos hacerlo ya.<\/p>\n
Referencias<\/strong><\/p>\nMart\u00ednez, N., Matute, H., Blanco, F., & Barberia, I. (2024). A large-scale study and six-month follow-up of an intervention to reduce causal illusions in high school students. Royal Society Open Science<\/em>, 11, 240846.<\/p>\nMatute, H., Blanco, F., & D\u00edaz-Lago, M. (2019). Learning mechanisms underlying accurate and biased contingency judgments. Journal of Experimental Psychology: Animal Learning and Cognition<\/em>, 45, 373-389.<\/p>\nMatute, H., Blanco, F., Yarritu, I., D\u00edaz-Lago, M., Vadillo, M. A., & Barberia, I. (2015). Illusions of causality: How they bias our everyday thinking and how they could be reduced. Frontiers in Psychology<\/em>, 6:888.<\/p>\nVicente, L., & Matute, H. (2023). Humans inherit artificial intelligence biases. Scientific Reports<\/em>, 13, 15737.<\/p>\nPara saber m\u00e1s<\/strong><\/p>\nMatute, H. (2019). Nuestra mente nos enga\u00f1a: Sesgos y errores cognitivos que todos cometemos.<\/em> Shackleton books.<\/p>\nBengio, Y., Hinton, G., Yao, A., Song, D., Abbeel, P., Darrell, T., \u2026 Mindermann, S. (2024). Managing extreme AI risks amid rapid progress. Science<\/em>, 384, 842-845.<\/p>\nContacta con los autores<\/strong><\/p>\nLuis C\u00e1sedas: luis.casedas@gmail.com; Twitter\/X: @lcasedas
\nHelena Matute: matute@deusto.es; Twitter\/X: @HelenaMatute<\/p>\n
Manuscrito recibido el 30 de octubre de 2024.
\nAceptado el 3 de noviembre de 2024.<\/p>\n
\u00c9sta es la versi\u00f3n en espa\u00f1ol de
\nC\u00e1sedas, L. (2024). Cognitive biases in humans and machines: Interview with Helena Matute. Ciencia Cognitiva,<\/em> 18:3, 47-50.<\/p>\n","protected":false},"excerpt":{"rendered":"Luis C\u00e1sedas Dept. de Psicolog\u00eda B\u00e1sica, Universidad Aut\u00f3noma de Madrid, Espa\u00f1a Helena Matute es catedr\u00e1tica de Psicolog\u00eda Experimental en la …<\/span> Read More →<\/span><\/a><\/span><\/p>\n","protected":false},"author":4,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[23,5,512,3],"tags":[791,136,519,191],"class_list":["post-2445","post","type-post","status-publish","format-standard","hentry","category-entrevistas","category-inteligenciaartificial","category-multilingue","category-psicologia","tag-ayudantes-inteligentes","tag-razonamiento","tag-sesgos-cognitivos","tag-toma-de-decisiones"],"_links":{"self":[{"href":"https:\/\/www.cienciacognitiva.org\/index.php?rest_route=\/wp\/v2\/posts\/2445","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.cienciacognitiva.org\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.cienciacognitiva.org\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.cienciacognitiva.org\/index.php?rest_route=\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/www.cienciacognitiva.org\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=2445"}],"version-history":[{"count":4,"href":"https:\/\/www.cienciacognitiva.org\/index.php?rest_route=\/wp\/v2\/posts\/2445\/revisions"}],"predecessor-version":[{"id":2452,"href":"https:\/\/www.cienciacognitiva.org\/index.php?rest_route=\/wp\/v2\/posts\/2445\/revisions\/2452"}],"wp:attachment":[{"href":"https:\/\/www.cienciacognitiva.org\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=2445"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.cienciacognitiva.org\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=2445"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.cienciacognitiva.org\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=2445"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}
![\"(cc)](\"http:\/\/www.cienciacognitiva.org\/files\/2024-28-cc-HelenaMatute.jpg\")