{"id":2377,"date":"2023-05-09T08:00:43","date_gmt":"2023-05-09T07:00:43","guid":{"rendered":"https:\/\/blogs.diariovasco.com\/ekonomiaren-plaza\/?p=2377"},"modified":"2023-05-02T19:41:02","modified_gmt":"2023-05-02T18:41:02","slug":"legitimidiad","status":"publish","type":"post","link":"https:\/\/blogs.diariovasco.com\/ekonomiaren-plaza\/2023\/05\/09\/legitimidiad\/","title":{"rendered":"\u00bfSon leg\u00edtimas las decisiones tomadas por algoritmos?"},"content":{"rendered":"<p><a href=\"https:\/\/twitter.com\/jonmizabala?lang=en\" target=\"_blank\" rel=\"noopener external nofollow\">@jonmizabala<\/a><\/p>\n<p>Como todos nuestros lectores conocer\u00e1n a estas alturas, ChatGPT ha entrado en el debate p\u00fablico con una fuerza enorme, y no hay d\u00eda en el que no salga alguna noticia vinculada con el desarrollo y aplicaci\u00f3n de la inteligencia artificial a nivel empresarial. La inteligencia artificial resulta fundamental para las empresas, ya que \u00e9stas deben emplear algoritmos de forma constante para tomar m\u00faltiples tipos de decisiones tanto comerciales como de gesti\u00f3n (p.e., seguimiento de productos de manera individualizada en las cadenas de valor, identificaci\u00f3n de defectos, procesos de contrataci\u00f3n y de promoci\u00f3n, toma de decisiones en banca, b\u00fasqueda de pareja, publicidad, oferta de ocio y de informaci\u00f3n en plataformas). Mis compa\u00f1eros de Ekonomiaren Plaza, al leer una versi\u00f3n previa de este post hace una semana me preguntaron si existe alguna estimaci\u00f3n acerca de qu\u00e9 % de decisiones son tomadas por algoritmos a d\u00eda de hoy. Como no ten\u00eda la respuesta, en lugar de ponerme a hacer la b\u00fasqueda, acud\u00ed a ChatGPT a preguntarle, y aqu\u00ed ten\u00e9is la respuesta que me dio.<\/p>\n<ul>\n<li>\u201c\u00bfQu\u00e9 % de decisiones son tomadas por algoritmos actualmente?\u201d<\/li>\n<li>ChatGPT: \u201cEs dif\u00edcil dar una respuesta precisa a esta pregunta, ya que depende de muchos factores, como el tipo de decisi\u00f3n que se est\u00e9 tomando, la industria o el sector en cuesti\u00f3n, y la ubicaci\u00f3n geogr\u00e1fica. En general, se puede decir que cada vez m\u00e1s decisiones est\u00e1n siendo tomadas por algoritmos y sistemas automatizados en una amplia variedad de campos, desde la banca y las finanzas hasta la salud y la educaci\u00f3n.\u201d<\/li>\n<\/ul>\n<p>En este sentido, cada vez son m\u00e1s las voces que argumentan que los sistemas de toma de decisi\u00f3n basados en algoritmia pueden resultar menos \u00e9ticos que los procesos de toma de decisi\u00f3n exclusivamente humanos.\u00a0Por ejemplo, <a href=\"https:\/\/www.eticasconsulting.com\/\" target=\"_blank\" rel=\"noopener external nofollow\">Eticas<\/a>, una consultora especializada en auditor\u00edas algor\u00edtmicas, fundada por <a href=\"https:\/\/www.businessinsider.es\/hay-auditar-algoritmos-experta-gemma-galdon-777197\" target=\"_blank\" rel=\"noopener external nofollow\">Gemma Gald\u00f3n<\/a>, una de las mayores especialistas en Espa\u00f1a de este \u00e1mbito, puso en marcha en 2021 el Observatorio de Algoritmos de Impacto Social (<a href=\"https:\/\/airtable.com\/shrsAN2oTf68kM6O9\/tblG2604tSoMOcwWX?backgroundColor=teal&amp;viewControls=on\" target=\"_blank\" rel=\"noopener external nofollow\">OASI<\/a>), en el que se detallan una serie de sistemas ya desplegados por pa\u00edses, por fines y por principales riesgos.<\/p>\n<p>El art\u00edculo 22 del <a href=\"https:\/\/www.boe.es\/doue\/2016\/119\/L00001-00088.pdf\" target=\"_blank\" rel=\"noopener external nofollow\">Reglamento General de Protecci\u00f3n de Datos de la Uni\u00f3n Europea<\/a> impone restricciones a las empresas privadas que emplean algoritmos sin intervenci\u00f3n humana para tomar decisiones que tienen efectos significativos en las personas. Seg\u00fan dicho reglamento, las empresas pueden emplear estos sistemas algor\u00edtmicos para la toma de decisiones, pero solo si adoptan \u201cmedidas adecuadas para salvaguardar los derechos y libertades del interesado y sus derechos leg\u00edtimos\u201d, lo que podr\u00eda incluir \u201cal menos el derecho a obtener la intervenci\u00f3n humana\u2026, a expresar su punto de vista y a impugnar la decisi\u00f3n\u201d.<\/p>\n<p>Un <a href=\"https:\/\/link.springer.com\/article\/10.1007\/s10551-021-05032-7\" target=\"_blank\" rel=\"noopener external nofollow\">estudio<\/a> reciente ha analizado bajo qu\u00e9 circunstancias, si las hay, se consideran leg\u00edtimos los sistemas algor\u00edtmicos de toma de decisiones, una pregunta que tiene unas repercusiones fundamentales tanto para la \u00e9tica como para la gesti\u00f3n empresarial. Los autores del estudio emplearon la metodolog\u00eda de encuesta de vi\u00f1etas factoriales para explorar la importancia relativa de la gobernanza, el procedimiento y los resultados en la legitimidad percibida de las decisiones basadas en los sistemas algor\u00edtmicos de toma de decisiones de una empresa. Una encuesta de vi\u00f1eta factorial presenta a los encuestados una serie de escenarios en los que se var\u00edan sistem\u00e1ticamente varios factores en la vi\u00f1eta, de manera que los encuestados ofrecen una valoraci\u00f3n espec\u00edfica a cada escenario.\u00a0La siguiente tabla ilustra algunos de los criterios que emplearon en las vi\u00f1etas consideradas en esta investigaci\u00f3n.<\/p>\n<table style=\"height: 892px;\" width=\"619\">\n<tbody>\n<tr>\n<td width=\"85\"><strong>Decisiones<\/strong><\/td>\n<td width=\"215\"><strong>Individuales<\/strong><\/td>\n<td width=\"270\"><strong>Grupales<\/strong><\/td>\n<\/tr>\n<tr>\n<td width=\"85\">Anuncios<\/td>\n<td width=\"215\">Los anuncios que un usuario ve cuando hace una b\u00fasqueda<\/td>\n<td width=\"270\">Los anuncios que una comunidad ve cuando hace una b\u00fasqueda<\/td>\n<\/tr>\n<tr>\n<td width=\"85\">Noticias<\/p>\n<p>&nbsp;<\/td>\n<td width=\"215\">Qu\u00e9 noticias se le muestran a un usuario online<\/td>\n<td width=\"270\">Qu\u00e9 noticias se le muestran a una comunidad online<\/td>\n<\/tr>\n<tr>\n<td width=\"85\">Contrataci\u00f3n<\/p>\n<p>&nbsp;<\/td>\n<td width=\"215\">Si alguien es contratado por una empresa<\/td>\n<td width=\"270\">Qu\u00e9 personas son contratadas por empresas<\/td>\n<\/tr>\n<tr>\n<td width=\"85\">Seguros<\/p>\n<p>&nbsp;<\/td>\n<td width=\"215\">Si las reclamaciones de seguro de un usuario son pagadas por su compa\u00f1\u00eda de seguros<\/td>\n<td width=\"270\">A qu\u00e9 personas les pagan las compa\u00f1\u00edas de seguros las reclamaciones<\/td>\n<\/tr>\n<tr>\n<td width=\"85\">Banca<\/p>\n<p>&nbsp;<\/td>\n<td width=\"215\">Si alguien recibe un pr\u00e9stamo bancario<\/td>\n<td width=\"270\">De qu\u00e9 personas son aprobados los pr\u00e9stamos bancarios<\/td>\n<\/tr>\n<tr>\n<td width=\"85\">Precios<\/td>\n<td width=\"215\">Si a alguien en l\u00ednea se le muestra un precio m\u00e1s alto en funci\u00f3n de su disposici\u00f3n a pagar<\/td>\n<td width=\"270\">A qu\u00e9 individuos se les muestra un precio m\u00e1s alto en l\u00ednea seg\u00fan su disposici\u00f3n a pagar<\/td>\n<\/tr>\n<tr>\n<td width=\"85\">Movilidad<\/td>\n<td width=\"215\">Cu\u00e1l es el precio que se le carga a un usuario por usar Uber\/Lyft<\/td>\n<td width=\"270\">\u00a0Cu\u00e1les son las diferencias en precio que se le carga a cada usuario por usar Uber\/Lyft<\/td>\n<\/tr>\n<tr>\n<td width=\"85\">Alojamiento<\/td>\n<td width=\"215\">Los apartamentos que un usuario ve cuando hace una b\u00fasqueda<\/td>\n<td width=\"270\">Los apartamentos que una comunidad ve cuando hace una b\u00fasqueda<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<p>Los resultados del estudio evidencian que a medida que aumenta la importancia de la decisi\u00f3n, la percepci\u00f3n de los individuos sobre la legitimidad de usar un algoritmo para la toma de decisi\u00f3n disminuye. Es decir, cuando se trata de decisiones no fundamentales, los participantes en el estudio consideraron que las decisiones tomadas por una inteligencia artificial pod\u00edan resultar leg\u00edtimas. A su vez, el estudio tambi\u00e9n revela que la legitimidad de la toma de decisi\u00f3n est\u00e1 asociada con la obtenci\u00f3n de un buen resultado.<\/p>\n<p>Los resultados del estudio tambi\u00e9n apuntan a que muchos de los mecanismos de gobernanza procesal que se emplean en la pr\u00e1ctica, como el hecho de avisar con antelaci\u00f3n que la decisi\u00f3n est\u00e1 siendo tomada por un sistema no humano, no conducen a que las decisiones algor\u00edtmicas se perciban como m\u00e1s leg\u00edtimas. Sin embargo, una gobernanza s\u00f3lida, por ejemplo, basada en procesos de apelaci\u00f3n contra la propia tecnolog\u00eda, puede conducir a una mayor percepci\u00f3n de legitimidad. En este sentido, seg\u00fan los autores del estudio, resulta parad\u00f3jico observar c\u00f3mo el uso de un proceso de apelaci\u00f3n proporciona una legitimidad cuando el sistema adopta una decisi\u00f3n que los participantes consideraron como mala, pero sin embargo, el uso de un proceso de apelaci\u00f3n no tuvo ning\u00fan efecto sobre la legitimidad de las decisiones algor\u00edtmicas cuando se ofrec\u00edan buenos resultados.<\/p>\n<p>No es f\u00e1cil predecir la evoluci\u00f3n que estos sistemas inteligentes van a tener en el corto plazo, pero lo que s\u00ed parece ineludible es que deberemos afrontar un debate acerca de la \u00e9tica de la sociedad, y de los sesgos que existen en la misma. Nos sigue quedando mucho trabajo por delante.<\/p>\n<p>Puedes seguirme en Twitter: <a href=\"https:\/\/twitter.com\/jonmizabala?lang=en\" target=\"_blank\" rel=\"noopener external nofollow\">@jonmizabala<\/a><\/p>\n<!-- AddThis Advanced Settings generic via filter on the_content --><!-- AddThis Share Buttons generic via filter on the_content -->","protected":false},"excerpt":{"rendered":"<p>@jonmizabala Como todos nuestros lectores conocer\u00e1n a estas alturas, ChatGPT ha entrado en el debate p\u00fablico con una fuerza enorme, y no hay d\u00eda en el que no salga alguna noticia vinculada con el desarrollo y aplicaci\u00f3n de la inteligencia artificial a nivel empresarial. La inteligencia artificial resulta fundamental para las empresas, ya que \u00e9stas [&hellip;]<!-- AddThis Advanced Settings generic via filter on get_the_excerpt --><!-- AddThis Share Buttons generic via filter on get_the_excerpt --><\/p>\n","protected":false},"author":70,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":[],"categories":[1],"tags":[],"_links":{"self":[{"href":"https:\/\/blogs.diariovasco.com\/ekonomiaren-plaza\/wp-json\/wp\/v2\/posts\/2377"}],"collection":[{"href":"https:\/\/blogs.diariovasco.com\/ekonomiaren-plaza\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blogs.diariovasco.com\/ekonomiaren-plaza\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blogs.diariovasco.com\/ekonomiaren-plaza\/wp-json\/wp\/v2\/users\/70"}],"replies":[{"embeddable":true,"href":"https:\/\/blogs.diariovasco.com\/ekonomiaren-plaza\/wp-json\/wp\/v2\/comments?post=2377"}],"version-history":[{"count":12,"href":"https:\/\/blogs.diariovasco.com\/ekonomiaren-plaza\/wp-json\/wp\/v2\/posts\/2377\/revisions"}],"predecessor-version":[{"id":2380,"href":"https:\/\/blogs.diariovasco.com\/ekonomiaren-plaza\/wp-json\/wp\/v2\/posts\/2377\/revisions\/2380"}],"wp:attachment":[{"href":"https:\/\/blogs.diariovasco.com\/ekonomiaren-plaza\/wp-json\/wp\/v2\/media?parent=2377"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blogs.diariovasco.com\/ekonomiaren-plaza\/wp-json\/wp\/v2\/categories?post=2377"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blogs.diariovasco.com\/ekonomiaren-plaza\/wp-json\/wp\/v2\/tags?post=2377"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}