{"id":2687,"date":"2024-04-30T08:00:40","date_gmt":"2024-04-30T07:00:40","guid":{"rendered":"https:\/\/blogs.diariovasco.com\/ekonomiaren-plaza\/?p=2687"},"modified":"2024-04-23T15:00:46","modified_gmt":"2024-04-23T14:00:46","slug":"usoria","status":"publish","type":"post","link":"https:\/\/blogs.diariovasco.com\/ekonomiaren-plaza\/2024\/04\/30\/usoria\/","title":{"rendered":"El uso responsable de la IA generativa en las organizaciones"},"content":{"rendered":"<p><a href=\"https:\/\/twitter.com\/jonmizabala?lang=en\" target=\"_blank\" rel=\"noopener external nofollow\">@jonmizabala<\/a><\/p>\n<p>La Inteligencia Artificial Generativa (IAG) y, en particular, los Modelos de Lenguaje de Gran Escala han experimentado un crecimiento exponencial en los \u00faltimos a\u00f1os. Es cierto que estas tecnolog\u00edas ofrecen oportunidades significativas para las empresas. Sin embargo, no es menos cierto que plantean a su vez una serie de dudas regulatorias, \u00e9ticas y de sesgos, y que requieren de una reflexi\u00f3n cuidadosa. Esto motiv\u00f3 a la <a href=\"https:\/\/cotec.es\/la-fundacion\/\" target=\"_blank\" rel=\"noopener external nofollow\">Fundaci\u00f3n COTEC para la innovaci\u00f3n<\/a> a crear un grupo de trabajo que ha analizado y debatido acerca del valor y del riesgo de estas tecnolog\u00edas en el d\u00eda a d\u00eda de las empresas. Como resultado de dicho <a href=\"https:\/\/cotec.es\/proyectos-cpt\/uso-responsable-de-la-inteligencia-artificial-generativa\/\" target=\"_blank\" rel=\"noopener external nofollow\">trabajo<\/a> se han identificado seis aspectos clave a la hora de introducir la IAG en contextos empresariales: (1) identificar qu\u00e9 casos de uso de IAG son susceptibles de ser implantados; (2) evaluar si la organizaci\u00f3n est\u00e1 preparada para el uso de la IAG; (3) necesidad de crear un ecosistema de socios y proveedores; (4) gestionar la exposici\u00f3n al riesgo; (5) comprender los modelos financieros de facturaci\u00f3n vinculados a la IAG; y (6) saber c\u00f3mo escalar y mantener los casos de uso de la IAG en el tiempo.<\/p>\n<p>Al igual que en cualquier otro proceso, es imprescindible identificar en primer lugar los objetivos que se persiguen con la introducci\u00f3n de la IAG en la estrategia empresarial (i.e. su prop\u00f3sito). La IAG representa un paso m\u00e1s en el proceso de digitalizaci\u00f3n de cualquier organizaci\u00f3n, y su abordaje debe resultar coherente con la estrategia. Por tanto, su (potencial) introducci\u00f3n requiere un an\u00e1lisis previo para detectar necesidades existentes dentro de la organizaci\u00f3n, y una visi\u00f3n prospectiva de la contribuci\u00f3n que dichas tecnolog\u00edas pueden representar en el medio y largo plazo. En este sentido, es importante considerar tambi\u00e9n al consumidor\/cliente, ya que la predisposici\u00f3n de los usuarios finales a utilizar la IAG puede variar en cada caso.<\/p>\n<p>La mayor parte de los procesos de adopci\u00f3n de nuevas tecnolog\u00edas requieren de la b\u00fasqueda de socios tecnol\u00f3gicos especializados en las mismas, y la IAG no es una excepci\u00f3n. Cada organizaci\u00f3n deber\u00e1 estimar la idoneidad de las varias opciones disponibles (p.e. Amazon, Google, IBM, Microsoft, NIVIDIA, OpenAI) en funci\u00f3n de la complejidad de sus necesidades. Uno de los aspectos clave a la hora de evaluar la idoneidad de cada soluci\u00f3n es entender y prever los posibles escenarios de costes de licenciamiento y mantenimiento vinculados a la plataforma de IAG que se seleccione. En este sentido, es necesario considerar la capacidad de reacci\u00f3n que tendr\u00e1 la organizaci\u00f3n a la hora de escalar su soluci\u00f3n (p.e. m\u00e1s usuarios, m\u00e1s ubicaciones, m\u00e1s velocidad), en caso de que \u00e9sta sea satisfactoria, ya que ello tendr\u00e1 un impacto directo sobre los costes de licenciamiento de la IAG. De igual modo, es importante haber previsto y fijado las condiciones de mantenimiento de los casos de uso ante la eventualidad de necesidad escalar, tanto a nivel interno como externo.<\/p>\n<p>Asimismo, es necesario llevar a cabo una evaluaci\u00f3n de los riesgos que implican estos cambios, teniendo en cuenta que la transformaci\u00f3n ser\u00e1 mayor cuanto menor sea el punto de partida desde la perspectiva de la digitalizaci\u00f3n. En este sentido, la organizaci\u00f3n deber\u00e1 haber definido c\u00f3mo se cubrir\u00e1n los requisitos legales e identificar si es necesario modificar alg\u00fan proceso o tecnolog\u00eda preexistente antes de la implantaci\u00f3n de los casos de uso de la IAG.<\/p>\n<p>El documento identifica casos de \u00e9xito en diferentes sectores: entretenimiento, formaci\u00f3n, salud, marketing, atenci\u00f3n al cliente, fabricaci\u00f3n y tecnolog\u00edas de la informaci\u00f3n, y legal. De ellos se emanan una serie de recomendaciones a considerar por aquellas organizaciones que est\u00e9n considerando la adopci\u00f3n, adaptaci\u00f3n y\/o el desarrollo interno de soluciones de IAG.<\/p>\n<ul>\n<li>Precisi\u00f3n en los resultados: la precisi\u00f3n es un factor cr\u00edtico para que organizaciones y consumidores conf\u00eden en estos modelos para brindarles un servicio fiel y evitar malas interpretaciones. Para ello, puede resultar interesante combinar las salidas de los modelos con otras herramientas para evitar respuestas \u201calucinatorias\u201d.<\/li>\n<li>Seguridad de la herramienta: resulta fundamental garantizar la integridad, privacidad, confidencialidad y disponibilidad de los datos y procesos empleados en la generaci\u00f3n de contenido. Ello requiere desplegar filtros para proteger y mejorar la seguridad de los datos, y reforzar las pol\u00edticas de ciberseguridad.<\/li>\n<li>Equidad e imparcialidad: uno de los riesgos derivados de la IAG es que los resultados que arroja la herramienta contengan desviaciones manifiestas que puedan ocasionar problemas de, por ejemplo, falta de representaci\u00f3n de determinados colectivos, contenidos, o tipos de informaciones. Por ello, es importante identificar con antelaci\u00f3n los posibles sesgos que puedan generar los modelos de los proveedores de este tipo de servicios.<\/li>\n<li>Propiedad intelectual: se trata de uno de los principales riesgos derivados de la IAG, ya que, en muchas ocasiones, no resulta posible conocer si ha habido un uso consentido de los datos de terceros empleados en el entrenamiento de la herramienta. Esto puede derivar en que, al explotar los resultados ofrecidos por la herramienta, los usuarios puedan infringir derechos de terceros. Para poder mitigar este riesgo es necesario conocer el origen de la base de datos\/activos protegibles de los que se nutre la herramienta (i.e. transparencia y trazabilidad).<\/li>\n<li>Responsabilidad: en la mayor\u00eda de los casos, las herramientas de IAG se licencian con exenciones de responsabilidad sobre las posibles consecuencias negativas que su uso pueda provocar. Por tanto, la organizaci\u00f3n deber\u00e1 responder por cualesquiera consecuencias negativas que el uso de dicha tecnolog\u00eda genere sobre sus clientes\/consumidores, lo que en determinados sectores (p.e. veh\u00edculos aut\u00f3nomos) puede implicar la asunci\u00f3n de un riesgo sustancial. Por tanto, es necesario analizar el grado de responsabilidad que el propietario de la herramienta quiere asumir, en relaci\u00f3n con las posibles consecuencias negativas que puedan derivarse del uso de la IAG en sus procesos.<\/li>\n<li>Gesti\u00f3n del talento: el uso de herramientas de IAG en una organizaci\u00f3n puede tener diversos impactos y riesgos para las personas que la conforman, como, por ejemplo, el efecto sustituci\u00f3n derivado de la automatizaci\u00f3n, el cambio en las funciones laborales, la necesidad de la formaci\u00f3n, el impacto sobre la creatividad y el trabajo en equipo, la privacidad, la \u00e9tica, la necesidad de supervisi\u00f3n humana o la resistencia al cambio.<\/li>\n<\/ul>\n<p>La importancia de acometer las anteriores recomendaciones parece que va a ser creciente, dadas las estrategias que est\u00e1n adoptando algunos de los proveedores de este tipo de servicios de IAG. El pasado 18 de Abril, en la <a href=\"https:\/\/www.reuters.com\/technology\/meta-releases-early-versions-its-llama-3-ai-model-2024-04-18\/\" target=\"_blank\" rel=\"noopener external nofollow\">presentaci\u00f3n<\/a> de Llama 3, la \u00faltima versi\u00f3n de su modelo de IA, Meta revel\u00f3 que Llama 3 estar\u00e1 disponible en abierto. Es decir, que cualquier usuario\/organizaci\u00f3n podr\u00e1 descargarse el modelo de Meta y ejecutarlo en local. El hecho de que las empresas proveedoras de IAG muestren una tendencia hacia la oferta de dichos servicios de manera privativa, conllevar\u00e1n una democratizaci\u00f3n de los servicios asociados a la IA y una menor dependencia de las grandes tecnol\u00f3gicas. Crear un marco de trabajo que permita incorporar la IA dentro de las organizaciones pasa por la creaci\u00f3n de una diversidad de perfiles, entre los que cabe destacar: IA Strategist, IA Generator, IA Support, Data Owner, Data Steward, o Citizen IAG Generador. Nada sencillo, pero totalmente necesario, si queremos resultar competitivos en un mundo cada vez m\u00e1s digitalizado.<\/p>\n<p>Como dec\u00eda Spiderman\u2026 \u201ctodo gran poder, conlleva una gran responsabilidad\u201d.<\/p>\n<p>Puedes seguirme en Twitter: <a href=\"https:\/\/twitter.com\/jonmizabala?lang=en\" target=\"_blank\" rel=\"noopener external nofollow\">@jonmizabala<\/a><\/p>\n<p>&nbsp;<\/p>\n<!-- AddThis Advanced Settings generic via filter on the_content --><!-- AddThis Share Buttons generic via filter on the_content -->","protected":false},"excerpt":{"rendered":"<p>@jonmizabala La Inteligencia Artificial Generativa (IAG) y, en particular, los Modelos de Lenguaje de Gran Escala han experimentado un crecimiento exponencial en los \u00faltimos a\u00f1os. Es cierto que estas tecnolog\u00edas ofrecen oportunidades significativas para las empresas. Sin embargo, no es menos cierto que plantean a su vez una serie de dudas regulatorias, \u00e9ticas y de [&hellip;]<!-- AddThis Advanced Settings generic via filter on get_the_excerpt --><!-- AddThis Share Buttons generic via filter on get_the_excerpt --><\/p>\n","protected":false},"author":70,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":[],"categories":[1],"tags":[],"_links":{"self":[{"href":"https:\/\/blogs.diariovasco.com\/ekonomiaren-plaza\/wp-json\/wp\/v2\/posts\/2687"}],"collection":[{"href":"https:\/\/blogs.diariovasco.com\/ekonomiaren-plaza\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blogs.diariovasco.com\/ekonomiaren-plaza\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blogs.diariovasco.com\/ekonomiaren-plaza\/wp-json\/wp\/v2\/users\/70"}],"replies":[{"embeddable":true,"href":"https:\/\/blogs.diariovasco.com\/ekonomiaren-plaza\/wp-json\/wp\/v2\/comments?post=2687"}],"version-history":[{"count":2,"href":"https:\/\/blogs.diariovasco.com\/ekonomiaren-plaza\/wp-json\/wp\/v2\/posts\/2687\/revisions"}],"predecessor-version":[{"id":2689,"href":"https:\/\/blogs.diariovasco.com\/ekonomiaren-plaza\/wp-json\/wp\/v2\/posts\/2687\/revisions\/2689"}],"wp:attachment":[{"href":"https:\/\/blogs.diariovasco.com\/ekonomiaren-plaza\/wp-json\/wp\/v2\/media?parent=2687"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blogs.diariovasco.com\/ekonomiaren-plaza\/wp-json\/wp\/v2\/categories?post=2687"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blogs.diariovasco.com\/ekonomiaren-plaza\/wp-json\/wp\/v2\/tags?post=2687"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}