@jonmizabala

La Inteligencia Artificial Generativa (IAG) y, en particular, los Modelos de Lenguaje de Gran Escala han experimentado un crecimiento exponencial en los últimos años. Es cierto que estas tecnologías ofrecen oportunidades significativas para las empresas. Sin embargo, no es menos cierto que plantean a su vez una serie de dudas regulatorias, éticas y de sesgos, y que requieren de una reflexión cuidadosa. Esto motivó a la Fundación COTEC para la innovación a crear un grupo de trabajo que ha analizado y debatido acerca del valor y del riesgo de estas tecnologías en el día a día de las empresas. Como resultado de dicho trabajo se han identificado seis aspectos clave a la hora de introducir la IAG en contextos empresariales: (1) identificar qué casos de uso de IAG son susceptibles de ser implantados; (2) evaluar si la organización está preparada para el uso de la IAG; (3) necesidad de crear un ecosistema de socios y proveedores; (4) gestionar la exposición al riesgo; (5) comprender los modelos financieros de facturación vinculados a la IAG; y (6) saber cómo escalar y mantener los casos de uso de la IAG en el tiempo.

Al igual que en cualquier otro proceso, es imprescindible identificar en primer lugar los objetivos que se persiguen con la introducción de la IAG en la estrategia empresarial (i.e. su propósito). La IAG representa un paso más en el proceso de digitalización de cualquier organización, y su abordaje debe resultar coherente con la estrategia. Por tanto, su (potencial) introducción requiere un análisis previo para detectar necesidades existentes dentro de la organización, y una visión prospectiva de la contribución que dichas tecnologías pueden representar en el medio y largo plazo. En este sentido, es importante considerar también al consumidor/cliente, ya que la predisposición de los usuarios finales a utilizar la IAG puede variar en cada caso.

La mayor parte de los procesos de adopción de nuevas tecnologías requieren de la búsqueda de socios tecnológicos especializados en las mismas, y la IAG no es una excepción. Cada organización deberá estimar la idoneidad de las varias opciones disponibles (p.e. Amazon, Google, IBM, Microsoft, NIVIDIA, OpenAI) en función de la complejidad de sus necesidades. Uno de los aspectos clave a la hora de evaluar la idoneidad de cada solución es entender y prever los posibles escenarios de costes de licenciamiento y mantenimiento vinculados a la plataforma de IAG que se seleccione. En este sentido, es necesario considerar la capacidad de reacción que tendrá la organización a la hora de escalar su solución (p.e. más usuarios, más ubicaciones, más velocidad), en caso de que ésta sea satisfactoria, ya que ello tendrá un impacto directo sobre los costes de licenciamiento de la IAG. De igual modo, es importante haber previsto y fijado las condiciones de mantenimiento de los casos de uso ante la eventualidad de necesidad escalar, tanto a nivel interno como externo.

Asimismo, es necesario llevar a cabo una evaluación de los riesgos que implican estos cambios, teniendo en cuenta que la transformación será mayor cuanto menor sea el punto de partida desde la perspectiva de la digitalización. En este sentido, la organización deberá haber definido cómo se cubrirán los requisitos legales e identificar si es necesario modificar algún proceso o tecnología preexistente antes de la implantación de los casos de uso de la IAG.

El documento identifica casos de éxito en diferentes sectores: entretenimiento, formación, salud, marketing, atención al cliente, fabricación y tecnologías de la información, y legal. De ellos se emanan una serie de recomendaciones a considerar por aquellas organizaciones que estén considerando la adopción, adaptación y/o el desarrollo interno de soluciones de IAG.

• Precisión en los resultados: la precisión es un factor crítico para que organizaciones y consumidores confíen en estos modelos para brindarles un servicio fiel y evitar malas interpretaciones. Para ello, puede resultar interesante combinar las salidas de los modelos con otras herramientas para evitar respuestas “alucinatorias”.
• Seguridad de la herramienta: resulta fundamental garantizar la integridad, privacidad, confidencialidad y disponibilidad de los datos y procesos empleados en la generación de contenido. Ello requiere desplegar filtros para proteger y mejorar la seguridad de los datos, y reforzar las políticas de ciberseguridad.
• Equidad e imparcialidad: uno de los riesgos derivados de la IAG es que los resultados que arroja la herramienta contengan desviaciones manifiestas que puedan ocasionar problemas de, por ejemplo, falta de representación de determinados colectivos, contenidos, o tipos de informaciones. Por ello, es importante identificar con antelación los posibles sesgos que puedan generar los modelos de los proveedores de este tipo de servicios.
• Propiedad intelectual: se trata de uno de los principales riesgos derivados de la IAG, ya que, en muchas ocasiones, no resulta posible conocer si ha habido un uso consentido de los datos de terceros empleados en el entrenamiento de la herramienta. Esto puede derivar en que, al explotar los resultados ofrecidos por la herramienta, los usuarios puedan infringir derechos de terceros. Para poder mitigar este riesgo es necesario conocer el origen de la base de datos/activos protegibles de los que se nutre la herramienta (i.e. transparencia y trazabilidad).
• Responsabilidad: en la mayoría de los casos, las herramientas de IAG se licencian con exenciones de responsabilidad sobre las posibles consecuencias negativas que su uso pueda provocar. Por tanto, la organización deberá responder por cualesquiera consecuencias negativas que el uso de dicha tecnología genere sobre sus clientes/consumidores, lo que en determinados sectores (p.e. vehículos autónomos) puede implicar la asunción de un riesgo sustancial. Por tanto, es necesario analizar el grado de responsabilidad que el propietario de la herramienta quiere asumir, en relación con las posibles consecuencias negativas que puedan derivarse del uso de la IAG en sus procesos.
• Gestión del talento: el uso de herramientas de IAG en una organización puede tener diversos impactos y riesgos para las personas que la conforman, como, por ejemplo, el efecto sustitución derivado de la automatización, el cambio en las funciones laborales, la necesidad de la formación, el impacto sobre la creatividad y el trabajo en equipo, la privacidad, la ética, la necesidad de supervisión humana o la resistencia al cambio.

La importancia de acometer las anteriores recomendaciones parece que va a ser creciente, dadas las estrategias que están adoptando algunos de los proveedores de este tipo de servicios de IAG. El pasado 18 de Abril, en la presentación de Llama 3, la última versión de su modelo de IA, Meta reveló que Llama 3 estará disponible en abierto. Es decir, que cualquier usuario/organización podrá descargarse el modelo de Meta y ejecutarlo en local. El hecho de que las empresas proveedoras de IAG muestren una tendencia hacia la oferta de dichos servicios de manera privativa, conllevarán una democratización de los servicios asociados a la IA y una menor dependencia de las grandes tecnológicas. Crear un marco de trabajo que permita incorporar la IA dentro de las organizaciones pasa por la creación de una diversidad de perfiles, entre los que cabe destacar: IA Strategist, IA Generator, IA Support, Data Owner, Data Steward, o Citizen IAG Generador. Nada sencillo, pero totalmente necesario, si queremos resultar competitivos en un mundo cada vez más digitalizado.

Como decía Spiderman… “todo gran poder, conlleva una gran responsabilidad”.

Puedes seguirme en Twitter: @jonmizabala