@jonmizabala

Como es bien sabido, las grandes empresas tecnológicas maximizan el valor para sus accionistas empleando para ello algoritmos que buscan maximizar la participación (i.e., engagement) de los usuarios. Y los algoritmos ejecutan muy bien su propósito. Como ya escribimos en un post previo, los jóvenes estadounidenses de 17 años pasan 5,8 horas al día en las redes sociales.

En la última demanda judicial interpuesta en Estados Unidos contra Meta, 41 estados alegan que dos de sus productos (Instagram y Facebook) no solo son adictivos, sino que resultan perjudiciales para el bienestar. En ella, se acusa a Meta de ‘explotar’ a los jóvenes usuarios con fines lucrativos, mostrando contenidos nocivos que los mantienen pegados a sus pantallas para maximizar el beneficio empresarial. Una forma de conseguir dicho engagement es mostrar contenidos perniciosos, y en ocasiones al borde de la ilegalidad, y transformar el tiempo en la plataforma en una actividad compulsiva, con funciones como el scroll infinito, notificaciones y alertas incesantes y contenidos adictivos ‘recomendados’ (muchas de estas mismas técnicas son utilizadas por la industria del juego).

Los avances en inteligencia artificial potencian aún más estas recomendaciones algorítmicas por lo que urgen nuevas estructuras de gobernanza para evitar estos efectos no deseados de las redes sociales. En un reciente artículo, Ilan Strauss y Mariana Mazzucato proponen algunas medidas que se podrían tener en cuenta:

• En lugar de basarse únicamente en las leyes de competencia y antimonopolio, se podría garantizar que las plataformas no puedan ‘bloquear’ injustamente la movilidad de usuarios y desarrolladores. Para ello se podría imponer la portabilidad de los datos y la interoperabilidad entre los servicios digitales, de modo que los usuarios puedan moverse con mayor fluidez entre plataformas, en función de dónde se satisfagan mejor sus necesidades y preferencias.
• En segundo lugar, la reforma de la gobernanza corporativa es esencial. Un primer paso para establecer una base más saludable sería exigir a las plataformas que revelen (en los informes anuales 10-K presentados a la Comisión del Mercado de Valores de Estados Unidos) qué es lo que buscan optimizar sus algoritmos y cómo se monetizan éstos últimos.
• Los usuarios deberían poder influir más en la priorización algorítmica de la información que se les muestra (e.g. a pesar de que indiques que la publicidad que te muestra Facebook no te interesa, la plataforma te sigue mostrando nueva publicidad que sigue sin interesarte). De lo contrario, los perjuicios derivados de ignorar las preferencias de los usuarios seguirán aumentando a medida que los algoritmos creen sus propios bucles de retroalimentación.
• En 2020, un equipo de Meta determinó que mostrar un menor número de notificaciones intrusivas tiene un impacto directo en el uso de la aplicación y en la satisfacción del usuario. Optimizar los sistemas de recomendación para obtener recompensas a largo plazo (como la satisfacción del cliente, la retención y la adopción de nuevos usuarios) es por lo tanto la mejor manera para impulsar el crecimiento y la rentabilidad de una empresa a largo plazo, en lugar de centrarse en las ganancias inmediatas.
• Se podría emplear la IA para evaluar la calidad de los resultados algorítmicos, en particular la publicidad, e identificar aquellos anuncios que hacen afirmaciones dudosas (ya se está haciendo en Reino Unido).

Una de las razones que se aducen para explicar el efecto nocivo de las redes sociales es que con ellas es mucho más fácil compararnos con los demás y si esta comparación nos es desfavorable, podemos perder autoestima y aumentar nuestra ansiedad. Las medidas que proponen Strauss y Mazzucato no atajan este mecanismo, sino que buscan identificar posibles áreas de intervención para tratar de paliar parcialmente dichos efectos negativos. Sin embargo, como reflejan Mazzucato y Strauss, la próxima generación de productos basados en IA requiere establecer con antelación una supervisión algorítmica adecuada para evitar los errores del pasado. Y es que los algoritmos impulsados por IA influirán no solo en lo que consumimos, sino también en cómo producimos y creamos. Y no solo en lo que elegimos, sino también en lo que pensamos.

Puedes seguirme en Twitter: @jonmizabala