En la era de la Inteligencia Artificial, el tema de moda es indudablemente la revolución que está experimentando. Si bien la IA ha estado presente desde los días de Alan Turing en la década de 1950, estamos atravesando una fase de crecimiento exponencial en la que su influencia está en constante aumento, tal y como acabamos de ver en nuestra última entrega de PFinsight (#16 – El dilema de la IA se torna generacional). Aunque la IA se encuentra en numerosas aplicaciones cotidianas, dos conceptos en particular están acaparando la atención: Los Algoritmos y ChatGPT. En este artículo, me gustaría centrarme en los primeros, los algoritmos, y reflexionar sobre su impacto en nuestro mundo actual.
Los algoritmos en las redes sociales están diseñados para mantener a los usuarios enganchados al contenido a través de acciones simples como hacer clic en el botón de "seguir", tendiendo a recomendar perfiles similares por varias razones:
- Buscan optimizar el compromiso del usuario: Los algoritmos están diseñados para maximizar el compromiso del usuario, lo que significa mantener a los usuarios en la plataforma el mayor tiempo posible. Recomendar perfiles similares a los que el usuario ya sigue aumenta la probabilidad de que este interactúe con ese contenido y, por lo tanto, permanezca más tiempo en la plataforma.
- Personalizar el contenido: Los algoritmos de recomendación se basan en el análisis de datos del usuario, como sus interacciones anteriores, sus intereses declarados y el contenido que ha consumido en el pasado. Al recomendar perfiles similares, los algoritmos intentan proporcionar contenido que se ajuste a los intereses y preferencias del usuario, lo que aumenta la probabilidad de que encuentre ese contenido relevante y atractivo.
- Eficiencia del algoritmo: Recomendar perfiles similares es una estrategia eficiente para los algoritmos, ya que pueden usar información existente sobre los usuarios para identificar perfiles con características similares. Esto reduce la carga computacional y el tiempo necesario para generar recomendaciones personalizadas.
Este enfoque algorítmico de centrar las alternativas sugeridas en perfiles con gran volumen de seguidores y similares en su esencia o pensamiento, puede contribuir, a mi juicio, a activar de manera más intensa el mecanismo de aquello que se llama “el espejismo de la mayoría” (concepto desarrollado por Kristina Lerman, Xiaoran Yan y Xin-Zeng Wu en el artículo The Majority Illusion in Social Networks), potenciando el peligro de exponernos a una realidad más sesgada, y reduciendo la pluralidad de opiniones.
¿Qué es el espejismo de la mayoría? Es un fenómeno que se produce cuando una minoría influyente en una red hace creer a la mayoría que una opinión minoritaria es en realidad la mayoritaria. Esto es posible debido a la influencia desproporcionada de ciertos nodos en la red. Os lo explico con un ejemplo (algo exagerado pero para que se entienda bien):
El dibujo que podéis ver más abajo, representa una red social con 8 personas, en la que dos de ellas piensan A y 6 de ellas, la mayoría, piensan B. Desde fuera, claramente observamos cómo la opinión mayoritaria es la B, pero… ¿qué piensan los propios miembros de la Red social? Si observamos sus nodos de seguimiento (las flechas que nos indican a qué perfiles siguen), observamos en este ejemplo como la mayoría sigue a las dos personas que tienen un pensamiento minoritario, el A (he puesto las flechas en rojo para identificarlas mejor), y por tanto, la mayoría de la red social están pensando que la idea preponderante es la A (cuando en realidad tenemos claro que predomina la B).
Es en esta situación cuando se produce el espejismo de la mayoría, cuando la mayoría de la red piensa que la opinión mayoritaria es en realidad una que es minoritaria. Y esto se produce porque hay perfiles muy influyentes en la red (nivel elevado de exposición y con opiniones muy seguidas) que presentan un pensamiento diferencial a la mayoría – podríamos estar pensando que en esta red sus miembros están construyendo una realidad sesgada.
Por ello, es crucial intentar disponer de fuentes de información diversificadas y no limitarse a seguir únicamente a pocos perfiles muy influyentes en las redes. De lo contrario, corremos el riesgo de adoptar una visión distorsionada de la realidad, influenciada por sesgos y percepciones erróneas.
En lugar de buscar la diversidad, los algoritmos están diseñados para reproducir patrones de comportamiento existentes e influyentes, pudiéndonos penalizar a la hora de construir un juicio más diverso y crítico, favoreciendo la construcción de una sociedad más polarizada, tal y como sucede en la actualidad. La dependencia excesiva de la IA para tomar decisiones puede llevarnos a un mundo donde la verdad se ve eclipsada por la narrativa dominante. Siendo conscientes de ello, somos las personas las que tendremos que activar los mecanismos necesarios para no construirnos un pensamiento único y sesgado.
El problema no radica únicamente en los algoritmos que nos pueden sesgar y limitan nuestra exposición a diferentes puntos de vista. El verdadero desafío es que las personas estamos delegando cada vez más nuestras decisiones y opiniones a la IA, sin ser plenamente conscientes de las implicaciones de este comportamiento. En una entrevista reciente con Brad Smith, presidente de Microsoft, publicada en El País, Smith declaró: “debemos tener una manera de ralentizar o apagar la Inteligencia Artificial”. Esta declaración resalta la necesidad de abordar los problemas éticos y sociales asociados con el uso indiscriminado de la IA.
La Inteligencia Artificial ofrece innumerables beneficios y oportunidades, pero también plantea desafíos significativos en términos de ética, polarización y la búsqueda de la verdad. Es fundamental que tomemos conciencia de la influencia de los algoritmos en nuestra percepción de la realidad y asumamos la responsabilidad de diversificar nuestras fuentes de información y ejercer un juicio crítico informado.
En última instancia, la clave está en encontrar un equilibrio entre aprovechar las ventajas de la IA y garantizar que no comprometa nuestra capacidad para pensar de manera independiente y pluralista. Debemos recordar que la Inteligencia Artificial es una herramienta, y como tal, su uso debe estar guiado por principios éticos y una comprensión clara de sus limitaciones y riesgos.
Alberto Plazas
Account Director
