Los LLM desmitificados por la IA: Promesas y peligros para las empresas

Introducción

En el panorama tecnológico actual, en rápida evolución, las empresas de todos los sectores persiguen activamente la transformación digital. Este impulso se ha intensificado con la reciente ola de innovación en IA, en la que los grandes modelos lingüísticos (LLM, por sus siglas en inglés) emergen como actores fundamentales en la búsqueda de la adopción de la IA. Sin embargo, a pesar del gran potencial de estas herramientas, es importante tener en cuenta sus riesgos e inconvenientes. ¿Se integrará la IA sin problemas en los procesos existentes o transformará radicalmente todo el ecosistema empresarial? El científico Roy Amara hizo una observación significativa, conocida como la Ley de Amara, que afirma que "tendemos a sobreestimar el efecto de una tecnología a corto plazo y a subestimar el efecto a largo plazo". Nuestra hipótesis se alinea con este adagio: a corto plazo, las LLM y la IA mejorarán las operaciones existentes, pero a largo plazo, probablemente catalizarán una reestructuración de las industrias y los modelos de negocio.

Teniendo esto en cuenta, exploraremos las ventajas y limitaciones actuales de la tecnología LLM demostradas a través de algunas aplicaciones del mundo real, al tiempo que ofreceremos una visión de sus posibles capacidades y consecuencias futuras.

Ventajas de los LLM

1. Fomentar la innovación y la creatividad

Los LLM han provocado un cambio de paradigma en el lugar de trabajo, ya que los trabajadores han pasado de adoptar un enfoque "creador" a un enfoque "editorial" a la hora de realizar tareas rutinarias. Por ejemplo, en los trabajos de ingeniería de software y codificación, GitHub Copilot ha cambiado las reglas del juego. Presenta a los usuarios fragmentos de código sugeridos que luego pueden ser editados por un programador, agilizando así el proceso de desarrollo del código. Además, los LLM han abierto las puertas a la "creación de aplicaciones sin código", en las que las personas pueden simplemente describir sus ideas de aplicaciones en lenguaje natural y el sistema genera una plantilla personalizable. De este modo, los LLM están desplazando la prioridad de los desarrolladores de código de la sintaxis y la implementación mundanas a tareas más estratégicas como el diseño del código y la arquitectura. De este modo, en lugar de ahogar la innovación, los LLM ayudan a liberar recursos para que los humanos exploren territorios de creatividad hasta ahora inexplorados. Siguiendo con nuestro ejemplo del desarrollo de software, con la ayuda de los LLM en tareas de codificación, los desarrolladores pueden dedicar más tiempo y capacidad intelectual a conceptualizar, diseñar y perfeccionar ambiciosos proyectos "moonshot", como una simulación de realidad virtual impulsada por IA para la formación médica. Del mismo modo, los LLM están creando más espacio para que los humanos exploren proyectos visionarios también en otros sectores.

Más allá de estos avances tangibles, los LLM están mostrando una notable capacidad de ideación. Son capaces de producir contenidos originales en respuesta a consultas y también de generar respuestas que despiertan nuevas ideas en quienes las formulan. Incluso las "alucinaciones", que suelen considerarse una limitación (y de las que hablaremos en la próxima sección), se aprovechan para crear conceptos y contribuir a la investigación científica.

2. Mejora de la toma de decisiones y del crecimiento empresarial

Aprovechar los LLM para el análisis de datos y el procesamiento del lenguaje natural proporciona a las empresas la capacidad de identificar patrones y extraer información valiosa que sirve de base para la toma de decisiones estratégicas y ayuda a las empresas a obtener una ventaja competitiva. Esta capacidad es especialmente potente en campos como el marketing, donde es fundamental comprender las preferencias de los clientes. Los LLM permiten a los profesionales del marketing profundizar en el comportamiento de los consumidores y elaborar mensajes altamente personalizados que resuenen en el público objetivo. El resultado no es sólo un mayor compromiso, sino también un aumento tangible de las ventas, lo que se traduce en un crecimiento general del negocio.

3. Aumentar la eficacia y transformar los flujos de trabajo

La automatización de tareas en diversas funciones empresariales puede aumentar la eficiencia y reducir los costes. Por ejemplo, en ventas, los LLM pueden utilizarse para automatizar el seguimiento y nutrir a los clientes potenciales hasta que estén preparados para la interacción directa con un agente humano.

Los LLM también pueden servir como valiosos repositorios de conocimientos organizativos que pueden potenciar a los equipos, por ejemplo, agilizando el acceso a información relevante o facilitando la incorporación y formación de nuevo personal. Esto es posible porque, aparte de los conocimientos específicos del dominio, estos modelos pueden ajustarse para que tengan conocimientos específicos de la organización o incluso de la función, lo que contribuye en gran medida a promover la eficiencia operativa.

Retos y limitaciones de los LLM

El éxito del despliegue de los LLM y la obtención de estos beneficios requiere el reconocimiento y la mitigación de los riesgos que conllevan. Centrémonos ahora en estos retos asociados que exigen una cuidadosa consideración.

1. Sesgo en la información

Los LLM se entrenan con grandes cantidades de datos procedentes de diversas fuentes que pueden albergar inadvertidamente prejuicios de género, raciales o ideológicos. Dado que los LLM aprenden de estos datos de entrenamiento, estos sesgos latentes pueden reproducirse en sus respuestas. La perpetuación de estos prejuicios puede contribuir a una representación desigual y a un trato injusto, afianzando aún más los prejuicios sociales. También existe el riesgo de dañar la reputación de la empresa cuando esos contenidos se incorporan a informes comerciales o material promocional, lo que repercute negativamente en su imagen. Para evitar estos riesgos, muchos expertos abogan por un enfoque "humano" que garantice que la información difundida se ajusta a las normas éticas y es exacta.

La controversia en torno al chatbot Tay de Microsoft es un claro ejemplo de cómo los LLM pueden adoptar y propagar sin darse cuenta sesgos presentes en los datos con los que han sido entrenados. Tay se lanzó en Twitter en 2016 con la intención de aprender de las interacciones humanas. El experimento se torció rápidamente cuando Tay absorbió y regurgitó contenido racista, misógino y ofensivo. Microsoft pidió disculpas y Tay fue retirada 16 horas después de su lanzamiento.

2. Seguridad de los datos, derechos de propiedad intelectual y privacidad

El gran tamaño de los datos de formación plantea otro reto. La preocupación por la violación de la privacidad en la recogida, almacenamiento y retención de datos sensibles por parte de los LLM es enorme. Existe la posibilidad de que estos modelos filtren sin saberlo información de propiedad, información de identificación personal (IPI) y el historial de interacciones de personas y organizaciones cuyos datos han contribuido al conjunto de entrenamiento, a menudo sin su consentimiento explícito o sin que sean conscientes de ello.

La cuestión de la propiedad intelectual tiene también otra dimensión. Cuando estos modelos generan nuevos diseños de productos o ideas basadas en las indicaciones de los usuarios, la cuestión de la propiedad se vuelve intrincada. Determinar quién puede reclamar legítimamente estas creaciones plantea un reto intrigante y cambiante en el panorama jurídico y ético de la innovación de la IA.

3. Alucinaciones

Más allá de las falacias de los datos de entrenamiento, los LLM también pueden alucinar. Una "alucinación" es una respuesta de alta confianza que se desvía de la exactitud de los hechos y carece de base en los datos de entrenamiento del modelo. En otras palabras, son respuestas generadas por los LLM que suenan convincentes pero que son sencillamente incorrectas y no tienen base en la realidad. Estas desviaciones pueden ir desde pequeñas incoherencias hasta información totalmente inventada. Se producen en parte debido al equilibrio entre precisión y novedad en los métodos de generación de respuestas subyacentes utilizados por el modelo.

Las alucinaciones tienen el potencial de propagar información errónea que puede tener profundas consecuencias, especialmente cuando los usuarios interiorizan estas respuestas sin hacer la debida diligencia y desarrollan una comprensión distorsionada de los temas. Esto se ejemplificó en una reciente demanda contra la aerolínea Avianca, en la que el equipo legal que representaba al demandante utilizó ChatGPT para ayudar a su investigación legal sin verificar el contenido generado. El informe legal que presentaron contenía referencias a más de media docena de decisiones judiciales y citas que simplemente no existían. En respuesta, el juez, P. Kevin Castel, ordenó una vista para discutir posibles sanciones debido a la presentación de información jurídica engañosa. Esto subraya la importancia de comprobar los hechos cuando se consumen contenidos generados por IA.

Comprender estas limitaciones también abre las puertas al aprovechamiento de las alucinaciones con fines creativos, como ya se ha comentado. Algunos científicos han inducido deliberadamente alucinaciones con IA para crear nuevas secuencias de proteínas con una gama ilimitada de propiedades para avanzar en sus investigaciones. Estas aplicaciones innovadoras pueden dar lugar a nuevos avances en diversos sectores.

Conclusión

El futuro de los LLM en el mundo empresarial es prometedor. A medida que sigan evolucionando, su impacto será cada vez mayor. Sin embargo, como ocurre con cualquier tecnología revolucionaria, los LLM conllevan su propio conjunto de retos y limitaciones. Es esencial que las empresas se mantengan informadas y proactivas para aprovechar de forma responsable el poder de los LLM y navegar con éxito por un panorama en constante evolución.

Autor: Rhea Sethi

Referencias

1. https://www.mckinsey.com/capabilities/quantumblack/our-insights/generative-ai-is-here-how-tools-like-chatgpt-could-change-your-business?cid=spr23-pse-gaw-mss-genai&gclid=CjwKCAjwt52mBhB5EiwA05YKo51OxriDaGuh97EvIyYqg7R3bkic5guaUihd3qGpfoxTC0lZn8lMFRoCqUIQAvD_BwE
2. https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-ai-the-next-productivity-frontier?gclid=Cj0KCQjwoK2mBhDzARIsADGbjepuvgHNm9siwRiLj5bQI0GjN0S_iNroToOkUB7njkjnTgMMuoM_ei0aAsrWEALw_wcB#industry-impacts
3. https://playbooks.v7labs.com/article/impact-of-large-language-models-on-enterprise
4. https://indatalabs.com/blog/large-language-model-benefits