Los chatbots de IA generativa están ayudando a cambiar el panorama empresarial. Pero también tienen un problema: con frecuencia presentan información inexacta como si fuera correcta. Conocidos como «alucinaciones de IA», estos errores se producen hasta un 20% de las veces.
Los chatbots generativos de IA están ayudando a cambiar el panorama empresarial
«Sabemos que [la IA generativa actual] tiene una tendencia a no dar siempre respuestas precisas, pero da las respuestas con increíble confianza», dijo Kathy Baxter, arquitecta principal en la práctica de IA ética de Salesforce. «Así que puede ser difícil para las personas saber si pueden confiar en las respuestas que les da la IA generativa»
Es posible que los miembros de la comunidad informática llamen a estas imprecisiones confabulaciones. ¿Por qué? Porque creen que el fenómeno psicológico de sustituir accidentalmente una laguna de tu memoria por una historia falsa es una metáfora más precisa del hábito de la IA generativa de cometer errores. Independientemente de cómo se refiera a estas meteduras de pata de la IA, si está utilizando la IA en el trabajo, necesita ser consciente de ellas y tener un plan de mitigación en marcha.
La gran tendencia
La gente se ha entusiasmado (y quizá asustado un poco, sobre todo cuando se utiliza en el trabajo) con la IA generativa y los grandes modelos lingüísticos (LLM). Y con razón. Los LLM, normalmente en forma de chatbot, pueden ayudarle a redactar mejores correos electrónicos e informes de marketing, preparar proyecciones de ventas y crear respuestas rápidas de atención al cliente, entre otras muchas cosas.
La IA generativa y los grandes modelos de lenguaje (LLM) pueden ayudar a las empresas a mejorar sus procesos de negocio
¿Qué es un LLM?
Los modelos de lenguaje amplio (LLM) son un tipo de IA que puede generar respuestas similares a las humanas procesando entradas de lenguaje natural. Los LLM se entrenan en conjuntos de datos masivos, lo que les proporciona un profundo conocimiento de un amplio contexto de información. Esto les permite razonar, hacer inferencias lógicas y extraer conclusiones
En estos contextos empresariales, las alucinaciones de la IA pueden dar lugar a análisis imprecisos, sesgos negativos y errores que erosionan la confianza enviados directamente a sus empleados o clientes.
La IA puede ser un factor de riesgo para la confianza de sus clientes
«Se trata de un problema de confianza», afirma Claire Cheng, directora sénior de ciencia e ingeniería de datos de Salesforce. «Queremos que la IA ayude a las empresas en lugar de hacer sugerencias, recomendaciones o acciones erróneas que afecten negativamente a las empresas»
Es complicado
Algunos en la industria ven las alucinaciones de forma más positiva. Sam Altman, CEO de OpenAI, creador de ChatGPT, dijo al CEO de Salesforce, Marc Benioff, que la capacidad de producir alucinaciones demuestra que la IA puede innovar
«El hecho de que a estos sistemas de IA se les ocurran nuevas ideas, puedan ser creativos, ahí radica gran parte de su poder», afirmó Altman. «Quieres que sean creativos cuando quieras, y objetivos cuando quieras, pero si haces lo ingenuo y dices: ‘Nunca digas nada de lo que no estés seguro al 100%’, puedes conseguir que un modelo haga eso, pero no tendrá la magia que tanto le gusta a la gente».»
La IA puede ser creativa cuando quieras, y objetiva cuando quieras
Por ahora, parece que no podemos resolver completamente el problema de las alucinaciones de la IA generativa sin erradicar su «magia» (De hecho, algunos líderes tecnológicos de IA predicen que las alucinaciones nunca desaparecerán del todo) Entonces, ¿qué puede hacer una empresa bienintencionada? Si estás incorporando LLMs a tu trabajo diario, aquí tienes cuatro formas de mitigar las alucinaciones generativas de la IA.
Cómo mitigar las alucinaciones generativas de la IA
Forma tu propio LLM
¿Piensas añadir IA generativa a tu negocio? No necesitas entrenar la tuya propia. Una sencilla API puede conectar sus datos a una plataforma existente.
1. Utiliza un LLM de confianza para ayudar a reducir las alucinaciones generativas de IA
Para empezar, haz todo lo posible para asegurarte de que tus plataformas de IA generativa están construidas sobre un LLM de confianza. En otras palabras, su LLM necesita proporcionar un entorno para los datos que esté tan libre de sesgos y toxicidad como sea posible.
Un LLM genérico como ChatGPT puede ser útil para tareas menos sensibles como crear ideas para artículos o redactar un correo electrónico genérico, pero cualquier información que pongas en estos sistemas no está necesariamente protegida.
«Mucha gente está empezando a buscar modelos específicos de dominio en lugar de utilizar grandes modelos de lenguaje genéricos», afirma Cheng. «Es preferible buscar la fuente fiable de la verdad en lugar de confiar en que el modelo te dé la respuesta. No esperes que el LLM sea tu fuente de la verdad porque no es tu base de conocimientos»
Cuando extraigas información de tu propia base de conocimientos, tendrás respuestas e información relevantes a tu alcance de forma más eficiente. También habrá menos riesgo de que el sistema de IA haga conjeturas cuando no sepa una respuesta.
«Los líderes empresariales realmente necesitan pensar: ‘¿Cuáles son las fuentes de la verdad en mi organización?», dijo Khoa Le, vicepresidente de Service Cloud Einstein y bots en Salesforce. «Puede tratarse de información sobre clientes o productos. Pueden ser bases de conocimiento que se encuentren en Salesforce o en otro lugar. Saber dónde y tener una buena higiene en torno a mantener actualizadas estas fuentes de verdad será súper crítico.»
2. Escribe apuntes de IA más específicos
Los grandes resultados de IA generativa también empiezan con grandes prompts. Y puedes aprender a escribir mejores prompts siguiendo algunos consejos sencillos. Entre ellos se incluye evitar preguntas cerradas que produzcan respuestas de sí o no, que limitan la capacidad de la IA para proporcionar información más detallada. Además, haga preguntas de seguimiento para incitar a la LLM a ser más específica o proporcionar respuestas más detalladas.
También querrá utilizar tantos detalles como sea posible para incitar a su herramienta a darle la mejor respuesta. Como guía, eche un vistazo a la siguiente pregunta, antes y después de añadir detalles.
- Antes: Escribe una campaña de marketing para zapatillas de deporte.
- Después: Escribe una campaña de marketing para una nueva tienda de zapatillas online llamada Shoe Dazzle que vende a mujeres del Medio Oeste de entre 30 y 45 años. Especifica que las zapatillas son cómodas y coloridas. El precio de las zapatillas oscila entre 75 y 95 dólares y se pueden utilizar para diversas actividades, como caminar a paso ligero, hacer ejercicio en un gimnasio y entrenar para una maratón.
- Las zapatillas son cómodas y coloridas
¿Necesitas ayuda con tu estrategia de IA generativa?
Tanto si estás empezando con la IA como si ya estás innovando, esta guía es tu hoja de ruta para ofrecer un programa de confianza que combine datos, IA y CRM.
3. Dile al LLM que sea honesto
Otro consejo que cambia el juego es decirle literalmente al modelo de lenguaje grande que sea honesto
«Si le haces una pregunta a un agente virtual, puedes decirle: ‘Si no sabes la respuesta, di que no la sabes'», explica Cheng
Por ejemplo, supongamos que desea crear un informe que compare los datos de ventas de cinco grandes empresas farmacéuticas. Es probable que esta información provenga de informes anuales públicos, pero es posible que el LLM no pueda acceder a los datos más actuales. Al final de su pregunta, añada «No responda si no puede encontrar los datos de 2023» para que el LLM sepa que no debe inventar nada si esos datos no están disponibles
También puedes hacer que la IA «muestre su trabajo» o explique cómo ha llegado a la respuesta que ha dado mediante técnicas como la cadena de pensamiento o el árbol de pensamiento. La investigación ha demostrado que estas técnicas no sólo ayudan a la transparencia y la confianza, sino que también aumentan la capacidad de la IA para generar la respuesta correcta.
La IA puede mostrar su trabajo o explicar cómo llegó a la respuesta que dio
4. Reducir el impacto en los clientes
Le ofrece algunas cosas a tener en cuenta para proteger los datos de sus clientes y sus relaciones comerciales.
- Sé transparente. Si utiliza un chatbot o un agente virtual respaldado por IA generativa, no haga pasar la interfaz como si los clientes estuvieran hablando con un humano. En su lugar, revele el uso de IA generativa en su sitio web. «Es muy importante dejar claro de dónde procede esta información y con qué datos la estás entrenando», afirma Le. «No intente engañar al cliente
- Siga las leyes y normativas locales. Algunos municipios le exigen que permita a los usuarios finales optar por esta tecnología; incluso si el suyo no lo hace, es posible que desee ofrecer un opt-in.
- Siga las leyes y normativas locales
- Protéjase de los problemas legales. La tecnología de IA generativa es nueva y cambia rápidamente. Trabaje con sus asesores legales para comprender los problemas más recientes y siga las normativas locales.
- Protéjase de los problemas legales
- Asegúrese de que existen salvaguardas. Al seleccionar un proveedor de modelos, asegúrese de que dispone de salvaguardas como la detección de toxicidad y sesgos, el enmascaramiento de datos confidenciales y defensas contra ataques de inyección de información como Einstein Trust Layer de Salesforce.
- Cuidado con los datos confidenciales
Las alucinaciones generativas de la IA son una preocupación, pero no necesariamente un punto de ruptura. Diseña y trabaja con esta nueva tecnología, pero mantén los ojos bien abiertos sobre la posibilidad de cometer errores. Cuando hayas utilizado tus fuentes de la verdad y hayas cuestionado el trabajo, podrás adentrarte en tus tratos comerciales con más confianza.
Diseña y trabaja con esta nueva tecnología
Empieza hoy mismo con un LLM
La Plataforma Einstein 1 te ofrece las herramientas que necesitas para crear fácilmente tus propias aplicaciones impulsadas por LLM. Trabaja con tu propio modelo, personaliza un modelo de código abierto o utiliza un modelo existente a través de APIs. Todo es posible con Einstein 1.
