Por Vera Vetter, Zeyuan Chen, Ran Xu y Scott Nyberg
Einstein for Flow: Bringing the AI Innovation to the Next Generation of Automation (en inglés)
En nuestra serie de preguntas y respuestas «Engineering Energizers», examinamos las trayectorias profesionales que han formado a los líderes de ingeniería de Salesforce. Conozca a Vera Vetter, Directora de gestión de productos para Salesforce AI Research y Co-Directora de producto para Einstein for Flow, un producto de IA revolucionario que está revolucionando la automatización del flujo de trabajo de Salesforce. Vera trabaja en estrecha colaboración con varios equipos de Salesforce para identificar las necesidades de los clientes, definir los objetivos del producto, cumplir los hitos y ofrecer valor a los usuarios
Siga leyendo para descubrir cómo Vera y su equipo impulsan con éxito el desarrollo colaborativo entre equipos para resolver retos de desarrollo de IA de gran complejidad.
¿Cómo describirías Einstein for Flow?
Einstein for Flow es una innovadora herramienta de IA generativa que aprovecha grandes modelos de lenguaje (LLM) para potenciar la automatización de procesos en varios productos de Salesforce. La herramienta permite a los administradores de Salesforce, independientemente de su experiencia en programación, crear fácilmente flujos funcionales de Salesforce mediante instrucciones de lenguaje natural. Esto elimina la necesidad de realizar configuraciones manuales, agiliza y amplía significativamente el proceso de automatización de flujos y forma a los usuarios en la creación de flujos
Una mirada a la experiencia generativa de Einstein for Flow en acción.
¿Qué equipos de Salesforce ayudaron a desarrollar Einstein para Flow?
Para crear Einstein para Flow, cuatro equipos especializados de Salesforce aportaron su experiencia única, colaborando estrechamente como un equipo Scrum de nube cruzada para completar el proyecto en sólo nueve meses:
- Equipo de automatización e integración: Este equipo mantiene Flow Builder, donde reside Einstein para Flow. Definieron los requisitos de los usuarios, abordaron los retos de automatización y desempeñaron un papel fundamental en el desarrollo del proyecto. Además, dirigieron los esfuerzos de adquisición y etiquetado de datos, lo que ayudó al modelo de IA a aprender y generar flujos de forma eficiente
- Equipo Einstein de Marketing Cloud: este equipo fue responsable de entregar la función y construir toda la aplicación backend de Einstein para Flow desde cero. Aprovechando su importante experiencia en ingeniería, definieron la arquitectura general del sistema. Esto implicó la construcción del complejo servicio de aplicación de plataforma y el servicio Einstein LLM de Marketing Cloud que, a su vez, interactúa con el LLM Gateway.
- El equipo de Einstein de Marketing Cloud se encargó de la construcción de la aplicación de Einstein para Flow desde cero
- Equipo de la plataforma de IA: Aprovechando su experiencia en el alojamiento y servicio interno de aplicaciones de IA y LLM, este equipo impulsó el sólido rendimiento de Einstein for Flow en producción. También desempeñaron un papel fundamental en la optimización de la pila de servicio LLM, ofreciendo un rendimiento óptimo y latencias más bajas
- Equipo de investigación de IA: Especializado en el desarrollo de IA generativa, este equipo construyó las capacidades de IA de Einstein para Flow desde cero, incluido el LLM interno que impulsa Einstein para Flow.
Durante el desarrollo, los equipos trabajaron de forma colectiva con bucles de retroalimentación iterativos y stand-ups compartidos, planificación coordinada, demos realizadas y mucho más. Esto ayudó a impulsar iteraciones rápidas y la rápida inclusión de comentarios en el proceso de desarrollo del equipo.
>
>
Vera comparte su experiencia trabajando en Salesforce y dando soporte a Einstein para Flow.
Einstein para Flow
¿Cuáles fueron los mayores retos para desarrollar Einstein para Flow?
A medida que el equipo desarrollaba Einstein para Flow, abordaba varias cuestiones clave:
- Comprender las peticiones de creación de flujos específicas de los usuarios. Durante el desarrollo, el equipo aprendió que los usuarios describían de forma única sus requisitos de automatización de procesos. En respuesta, el motor de IA generativa de Einstein for Flow fue diseñado para ser fundacional, lo que le permite abordar una amplia gama de requisitos de automatización de procesos a través de escenarios variados.
- Disponibilidad de datos. Los datos siguen siendo cruciales para crear modelos de IA generativa eficaces. Sin embargo, a diferencia de los datos disponibles públicamente, que se utilizan en chatbots genéricos basados en LLM, los datos de Flow creados por la empresa son limitados. El equipo resolvió eficazmente este problema colaborando estrechamente con expertos y profesionales internos de Flow, que proporcionaron datos de flujo relevantes y descripciones en lenguaje natural de los procesos que los usuarios querrían automatizar. Esto puso de manifiesto, por ejemplo, la diversidad de formas en que los usuarios describían requisitos similares en sus peticiones.
- Los usuarios pueden automatizar los procesos que deseen
- Innovación de la nueva IA generativa. Salesforce desarrolló internamente toda la pila de IA generativa, incluido el gran modelo de lenguaje, un reto considerable dado el estado del sector de la IA generativa.
- Innovación de la nueva IA generativa.
- Innovación de la nueva IA generativa
>
Vera destaca por qué los ingenieros deberían unirse a Salesforce.
Vera destaca por qué los ingenieros deberían unirse a Salesforce
¿Cuál fue el proceso de formación de Einstein para Flow?
El proceso de formación implicó dos etapas clave, consistentes en el preentrenamiento y el perfeccionamiento instructivo.
Durante la fase de preentrenamiento, se entrenó un modelo masivo en un enorme conjunto de datos. Esto permitió al equipo construir un modelo básico que sirvió como punto de partida para el desarrollo adicional.
Durante la fase de ajuste de la instrucción, el equipo mejoró la comprensión del modelo de las órdenes del usuario ajustándolo meticulosamente con pares de instrucciones y metadatos de flujo elaborados por expertos. El resultado fue una IA más intuitiva, capaz de crear rápidamente metadatos de flujo precisos según las instrucciones del usuario. Este proceso de ajuste garantiza que el modelo construya flujos con mayor precisión, lo que lo convierte en una herramienta fiable para los usuarios que buscan soluciones eficaces para la construcción de flujos
¿Cómo incorpora el equipo los comentarios de los clientes para mejorar Einstein for Flow?
Los comentarios de los clientes desempeñan un papel fundamental en la mejora continua de Einstein for Flow. El equipo implementó un mecanismo sencillo y fácil de usar que proporciona rápidamente los resultados. Por ejemplo, si Einstein for Flow proporciona al usuario el flujo que ha solicitado basándose en sus datos, el usuario puede hacer clic en el botón «pulgar hacia arriba». Por otro lado, si el modelo no da en el clavo, el usuario puede hacer clic en el botón «pulgar hacia abajo» y proporcionar comentarios de forma libre, lo que ayuda al equipo a entender qué ha fallado
Utilizando esta información, junto con los datos de rendimiento implícitos, el equipo profundiza en los detalles de la solicitud para interpretar en qué punto Einstein for Flow puede haber malinterpretado la intención del usuario. Este análisis es fundamental para apoyar los objetivos de mejora continua del programa
Este proceso de aprobación/desaprobación también ayuda al equipo a eliminar cualquier alucinación del modelo, que se refiere a los casos en los que el modelo puede ofrecer resultados incorrectos o irrelevantes.
Mecanismo de retroalimentación del cliente de Einstein for Flow en acción.
Einstein for Flow en acción
De cara al futuro, ¿cuál es la hoja de ruta del equipo para Einstein para Flow?
Estamos muy contentos de haber lanzado el piloto de Einstein para Flow, que admite objetos estándar, Flows activados por registros y Flows de pantalla. De cara al futuro, ampliaremos la cobertura de Flow incorporando objetos y campos personalizados, así como aumentando la diversidad y complejidad de los Flows cubiertos.
