En nuestra perspicaz serie de preguntas y respuestas «Engineering Energizers», profundizamos en los inspiradores viajes de los líderes de ingeniería que han logrado un éxito notable en sus dominios específicos. Hoy conocemos a Indira Iyer, Vicepresidenta senior de ingeniería de Salesforce, que dirige el desarrollo de Salesforce Einstein. La misión de su equipo es crear la plataforma de IA de última generación de Salesforce, que permite tanto a los equipos internos como a los clientes externos crear y utilizar sin problemas capacidades de IA para cargas de trabajo predictivas, generativas, autónomas y de asistencia

Siga leyendo para descubrir las estrategias y técnicas empleadas por el equipo de Indira al enfrentarse a la difícil migración de las pilas de IA heredadas a la nueva plataforma de IA de Salesforce. Además, descubra cómo gestionaron las intrincadas consideraciones técnicas implicadas en la creación de potentes capacidades de IA generativa en la plataforma…

Una mirada al papel crucial que desempeña la nueva Plataforma de IA dentro del ecosistema más amplio de la Plataforma Einstein 1.

¿Cuál fue la principal motivación para migrar cinco pilas de IA heredadas diferentes a la nueva plataforma de IA de Salesforce y cómo beneficia esta migración a los 20.000 clientes de Einstein?

La nueva plataforma de IA de Salesforce

Antes, teníamos problemas para ofrecer a los clientes una historia coherente sobre las funciones y la disponibilidad de nuestras ofertas Einstein en diferentes ubicaciones geográficas y sus posturas de cumplimiento. Esto se debía a que estas funciones se crearon en pilas separadas y aisladas. A pesar de tener la marca Einstein, en realidad eran una colección de diferentes adquisiciones y pilas construidas orgánicamente.

Al migrar a la nueva plataforma de IA, nuestro objetivo era ofrecer una experiencia unificada y coherente a los clientes, con información clara sobre el cumplimiento, la confianza y la disponibilidad de nuestras funciones de IA. Además, queríamos permitir la reutilización de conjuntos de funciones en múltiples nubes sin duplicar esfuerzos.

Por ejemplo, la función de resumen de llamadas, que es útil en los ámbitos de ventas, marketing y servicios, fue creada originalmente por el equipo de Sales Einstein en una pila que no podía ser utilizada por otros. Del mismo modo, las funciones de resumen de texto eran específicas de Service Einstein. Al consolidar estas capacidades en una plataforma de nueva generación, pudimos hacer frente a los retos de integración y aprovechar las funciones en diferentes aplicaciones.

Posibilidades de integración

Esta decisión de migración implicaba elegir entre trasladar de forma independiente las cinco pilas heredadas con capacidades limitadas o construir una nueva plataforma de próxima generación integral y repleta de funciones que abordara las necesidades de todo el ciclo de vida del desarrollo de IA. Optamos por esta última opción

>

–>

Indira destaca algunas herramientas clave que ayudan a aumentar la productividad de su equipo.

¿Cómo superó tu equipo los retos de migrar a los clientes de Einstein de diferentes pilas heredadas a la nueva plataforma de IA?

Los retos específicos fueron dos. En primer lugar, se diseñaron para atender necesidades de nichos específicos. Esto significaba que la migración de las aplicaciones creadas en estas pilas heredadas y su replanificación en la nueva plataforma de IA requería una cuidadosa consideración y planificación por parte de todos los principales interesados

En segundo lugar, el reto consistía en migrar a los clientes de forma transparente, sin interrupciones ni contratiempos. Esto implicó repetir cada paso del aprovisionamiento de clientes para garantizar una transición fluida. Era crucial trasladar sus cargas de trabajo de forma automática y transparente, sin que los clientes fueran conscientes del cambio de plataforma. No fue una tarea fácil, ya que implicó la migración de numerosas organizaciones de demostración, prueba y producción en diferentes regiones

Para superar estos retos, nuestro equipo de plataforma asumió la responsabilidad de construir un marco de migración. Este marco permitió a los equipos de aplicaciones y de la nube conectarse a él y especificar los matices únicos de sus cargas de trabajo. De este modo, pudimos transferir las aplicaciones y las cargas de trabajo sin problemas desde las antiguas pilas heredadas a la nueva plataforma de IA sin interrupciones.

Para superar estos retos, nuestro equipo de plataforma se encargó de crear un marco de migración

>

Indira comparte cómo su equipo está explorando activamente varias tendencias tecnológicas emergentes.

¿Puede compartir alguna lección aprendida de la primera oleada de migraciones y cómo influyeron en las oleadas posteriores?

Una lección importante fue la necesidad de realizar un inventario exhaustivo de las aplicaciones y sus . Tuvimos que identificar las organizaciones que teníamos y determinar cuáles requerían nuestros esfuerzos centrados. Nos dimos cuenta de que algunas org de demostración se crearon pero nunca se utilizaron, así que desarrollamos una heurística para evaluar su uso en los últimos seis meses antes de decidir si invertir en migrarlas. Esto era crucial porque incluso el aprovisionamiento conlleva un uso informático, y sería un despilfarro asignar recursos a orgs que no se utilizan.

Preguntas frecuentes

Otra lección fue la importancia de planificar cuidadosamente el orden de las migraciones y abordar cualquier fallo encontrado durante el proceso. Aplicamos esta lección en todas las migraciones que realizamos. Exploramos formas de preconfigurar orgs y hacer que los clientes siguieran apuntando a la pila heredada hasta el último momento posible. Esto implicaba tareas como copiar modelos, aprovisionar orgs y permitir a los clientes realizar predicciones utilizando la pila heredada mientras nosotros migrábamos datos, modelos y aprovisionábamos inquilinos. Una vez que todo estuvo configurado, cambiamos a los clientes al nuevo sistema sin interrupciones

>

Indira explica por qué los ingenieros deberían unirse a Salesforce.

Indira explica por qué los ingenieros deberían unirse a Salesforce

¿Cuáles fueron las principales consideraciones técnicas a la hora de crear las capacidades de IA generativa sobre la nueva plataforma de IA?

Indira explica por qué los ingenieros deben unirse a Salesforce

La principal consideración técnica fue lanzarla sobre la plataforma existente que alberga la mayoría de las capacidades de IA de Salesforce. Este enfoque nos permite aprovechar las innovaciones realizadas en la construcción de la plataforma de nueva generación durante los últimos años. Además, nuestro objetivo era crear abstracciones reutilizables para tareas comunes, permitiendo la rápida integración de las capacidades de IA generativa en las aplicaciones. Aunque algunas aplicaciones nuevas se crearon principalmente con IA generativa, también vimos que las aplicaciones predictivas existentes añadían funciones generativas o sustituían el modelo predictivo por un modelo generativo

Otra consideración importante fue la incorporación de Large Language Model (LLM) Gateway en el descubrimiento de funciones de Einstein y su integración con el ecosistema existente de microservicios.
LLM Gateway admite el enrutamiento de solicitudes de IA generativa a múltiples proveedores de LLM internos y externos, y es una capacidad clave necesaria para admitir cargas de trabajo de IA generativa.

La integración de Large Language Model (LLM) Gateway en el descubrimiento de funciones de Einstein y su integración con el ecosistema existente de microservicios fue otra consideración importante

Esta integración se facilitó tratando la pasarela LLM como un microservicio más, similar a los demás servicios ya existentes. Además, el equipo contaba con integraciones existentes con aplicaciones en la nube para cargas de trabajo predictivas, como la conectividad y autenticación de nube a nube y la capacidad de aprovisionar aplicaciones y gestionar la tenencia. Estas integraciones, junto con la incorporación del Data Cloud, simplificó aún más el proceso general de creación de las capacidades de IA generativa en la nueva Plataforma de IA.

Una mirada al interior de la arquitectura de la nueva plataforma de IA.

Más información

  • ¿Hambre de más historias de Einstein? Echa un vistazo a cómo el nuevo Einstein Copilot para Tableau está construyendo el futuro de los análisis basados en IA.
  • Descubre cómo el nuevo Einstein Copilot para Tableau está construyendo el futuro de los análisis basados en inteligencia artificial
  • Manténgase conectado: únase a nuestra Comunidad de talento!
  • Consulta nuestros equipos de Tecnología y Producto para saber cómo puedes participar.