Por Yingbo Zhou y Scott Nyberg
En nuestra serie de preguntas y respuestas «Engineering Energizers», examinamos las experiencias profesionales que han formado a los líderes de ingeniería de Salesforce. Conozca a Yingbo Zhou, Director senior de investigación de Salesforce AI Research, donde dirige su equipo para hacer avanzar la IA, centrándose en los campos del procesamiento del lenguaje natural y la inteligencia de software.
Siga leyendo para conocer los riesgos a los que se enfrenta su equipo a la hora de diseñar nuevas soluciones de IA, su mayor reto técnico, cómo Yingbo impulsa la escala de su equipo y mucho más…
Salesforce AI Research
¿Cuál es la misión de tu equipo de IA?
Nuestro equipo se centra principalmente en dos áreas: el procesamiento del lenguaje natural y la inteligencia de software. Ambas áreas tienen como objetivo agregar representaciones eficientes y eficaces a partir de datos para mejorar el rendimiento en diversas tareas. Nuestro objetivo final es avanzar en el estado del arte en estas áreas y democratizar la IA, haciéndola accesible y beneficiosa para todos
Mi equipo construyó y puso en código abierto el CodeGen large language model (LLM), que sirve de columna vertebral para Einstein for Developers. También colaboramos con otros equipos para dar vida al LLM fundacional de Salesforce, XGen
La etiqueta script debe estar en la cabecera de la página si es posible;
–>
Yingbo profundiza en su equipo.
¿A qué riesgos se enfrenta su equipo en la ingeniería de soluciones de IA?
Un riesgo es la generación de información incorrecta o engañosa por parte de los LLM. Para hacer frente a esto, empleamos técnicas de modelado y nos centramos en la generación fundamentada, proporcionando al modelo información de fondo que respalde sus respuestas. Esto reduce la probabilidad de generar contenido engañoso
También damos prioridad a la fiabilidad colaborando estrechamente con los equipos de producto, recabando las opiniones de los usuarios y mejorando la recopilación de datos para entrenar a los modelos con información relevante.
Además, nos protegemos del exceso de ingeniería, que crea una complejidad innecesaria en el diseño de productos en lugar de centrarse en las necesidades de los usuarios. Esto se consigue alineando nuestro enfoque con las necesidades y prioridades de los clientes a través de sesiones de comentarios de los clientes y estudios de usuarios.
¿Cuál ha sido el mayor reto técnico al que se ha enfrentado su equipo y cómo lo ha superado?
Uno de los mayores retos técnicos a los que nos enfrentamos fue con nuestro proyecto de incubación, CodeGenie – una herramienta de autocompletado para mejorar la productividad interna de los desarrolladores. En un principio, el producto parecía estar bien desde el punto de vista del desarrollo, pero los comentarios de los usuarios fueron decepcionantes, ya que no estaban muy satisfechos con las sugerencias que ofrecía el producto.
El objetivo era mejorar la productividad de los desarrolladores internos
Para superar este reto, nos asociamos estrechamente con otros equipos dentro de Salesforce y recopilamos comentarios detallados. Esta colaboración nos ayudó a identificar áreas de mejora tanto en el modelado como en la experiencia del usuario. También nos asociamos con un equipo de ingeniería para mejorar la ingeniería del producto, lo que ayudó a nuestro equipo a centrarse en mejorar el rendimiento del modelo. Por último, pero no por ello menos importante, recibimos la ayuda de investigadores de la experiencia del usuario que realizaron más entrevistas con usuarios, lo que nos proporcionó información sobre cómo utilizaban los clientes la herramienta y sus puntos débiles
Después de un año de esfuerzo dedicado, hemos visto mejoras significativas, en términos de calidad de salida del producto medido en términos de métricas de producto y adopción. Esta experiencia nos enseñó la importancia de la colaboración, el diseño centrado en el usuario y la iteración continua para superar los retos técnicos y ofrecer un producto mejor.
Un vistazo a CodeGenie.
¿Cómo aborda su equipo los problemas de la IA, como la retroalimentación ruidosa de datos de usuario?
Mi equipo es consciente de que las funciones y preferencias de los usuarios pueden cambiar con el tiempo, lo que dificulta sacar conclusiones significativas en poco tiempo. En otras palabras, el uso de los datos en bruto de los comentarios de los usuarios para iterar en el diseño del producto es un proceso lento. Para solucionar este problema, hemos creado un punto de referencia que se asemeja mucho al caso de uso objetivo para permitir una iteración más rápida del producto
Al aprovechar este punto de referencia, podemos superar el ruido de los datos de usuario y realizar mejoras informadas rápidamente. Este enfoque, combinado con nuestra colaboración continua con otros equipos y nuestro compromiso con el rigor académico, nos ayuda a superar los retos y avanzar en nuestra investigación sobre IA y en el desarrollo de productos
¿Cómo impulsa la escala de su equipo de IA?
Para impulsar la escala, nos centramos en automatizar tareas o procesos repetitivos, lo que reduce significativamente el tiempo de desarrollo y aumenta la eficiencia. Por ejemplo, automatizamos tareas como el preprocesamiento de datos, lo que ahorra tiempo y garantiza la coherencia
También estamos automatizando el proceso de evaluación de modelos, lo que permite a los interesados no técnicos explorar e interactuar fácilmente con nuestros modelos. De este modo se reduce la brecha de comunicación y se permite a los demás comprender y utilizar nuestro trabajo con mayor eficacia.
Además, creamos repositorios comunes dentro de nuestro equipo, como bibliotecas y documentación, para aprovechar el trabajo existente, impulsar la colaboración entre proyectos y acelerar el desarrollo
Por último, celebramos reuniones de equipo periódicas en las que compartimos nuestros avances y conocimientos. Estas reuniones fomentan un entorno abierto y colaborativo, maximizando la productividad y aprovechando los conocimientos y recursos colectivos.
>
Yingbo nos cuenta por qué su papel le entusiasma.
¿Qué ha aprendido sobre el liderazgo desde que se unió a Salesforce?
Inicialmente, consideraba el liderazgo principalmente como la gestión de personas y tareas. Sin embargo, he aprendido que es más que eso: se trata de tratar a los miembros del equipo como individuos únicos, valorando sus contribuciones, creyendo en sus habilidades y creando confianza para crear un entorno de trabajo significativo.
En última instancia, el aprendizaje más significativo que tengo es la importancia de capacitar a las personas para que hagan su mejor trabajo y ayudarles a superar los retos a los que se enfrenten.
Más información