Para celebrar el Mes de la Historia de la Mujer, la Red de Mujeres de Salesforce organizó su evento inaugural del Día de la Mujer en la IA el 26 de marzo en la Torre Salesforce de San Francisco. El evento reunió a mujeres de Salesforce que lideran el trabajo sobre IA ética y responsable en Salesforce.
Este fue un evento dinámico centrado en explorar la intersección de la inteligencia artificial (IA) y la diversidad de género. A través de interesantes mesas redondas y ponencias que invitaron a la reflexión, los asistentes profundizaron en temas críticos como la ética de la IA, el desarrollo de la IA, la diversidad y la inclusión en la IA y la accesibilidad de la IA. Paula Goldman, Vicepresidenta Ejecutiva y Directora General de Ética y Uso Humano, dirigió nuestro debate principal sobre por qué la diversidad es fundamental para la confianza, la adopción y el éxito de la IA. Destacó la necesidad de que las mujeres y los grupos tradicionalmente infrarrepresentados estén representados en el desarrollo y el uso de las nuevas tecnologías. Adoptar la experimentación de la IA entre poblaciones diversas no es un mero acto de inclusividad; es un imperativo empresarial estratégico para poder atender las diferentes necesidades de los clientes en toda una gama de orígenes y perspectivas». Paula se centró en sus aspiraciones para la IA:
- La IA tiene que servir a los humanos, y no al revés
- La IA debe ser nuestro copiloto, no un piloto automático
- La IA debe ser inclusiva. En particular, la IA debe impulsar la accesibilidad
- Es importante que todos nosotros participemos y estemos representados
Siga leyendo para conocer más aspectos destacados del evento y para conocer a nuestras Mujeres en la IA que hablaron en el evento y a las que reconocemos como líderes en Salesforce que trabajan a diario para garantizar el desarrollo y la adopción equitativos de productos de IA.
La ética detrás de la IA
Inicié mi charla, Introducción a la ética de la IA, haciendo referencia a una de mis citas favoritas: «Todos los movimientos de justicia social que conozco han surgido de personas que se sientan en pequeños grupos, cuentan sus historias de vida y descubren que otras personas han compartido experiencias similares» – Gloria Steinem, periodista y activista social estadounidense
Construir una tecnología que beneficie a todos los miembros de la sociedad por igual es un movimiento de justicia social. La confianza es nuestro valor número uno en Salesforce y nuestros clientes no confiarán en ninguna tecnología que no sea segura, inclusiva y precisa. He compartido cómo todos podemos implicarnos para garantizar que Salesforce afronta el momento de forma responsable manteniendo a un humano al timón de nuestro diseño de IA y ayudando al sector a definir cómo son realmente las interacciones de confianza entre humanos e IA». Paula Goldman hizo hincapié en la importancia del papel humano en la IA genérica,
«Es muy importante que cuando diseñemos la IA, lo hagamos para el florecimiento o el aumento humano. Nuestro objetivo es permitir que las personas hagan lo que sólo ellas pueden hacer en su trabajo y que los seres humanos tengan el firme control de la dirección del barco.»
Desarrollar habilidades de IA para el éxito
Irina Malkova, Vicepresidenta y Directora de Análisis de TMP, dio comienzo a una inspiradora introducción sobre las habilidades para el éxito en IA, compartiendo sus experiencias y aprendizajes en el camino hacia una carrera en IA. Irinia dijo: «No me considero necesariamente una experta en IA, sino más bien una experta en el cambio» Emily Witt, Director, Research and Insights señaló que para afectar realmente a este cambio en la tecnología,
«Me acerco a la IA con un profundo compromiso con poner a los seres humanos en el centro de la forma en que estamos construyendo esta tecnología, y no creo que necesites una formación técnica para hacer eso.»
La moderadora Suchi Das, Directora del Programa Técnico Senior y Presidenta de Crecimiento de la Red de Mujeres de Salesforce, se hizo eco del énfasis de las panelistas en la experiencia adquirida en el trabajo: «Como alguien que tiene un título en informática, creo que hay mucho más fuera del título, como la experiencia laboral, que puede ayudarte a empezar»
En Salesforce vemos el aprendizaje de nuevas habilidades de IA como una oportunidad, desalentadora sí, pero una gran oportunidad para mejorar nuestra visión empresarial individual, fuera de las habilidades técnicas. Como dijo Armita Peymandost, SVP de Ingeniería de Software, «hay muchas oportunidades en la IA más allá de la ingeniería» Tanto es así que una encuesta reciente descubrió que el 67% de los líderes empresariales globales están considerando usar IA generativa, pero aproximadamente el mismo número de líderes de TI dicen que sus empleados no tienen las habilidades para usarla. Aunque puede parecer abrumador, me inspira la cantidad de herramientas que tenemos, sin coste alguno, en Trailhead para pasar a la acción y empezar a aprender. Siempre recomiendo comenzar con nuestra creación responsable de AI Trailhead para realmente fundamentar el aprendizaje en la ética y el uso responsable.
Es fácil sentirse abrumado al iniciarse en la IA o asimilar nuevos conceptos. Annie Zhang, arquitecta de ingeniería de software, compartió sus consejos para enfrentarse a la rápida evolución de las tecnologías de IA: «Céntrate en las habilidades prácticas más que en los fundamentos teóricos… esto puede ser útil para los principiantes. Una vez que eres capaz de profundizar en el trabajo teórico, es una especie de madriguera de conejo en la que se te puede enredar el cerebro. El otro enfoque sería fijarse objetivos realistas. Resérvese un tiempo cada día o una vez a la semana para conseguir un pequeño hito»
Abrazando la diversidad
Como pioneros y desarrolladores, Salesforce se encuentra en una posición única para dar forma al futuro de la IA y garantizar que la IA la construyan todos y para todos. Debatimos la importancia de la diversidad en la educación, las experiencias laborales y las vividas. Durante el panel sobre la aceptación de la diversidad con Kai Nunez, Vicepresidente de Investigación e Información, Sanjna Parulekar, Vicepresidente de Marketing de Productos, Aekta Shah, Investigadora Principal de Investigación e Información, Sara Tangdall, Directora de Gestión de Productos, y Shelby Heinecke, Directora Senior de Investigación, el tema que resonó fue: no podemos tener una IA fiable sin diversidad en la IA. La diversidad es una fuente de innovación y diferenciación que nos brinda la oportunidad de liderar. Como afirmó Paula en su discurso de apertura, «no es sólo lo correcto, es una fuente de innovación y nos permite servir a nuestros mercados»
La moderadora del evento, Emily Belke, Arquitecta de soluciones senior y Presidenta de filantropía de la Red de mujeres de Salesforce, planteó la siguiente pregunta: «¿Cuáles son algunos de los pasos reales que debería dar el sector de la IA para garantizar que las personas de orígenes diversos no sólo se incluyan, sino que se valoren?» En respuesta, Aekta Shah profundizó en la importancia de crear productos de IA con la diversidad como prioridad,
«¿Se construye con o se construye para? En el mundo del diseño centrado en el ser humano, ha habido un movimiento hacia el diseño y la construcción para frente al diseño y la construcción con. Cuando se piensa en esas dos palabras (para/con) a un nivel intuitivo, la gente sabe cuándo se ha construido algo para ellos frente a cuándo se ha construido algo con ellos.»
Entendiendo la regulación
Más tarde moderé un panel con nuestros expertos Lindsey Finch, EVP, Global Privacy & Product Legal, Rachel Gillum, Vice President, Ethical & Humane Use Policy, y Danielle Gilliam-Moore, Director, Global Public Policy para discutir los esfuerzos actuales para establecer estándares, marcos y el futuro de la regulación de la IA. Hablamos del Marco de Gestión de Riesgos del Instituto Nacional de Normas y Tecnología (NIST) y de nuestra respuesta a la Orden Ejecutiva de la Casa Blanca que distingue los sistemas de los modelos y sigue fomentando la innovación responsable. Rachel Gillum describió el panorama siempre cambiante del cumplimiento: «Hace tiempo que tenemos normas y directrices para nuestro uso de la IA en nuestra Política de Uso Aceptable… es un proceso continuo de actualización a medida que salen a la luz nuevas capacidades y surgen nuevos riesgos.» Si queremos generar confianza en la IA, debemos adoptar de todo corazón una cultura que celebre y adopte la seguridad como algo central en el desarrollo y despliegue de la IA.
Danielle Gilliam-Moore explicó la importancia de la política pública global en los tratos con la IA en relación con la Orden Ejecutiva sobre IA de la Casa Blanca y otras relaciones gubernamentales similares de gran impacto: «Hemos estado colaborando con los gobiernos para garantizar que Salesforce, nuestros clientes y la IA de CRM empresarial estén realmente representados … estamos aquí si tienen preguntas porque se trata de temas y tecnología complicados» Se nos concedió una visión de las complejidades legales involucradas con el cumplimiento y la IA como Lindsey Finch compartió puntos de vista,
«Tenemos una perspectiva realmente buena sobre cómo la regulación de esta tecnología podría afectar a muchas industrias diferentes, regiones y tamaños de empresas en todo el mundo y representamos a todo ese ecosistema cuando nos reunimos con los responsables políticos.»
Accessible AI for all
Más tarde aprendimos sobre lo que todos podemos hacer para garantizar que la IA funcione para todos. Garantizar que la IA sea inclusiva y accesible para todos es fundamental para evitar posibles barreras de acceso. Jacqui Tolisano compartió que el equipo de Accesibilidad de Productos y Diseño Inclusivo está llevando a cabo un importante trabajo para salvaguardar todos nuestros productos de IA para asegurarnos de que cumplen con los estándares de accesibilidad a través de un nuevo programa piloto llamado Soporte Integrativo. Dentro de este programa, proporcionamos asistencia específica a los equipos de productos de IA para incorporar la accesibilidad a los productos desde el principio. Una de las formas en las que Salesforce se asegura de que las personas con discapacidad tengan voz en nuestros productos es a través de una asociación que tenemos con Fable para realizar pruebas de accesibilidad con usuarios, con el fin de obtener información de los usuarios de tecnologías de asistencia para informar sobre la estrategia y el desarrollo de productos y detectar problemas de accesibilidad de forma temprana. Uno de los probadores de Fable dijo recientemente: «Tengo problemas de audición y me cuesta mucho mantener conversaciones telefónicas. Al mismo tiempo, no me gusta pedir a otras personas que hagan las llamadas por mí porque nunca harán las cosas como yo las haría. Me gustaría poder decirle a la IA lo que quiero que haga y dejar que se encargue de las llamadas por mí.» Esto es lo que entendemos por capacitar.
Además de nuestro apoyo integrador a la accesibilidad, también buscamos oportunidades para realizar pruebas de usuario con personas con discapacidad a través de nuestras asociaciones. Al probar nuestros productos con personas con distintas discapacidades y que utilizan distintos dispositivos de asistencia, podemos mejorar la experiencia de usuario para todos. Crystal Preston-Watson, Analista Senior de Accesibilidad Digital hizo hincapié en la urgencia de incluir la accesibilidad y realizar pruebas adecuadas en la IA,
«… corremos el riesgo de ampliar la brecha digital. Esta brecha separa a aquellos que pueden beneficiarse de la IA de aquellos que se quedan atrás o incluso se ven perjudicados por las consecuencias imprevistas de la misma.»
Conozca a las mujeres que están llevando a cabo el cambio en Trusted AI en Salesforce
Conozca a algunas de las voces del evento, nuestras mujeres de Salesforce en Trusted AI están afectando al cambio cada día en sus funciones.
En qué está trabajando Kathy: Colaborando con AI Research y nuestros equipos de producto para garantizar que nuestros modelos se desarrollan e implementan de forma responsable. Trabaja con nuestros equipos de asuntos jurídicos y gubernamentales para colaborar con los responsables políticos de todo el mundo en materia de normas, marcos y reglamentos sobre IA.
En qué está trabajando Emily: Implementación de Salesforce Data Cloud para clientes empresariales, preparando a estos clientes para hacer el mejor uso de CRM + AI + Data. Perfeccionar a nuestros equipos de entrega de servicios profesionales en Data Cloud mediante formación y capacitación, y continuar este aprendizaje manteniendo una estrecha comunidad de arquitectos que comparten sus conocimientos.
En qué está trabajando Suchi: Migración de Tableau Cloud a Hyperforce, incluidas las operaciones de la ingeniería central de Tableau Cloud como director técnico sénior de programas. Como presidenta de crecimiento global de la red de mujeres de Salesforce, trabaja en la paridad de género en el liderazgo.
En qué está trabajando Lindsey: Asesorar a la organización de tecnología y productos de Salesforce sobre cuestiones legales, incluidas las relacionadas con la IA y el uso de datos, durante todo el ciclo de vida de desarrollo del producto. Trabajar con los clientes y socios de Salesforce para promover el uso de nuestros productos de acuerdo con los requisitos de privacidad y colaborar con la organización de asuntos gubernamentales de Salesforce en la defensa de la privacidad y el uso responsable de los datos.
En qué trabaja Rachel: Impulsar el uso responsable de productos a través de la política de uso aceptable de IA de Salesforce. Colaboración con responsables políticos y organizaciones de la sociedad civil de todo el mundo sobre normas, mejores prácticas, marcos y reglamentos de IA.
En qué está trabajando Danielle: Trabajar en las diferentes organizaciones de Salesforce para garantizar que Salesforce cuenta con posiciones de política pública global consistentes y coherentes en nuestros asuntos más importantes, como la IA.
En qué está trabajando Paula: Dirigir la Oficina de uso ético y humano de Salesforce, guiando el diseño, desarrollo e implementación responsables y accesibles de las tecnologías de Salesforce.
En qué trabaja Shelby: Liderar un equipo de investigadores de IA para desarrollar IA de vanguardia para los productos actuales y futuros de Salesforce. Se centra en las próximas fronteras de la IA, incluidos los agentes impulsados por LLM, la IA en dispositivos y mucho más.
En qué está trabajando Irina: Creación de productos de datos e IA para ayudar a los equipos de creación a lograr la usabilidad y encontrar la adecuación del producto al mercado y ayudar a los directores generales a impulsar el crecimiento con información sobre los productos. Democratizando datos en Tech & Product.
En qué trabaja Kai: Dirigir un equipo de investigadores de métodos mixtos, analistas y científicos de datos centrados en ofrecer Insights & Research en toda la cartera de productos y servicios de la plataforma Einstein 1, incluidos, entre otros, AI, Data, Marketing, Platforms & Integrations.
En qué trabaja Sanjna: Dirigiendo el equipo de marketing de producto para todo lo relacionado con la IA en Salesforce.
En qué está trabajando Armita: Einstein Copilot, Model Builder para Data Cloud, y llevando la IA generativa a los productos de Service y Sales Cloud.
En qué trabaja Crystal: Defender la accesibilidad en Salesforce y garantizar que los activos y herramientas digitales sean accesibles para todos los empleados.
En qué está trabajando Aekta: Investigando cuestiones estratégicas de alta prioridad relacionadas con la creación de los productos de IA más fiables en todas las nubes de Salesforce.
En qué está trabajando Sara: Escalando las revisiones éticas de productos en todo Salesforce y realizando revisiones éticas de los lanzamientos de IA para varias nubes de Salesforce.
En qué está trabajando Jacqueline: Ampliar nuestro programa de apoyo integrador para incluir más ingenieros de accesibilidad digital que proporcionen asesoramiento y orientación especializados a más equipos de producto para garantizar que la accesibilidad se incorpora a lo largo de todo el ciclo de vida del producto. Además, se está planificando la creación de un Consejo Asesor de Accesibilidad que se pondrá en marcha este año y en el que participarán directivos de toda la organización para garantizar la alineación con la estrategia de accesibilidad y las mejores prácticas del sector.
En qué trabaja Emily: Incorporar las perspectivas y experiencias de clientes y usuarios a nuestra creación de productos de IA, de modo que comprendamos lo que necesitan las personas que desempeñan diversas funciones con experiencias diversas para garantizar un uso responsable y equitativo de la IA.
En qué está trabajando Kris: En asociación con la Oficina de Igualdad, Research & Insights, y UX para crear oportunidades significativas para que los empleados se involucren en el desarrollo de una IA responsable. Además de esto, la asociación con el equipo de AI Trust UX para dar vida a los patrones de Human at the Helm UX en nuestros productos.
En qué está trabajando Annie: Personalización de Copilot, Acción FindSimilarRecords de Copilot y aplicaciones de IA relacionadas.
