¿Diseñando experiencias de usuario personalizadas con datos e IA? Tenga esto en cuenta

Hoy en día, más usuarios se sienten cómodos con las empresas que utilizan información personal relevante de manera transparente y beneficiosa. En el estudio Estado del cliente conectado de Salesforce de 2022 , el 61 % de los encuestados informaron un nivel de comodidad con estas prácticas personalizadas de experiencia del usuario. Eso es un aumento del 52% del año anterior. Sin embargo, no existe una definición universal de lo que es transparente y beneficioso.

Los líderes de diseño son a menudo los que terminan determinando cómo se ve una experiencia de usuario ideal y cómo no se ve. Consideremos algunos ejemplos de contexto.

Muchas personas describen experiencias como estas como espeluznantes. Puede cruzar una línea cuando la IA usa información o el comportamiento del usuario desde una ubicación, experiencia o dispositivo diferente, sin una explicación clara o un proceso de consentimiento. Sin embargo, esa línea puede desdibujarse según el usuario y su entorno.

“Los usuarios deben sentir que existe una relación mutuamente beneficiosa entre la empresa y ellos mismos cuando intercambian sus datos por servicios personalizados”, dijo Daniel Lim, director sénior de Salesforce Futures, quien también trabajó en el informe “Ética por diseño” con World Economic Foro (WEF).

Lim recuerda a los diseñadores que el intercambio de valores de hoy todavía es nuevo. Hoy en día, los clientes obtienen experiencias de usuario más personalizadas mientras que las empresas recopilan datos y obtienen conocimientos. Sin embargo, no hace mucho tiempo, los clientes simplemente pagaban por bienes y servicios sin entregar datos personales. Es un nuevo día de información en todas partes. Para 2028, existirán 221 zettabytes de datos en todo el mundo, según la Corporación Internacional de Datos (IDC) . También existen herramientas poderosas en el mercado para desbloquear datos de clientes e información procesable, como nuestra nueva nube de datos de Salesforce .

Al saber esto, Lim reconoce que el acto de diseño de beneficio mutuo es un principio de diseño emergente para construir un futuro con más confianza. Él enfatiza que este tema no puede ser pasado por alto. “Internet cambió la confianza para siempre”, dijo.

Observar el entorno ético.

Habló sobre esto en la serie de podcasts “Voicing Relationships ”, producido en asociación con House of Beautiful Business, la red para la economía centrada en la vida. Además de que la distinción espeluznante/genial es específica del usuario, también es específica de la sociedad.

“Lo que es bueno en la sociedad es completamente contextual”, dijo Lim. “Lo que es ético en una sociedad también es completamente contextual”.

De manera similar, el diseño centrado en el ser humano ofrece una lente para indagar más profundamente sobre lo que es importante para los usuarios. En lugar de hacer suposiciones, tener conversaciones puede revelar ideas que informen cómo son las experiencias de usuario personalizadas. “El futuro de la personalización realmente depende del uso de la tecnología para detectar y responder al contexto de cada individuo, comprender cuáles son sus necesidades y responder sin instrucciones explícitas”, dijo Lim.

Ciertamente, los diseñadores son cada vez más conscientes de cómo evitar diseños engañosos . Ahora, en esta nueva era basada en datos e inteligencia artificial, también es fundamental evitar diseños que los usuarios puedan describir como espeluznantes.

Prevenir la incomodidad del usuario

La incorporación de la ética en los procesos de diseño es un tema que defiende Emily Witt en su función como Directora de Cross Cloud Research & Insights de Salesforce. “Nuestros clientes confían en nosotros para hacer el trabajo duro de crear experiencias confiables. Necesitamos asegurarnos de evitar crear experiencias que se sientan invasivas, manipuladoras o que provoquen ansiedad”.

Ha descubierto que las explicaciones pueden contribuir en gran medida a aumentar la comodidad. Usar un lenguaje que haga que los usuarios se sientan cómodos podría parecer compartir por qué está solicitando información privada o qué información está usando para generar un resultado. También ayuda a comunicar claramente cuándo las empresas emplean IA: una divulgación transparente descrita en la Política de uso aceptable de Salesforce .

Por ejemplo, al nombrar a Tracey Bot, el Bot de Einstein de rastreo de contactos, el equipo incluyó intencionalmente "Bot". Hicieron esto para dejar en claro que AI los está contactando por su salud. Con la información médica personal, existe el riesgo de caer en lo que se conoce como valle inquietante. Para evitar la incomodidad de los usuarios, el equipo incorporó la dirección para que las organizaciones solo envíen un mensaje si un agente puede manejar las llamadas entrantes. Este ejemplo muestra cómo el diseño centrado en el ser humano ayuda a crear experiencias de usuario personalizadas con datos e IA que cumplen con las expectativas del usuario. Incluso pueden generar un sentimiento positivo.

En general, "no seas espeluznante" es un estribillo común en la industria de la tecnología. Las empresas cliente pueden considerar cómo perciben los usuarios el intercambio de valor de datos para la personalización. Requiere una personalización de marketing responsable y principios de diseño de IA responsables . De hecho, así es como allanamos el camino para aumentar la confianza y la lealtad de los clientes . Todo comienza con el diseño de soluciones que mantengan en mente estas ideas emergentes.

…

Esta es una traducción realizada por EGA Futura, y este es el link a la publicación original: https://www.salesforce.com/blog/designing-personalized-user-experiences-with-data-ai-keep-this-in-mind/