Si se está preguntando si necesita implementar herramientas de inteligencia artificial generativa (GAI) para apoyar su negocio, no está solo. Esta tecnología puede aumentar la productividad de los empleados, pero ¿es segura? Aunque estas herramientas pueden ayudar desde el marketing al servicio al cliente pasando por el conocimiento de los datos, los líderes empresariales han planteado su preocupación por el impacto y los peligros potenciales de la IA en la sociedad y algunos están pidiendo una regulación de la IA generativa.
La IA generativa es una tecnología que puede ayudar a mejorar la productividad de los empleados, pero ¿es segura?
Lo que necesitas saber
- Una respuesta global reguladora de la IA ha empezado a cuajar; en Estados Unidos, los legisladores se reunieron con líderes tecnológicos a mediados de septiembre y declararon un acuerdo universal sobre la necesidad de una regulación de la IA.
- La UE ya ha comenzado a auditar los algoritmos de IA y los datos subyacentes de las principales plataformas que cumplen determinados criterios.
- Como responsable de la toma de decisiones empresariales, debe comprender la GAI y cómo afecta a su trabajo con otras empresas y consumidores
«La mayoría de los países sólo intentan garantizar que la IA generativa esté sujeta a las medidas existentes en torno a la privacidad, la transparencia, los derechos de autor y la responsabilidad», afirmó Danielle Gilliam-Moore, Directora de Políticas Públicas Globales de Salesforce.
Lo que su empresa puede hacer ahora
- Revisar los productos de IA generativa que hay en el mercado y ver qué tiene sentido para su empresa.
- Informarse sobre los productos de IA generativa que hay en el mercado y ver qué tiene sentido para su empresa
- Pregunte: ¿Tengo que desarrollarlo internamente o trabajar con un proveedor externo, como Salesforce, para añadir sus productos a nuestra pila tecnológica?
- Pregunte:
- ¿Qué puedo hacer?
- Tenga en cuenta los riesgos
El resumen exec
El clima en torno a la GAI avanza a velocidad de vértigo y los reguladores tratan de entender cómo puede afectar la tecnología a las empresas y al público. He aquí algunos titulares recientes:
La historia de la regulación de la IA generativa
Las preocupaciones en torno a la inteligencia artificial (IA) se remontan a hace años, cuando se hablaba de la posible pérdida de puestos de trabajo, la desigualdad, los prejuicios, los problemas de seguridad y mucho más. Con el rápido crecimiento de la IA generativa tras el lanzamiento público de ChatGPT en noviembre de 2022, entre las nuevas banderas se incluyen:
- Cuestiones de privacidad y minería de datos: Las empresas deben ser transparentes sobre dónde recopilan los datos y cómo los utilizan
- Preocupaciones relacionadas con los derechos de autor: dado que las herramientas GAI se basan en grandes fuentes de datos, aumentan las posibilidades de plagio
- Mala información: La información falsa podría propagarse más rápidamente con los chatbots de IA, que también han creado historias totalmente inexactas llamadas alucinaciones.
- Los chatbots de inteligencia artificial son una fuente de información falsa
- Verificación de identidad: ¿Lo que estás leyendo ha sido creado por un humano o por un chatbot?
- Protección infantil: se ha hecho un llamamiento para garantizar que los niños y los adolescentes estén protegidos frente a los contenidos alarmantes generados por IA en las redes sociales.
Todo esto ha llevado a los reguladores de todo el mundo a investigar cómo las herramientas GAI recopilan datos y producen resultados y cómo las empresas entrenan a la IA que están desarrollando. En Europa, los países se han apresurado a aplicar el Reglamento General de Protección de Datos (RGPD), que afecta a cualquier empresa que trabaje en la UE. Se trata de uno de los marcos jurídicos de protección de la intimidad más estrictos del mundo; Estados Unidos no cuenta con una ley general de protección de la intimidad similar. Esto puede cambiar, con las peticiones de normativas más generativas sobre IA
«Estas son muchas de las preocupaciones que hemos visto anteriormente llegar a las costas de la industria tecnológica», dijo Gilliam-Moore. «Ahora mismo, los esfuerzos reguladores, incluidas las investigaciones, parecen centrarse en la privacidad, la moderación de contenidos y los derechos de autor. Muchas de estas cuestiones ya se abordan en la legislación, por lo que los reguladores están tratando de asegurarse de que todo esto es adecuado para la IA generativa»
¿Qué consideraciones deben tener en cuenta las empresas?
Las empresas siguen preguntándose cómo afectarán estas herramientas a su negocio. No se trata sólo de lo que la tecnología es capaz de hacer, sino también de cómo la regulación influirá en el modo en que las empresas la utilicen. De dónde proceden los datos? ¿Cómo se utilizan? ¿Están protegidos los clientes? ¿Existe transparencia?
Independientemente de dónde haga negocios su empresa o con quién interactúe -ya sea desarrollando la tecnología para que la utilicen otras empresas o interactuando directamente con los consumidores-, asegúrese de hablar con abogados que sigan las normativas sobre IA generativa y puedan ayudarle a guiarle en su proceso.
«Hablar con tus asesores de confianza es siempre un buen primer paso en todo esto», dijo Gilliam-Moore. «La innovación se está produciendo a una velocidad increíble. Así que las conversaciones que mantenemos ahora podrían quedarse obsoletas en los próximos seis meses»
Los reguladores se han preocupado por cómo las empresas recopilan los datos y cómo esa información llega a los usuarios. Contar con una política de uso aceptable -un acuerdo entre dos o más personas (como una empresa y sus empleados o una universidad y sus estudiantes) que defina el uso adecuado cuando se accede a una red corporativa o a Internet- puede ayudar a salvaguardar el cumplimiento de la normativa. Además, es importante mostrar la procedencia de los datos, un rastro documentado que pueda demostrar los orígenes de los datos y dónde se encuentran actualmente
«Sin datos, nada de esto funciona», afirma Gilliam-Moore
¿Necesitas ayuda con tu estrategia de IA generativa?
Tanto si estás empezando con la IA como si ya estás innovando, esta guía es tu hoja de ruta para ofrecer un programa de confianza que combine datos, IA y CRM.
¿Cómo pueden las pequeñas empresas seguir cumpliendo la normativa?
Las grandes empresas pueden invertir a menudo en investigación y desarrollo en torno a la tecnología, especialmente para mantener el cumplimiento. Las empresas más pequeñas pueden no tener los recursos para hacer su debida diligencia, por lo que hacer las preguntas correctas a los proveedores y socios tecnológicos en su ecosistema se convierte en algo importante.
Las empresas más grandes a menudo pueden invertir en investigación y desarrollo en torno a la tecnología, especialmente para mantenerse en cumplimiento
Si bien Salesforce está tomando medidas para desarrollar IA generativa de confianza para sus clientes, esos clientes también trabajan con otros proveedores y procesadores. Necesitan ser conscientes de los daños potenciales que pueden existir y no confiar ciegamente. Gilliam-Moore dijo que las empresas más pequeñas deberían plantearse preguntas como:
- ¿Cumplen con la normativa GDPR?
- Por qué?
- ¿Cumple la HIPAA o cualquier otra ley que regule su sector?
- ¿Cumple la GDPR?
- ¿Dispone de una política de uso aceptable?
- ¿Cuáles son sus certificaciones?
- ¿Cuáles son sus prácticas en torno a los datos?
- ¿Tienen políticas que traten de proporcionar guardarraíles en torno al despliegue de esta tecnología?
«Si usted es una empresa más pequeña, puede que tenga que confiar en la diligencia debida de sus proveedores de servicios externos», dijo Gilliam-Moore. «Mira los protocolos de privacidad, los procedimientos de seguridad, lo que identifican como daños y salvaguardias. Preste mucha atención a eso»
La necesidad de una regulación fiable de la IA
El desarrollo de la IA puede conllevar riesgos. Por este motivo, Salesforce apoya una regulación de IA adaptada y basada en riesgos. Diferencia contextos y usos de la tecnología y garantiza la protección de las personas, genera confianza y fomenta la innovación
