Introducción
La IA no solo está transformando nuestras herramientas, sino la forma en que pensamos sobre las herramientas, de algo que simplemente utilizamos a algo más parecido a un socio; una tecnología en la que delegamos tareas e incluso con la que colaboramos. De hecho, la noción de sistemas autónomos de IA -es decir, sistemas que pueden ejecutar tareas, ya sea en apoyo o en nombre de los humanos, con diversos grados de autonomía- está emergiendo rápidamente como un patrón de diseño definitorio de la era: uno o más modelos (como los Large Action Models de los que he hablado recientemente) dotados de la capacidad de aprovechar herramientas externas, acceder a información actualizada más allá de sus datos de entrenamiento, y accesibles en toda una organización a través de API, todos unidos por una interfaz conversacional que les permite interactuar con los usuarios a través del lenguaje natural. Y el ritmo se acelera: de hecho, Gartner predice que en 2028 las interacciones con agentes representarán un tercio de todo el uso de IA generativa en la empresa.
Pero esto es lo más importante de los sistemas autónomos de IA: tienen una notable capacidad para evolucionar con el tiempo y de distintas maneras. La primera se aplica a lo que yo llamo Asistentes de IA que se adaptan de forma única y personalizada para comprender mejor a un único usuario. El segundo se verá en lo que yo llamo Agentes de IA, que encajan en un equipo u organización de una forma más colaborativa y abierta, utilizando esos mismos poderes de personalización para captar lo que más importa a sus organizaciones y compañeros: prácticas, procesos, herramientas y mucho más. En pocas palabras, los asistentes de IA están diseñados para ser personalizados, mientras que los agentes de IA están diseñados para ser compartidos (y ampliados), y ambas técnicas prometen oportunidades extraordinarias en toda la empresa.
El-poder-del-aprendizaje-con-el-tiempo
Ambos tipos de sistemas autónomos de IA (asistentes y agentes de IA) se definen por su agencia, es decir, su capacidad para actuar de forma significativa, a veces completamente solos, en la búsqueda de un objetivo organizativo compartido. Podemos interactuar con ellos igual que lo hacemos con nuestros compañeros de trabajo humanos: haciéndoles preguntas, dándoles órdenes y confirmando nuestros deseos. También pueden responder, ya sea presentando una propuesta para su aprobación o simplemente aclarando un detalle. Y como tienen el potencial de llegar a conocernos con el tiempo, recordando lo que hemos hecho y dicho en el pasado, la profundidad y la eficiencia de estas interacciones aumentarán.
Esta noción de aprender y mejorar a través de la repetición es una parte fundamental de todos los agentes, pero existen diferencias cruciales en cómo lo harán. En el caso del asistente de IA, el aprendizaje es una parte esencial del desarrollo de una relación de trabajo más receptiva y eficiente a lo largo del tiempo. Identificará hábitos, expectativas e incluso ritmos de trabajo propios de cada persona. Naturalmente, sin embargo, la privacidad y la seguridad son aspectos innegociables; por muy potente que sea, nadie quiere un asistente en el que no pueda confiar.
Esta dimensión de la confianza también será fundamental para los agentes de IA.
Pero, cuando se trata de aprender, y a diferencia de los asistentes de IA, los agentes de IA están pensados para aprender prácticas compartidas, como herramientas y flujos de trabajo en equipo. Y lejos de ser privados, aprenderán el tipo de información que cada instancia de dichos Agentes de IA -tanto si una organización despliega 10 como 10.000- debería difundir lo antes posible. En otras palabras, a medida que cada Agente de IA individual mejore su rendimiento a través del aprendizaje y la experiencia de campo, todos los demás trabajadores de ese tipo deberían obtener las mismas ganancias, inmediatamente.
Por último, ambos tipos de sistemas autónomos de IA deberían ser capaces de aprender de fuentes externas -imagina, por ejemplo, una actualización que se extienda a toda una empresa, asegurando que cada agente desplegado esté al día instantáneamente con una nueva aplicación, función o cambio de política.
Resolver problemas a todas las escalas, desde la personal hasta la organizativa
Los agentes de la IA están especializados y existen dos formas principales. El más sofisticado de los dos asumiría tareas significativas en ámbitos como el marketing, las ventas, la atención al cliente y la informática, y puede interactuar con un equipo a través de la comunicación en lenguaje natural. Pueden responder a solicitudes a través de plataformas de mensajería, acceder a información y recursos compartidos e incluso participar en conversaciones, tal vez uniéndose a una sesión de intercambio de ideas o a una reunión inicial como lo haría una persona. Imaginemos, por ejemplo, tareas que normalmente tienden a interponerse en el camino de un trabajo más significativo: Los agentes de IA pueden tomar el relevo, listos para trabajar junto a las personas en tareas individuales, proyectos de grupo y cualquier otra cosa que su organización pueda necesitar. Estos agentes de IA pueden rellenar inmediatamente los huecos donde se justifique, al tiempo que permiten a los trabajadores humanos incorporarse más rápidamente, enfatizar su afinidad natural por las habilidades blandas y centrarse más en el diseño y los aspectos creativos de un proyecto.
Yo llamo a la más simple de las dos formas «Task Bots» Están mucho más enfocados que los Agentes de IA completamente realizados, diseñados para realizar cargas de trabajo similares pero sin el énfasis en la comunicación humana, lo que los hace más como una herramienta de tarea única. Los robots de tareas están diseñados para prestar apoyo entre bastidores: tanto los agentes como los asistentes de IA pueden instanciarlos de forma flexible, según sea necesario, aumentando su capacidad para resolver problemas caso por caso y haciendo un uso más eficiente de los recursos generales de una organización. Los robots de tareas y los agentes de IA a gran escala pueden parecer conceptualmente distintos, pero en realidad sólo difieren a nivel de implementación en la práctica. Interactuamos con ellos de forma diferente, pero en el fondo tienen la misma capacidad para hacer el trabajo. Curiosamente, la investigación muestra sistemáticamente que la IA funciona mejor cuando se divide en múltiples agentes creados específicamente, cada uno diseñado con diferentes tipos de «experiencia» en mente; de hecho, esta forma de especialización es un caso de uso principal para el caso que presenté recientemente de LLM más pequeños y a medida que contrastan poderosamente con los gigantes de parámetros multimillonarios que generan tantos titulares. Al igual que ocurre con las organizaciones tradicionales, se trata de un enfoque que permite resolver los problemas más pequeños de forma más eficiente, y quizás incluso en paralelo, mediante una coalición de agentes de IA creados a tal efecto.
Aplicaciones e impacto en el mundo real
En conjunto, estas ideas suponen nada menos que una revolución en nuestra forma de trabajar. Ya estamos explorando casos de uso que van desde la capacitación de ventas y el servicio de atención al cliente hasta el soporte informático completo, con muchos más por venir. Imaginemos, por ejemplo, una apretada agenda de reuniones de ventas, desde videollamadas a viajes en persona por todo el mundo, que se extienden a lo largo del mes más ajetreado de la temporada. Es una realidad ajetreada para los profesionales de ventas de casi todos los sectores, pero se hace mucho más compleja por la necesidad de curar manualmente el creciente tesoro de datos de CRM generados por el camino. Pero, ¿qué pasaría si un asistente de IA, incansable acompañante de una reunión a otra, rastreara automáticamente todos los detalles relevantes y los organizara con gran precisión, con la capacidad de responder a preguntas a petición sobre todo ello? ¿Cuánto más fácil sería esa agenda? ¿Cuánto más alerta y presente estaría el vendedor, sabiendo que su única responsabilidad era centrarse en la conversación y en la formación de una relación significativa?
Lo que es especialmente interesante es visualizar cómo funciona todo esto. Imagina a tu asistente de IA como el agente presente durante cada reunión, siguiendo la conversación de un momento a otro y desarrollando un conocimiento cada vez más profundo de tus necesidades, comportamiento y hábitos de trabajo, haciendo hincapié, por supuesto, en la privacidad. Sin embargo, a medida que su asistente de IA reconoce la necesidad de realizar tareas específicas, desde recuperar información organizativa como CRM hasta buscar información en Internet, resumir notas de reuniones o algo totalmente distinto, delega subtareas específicas para pasarlas a agentes de IA (para subtareas de nivel superior) o directamente a Bots de Tareas (para subtareas específicas únicas), que pueden instanciarse según sea necesario para ayudar al asistente a lograr un objetivo general en nombre de su usuario. Se parece a esto:
![](https://blog.salesforceairesearch.com/content/images/2024/08/Screenshot-2024-08-01-at-1.00.14-PM.png)
En el otro extremo del espectro, imagínese cuántas solicitudes de asistencia recibe a lo largo del día un departamento de TI medio, incluso en una pequeña o mediana empresa, por no hablar de una empresa global. La atención humana siempre será apreciada en el caso de retos complejos e inusuales que requieran todo nuestro ingenio. Pero la inmensa mayoría de las soluciones diarias son mucho menos singulares. Tanto para los clientes como para el personal de asistencia, esto es lo peor de ambos mundos: incluso los problemas triviales provocan los mismos retrasos y quebraderos de cabeza que los graves. Una vez más, los agentes de IA pueden cambiar todo esto. Con sus capacidades similares a las humanas para conversar y formular soluciones y planes, pueden hacerse cargo eficazmente de grandes cantidades de solicitudes entrantes. Entre bastidores, estos Agentes de IA se pondrán en contacto con los robots de tareas para convertir una solicitud en una solución, por ejemplo, recuperando información o generando un resumen en lenguaje sencillo del resultado. Una vez más, los Agentes de IA pueden ser instanciados según las necesidades de los gestores humanos, ampliándose y reduciéndose de forma natural en función de la demanda, todo ello funcionando a máxima velocidad 24/7/365. Y, por supuesto, promete aliviar la sobrecarga de trabajo de los profesionales informáticos y reducir los tiempos de espera de los clientes y las organizaciones en su conjunto.
Los retos futuros
Como siempre, conseguir algo tan impactante no será fácil, y nos esperan retos de naturaleza técnica, social e incluso ética. El principal de ellos es el reto de la persistencia y la memoria. Si lo deseamos, los asistentes de IA nos conocerán bien, desde nuestros planes a largo plazo hasta los hábitos diarios y las peculiaridades que nos hacen únicos como individuos. Debemos esperar que cada nueva interacción se base en experiencias anteriores, igual que hacemos con nuestros amigos y compañeros de trabajo. Por otro lado, los agentes de IA no están diseñados para ser personalizados de la misma manera, pero deben expresar una personalidad propia, una especie de personalidad digital configurada para adaptarse a las necesidades de su función y del equipo en el que están integrados. Un agente IA de marketing puede ser extravagante y creativo, mientras que un agente IA de ventas puede ser todo negocios, hipercentrado y agresivamente orientado a objetivos. Y, por supuesto, decidir qué tareas, acciones y flujos de trabajo deben asignarse a los trabajadores humanos frente a sus colegas agentes de IA es un pilar central de este debate en evolución. Los costes de computación y almacenamiento, las consideraciones de latencia e incluso las limitaciones algorítmicas son factores que complican nuestros esfuerzos por construir sistemas de IA autónomos con una memoria rica y robusta y atención al detalle. También tenemos mucho que aprender de nosotros mismos; pensemos en la forma en que «eliminamos» de forma natural los detalles innecesarios de lo que vemos y oímos, reteniendo sólo aquellos detalles que imaginamos que serán más relevantes en el futuro en lugar de intentar hazañas irracionales de memorización por fuerza bruta. Ya sea en una reunión, en una clase o incluso en una conversación con un amigo, los humanos somos extraordinariamente buenos comprimiendo minutos o incluso horas de información en unos pocos puntos clave. Los asistentes de IA tendrán que tener capacidades similares. Creo que el progreso es alentador, e incluso dentro de mi propio equipo de investigación aquí en Salesforce, superar estos retos es un esfuerzo emocionante y a largo plazo.
Luego, incluso más importante que la profundidad de la memoria de un asistente o agente de IA es nuestra capacidad para confiar en lo que sale de ella. A pesar de su extraordinario poder, la IA generativa sigue estando a menudo acosada por cuestiones de fiabilidad, ya que términos como «alucinación» han entrado en el léxico público. En el fondo, sin embargo, las alucinaciones no son ningún misterio: suelen producirse cuando un modelo carece de la información necesaria para responder a una pregunta con precisión y, para empezar, no es consciente de dónde están esas lagunas en su conocimiento. La propensión de un asistente o agente de IA al aprendizaje continuo contribuirá a subsanar estas carencias, pero hay que hacer más en el camino. Una medida es la práctica cada vez más extendida de asignar puntuaciones de confianza a los resultados del LLM para ayudar a los usuarios a evaluar hasta qué punto pueden tomarse al pie de la letra. Además, la Generación de Recuperación Aumentada (Retrieval Augmented Generation, RAG) es una de las cada vez más numerosas técnicas que permiten a los humanos trabajar de forma proactiva con la falta de información de un LLM acoplando información relevante a cada solicitud (una colección de documentos relevantes o entradas de bases de conocimiento, por ejemplo, junto con una solicitud para procesar o responder preguntas sobre su contenido de alguna forma), lo que garantiza que el modelo disponga de los recursos que necesita desde el principio.
![](https://blog.salesforceairesearch.com/content/images/2024/08/ethics.png)
Imagino que las consideraciones éticas serán igualmente complejas. Por ejemplo, ¿la aparición de redes de sistemas autónomos de IA, así como de equipos de agentes de IA, traerá consigo la necesidad de protocolos y normas totalmente nuevos? En concreto, ¿cómo deben comunicarse entre sí estos agentes y equipos? ¿Cómo deben llegar a un consenso, resolver disputas y ambigüedades y desarrollar la confianza en una determinada línea de actuación? ¿Cómo podemos calibrar su tolerancia al riesgo o su enfoque de objetivos conflictivos como el gasto de tiempo frente al de dinero? E independientemente de lo que valoren, ¿cómo podemos asegurarnos de que sus decisiones sean lo más transparentes posible y fácilmente escudriñables en caso de un resultado que no nos guste? En resumen, ¿qué aspecto tiene la rendición de cuentas en un mundo de automatización tan sofisticada?
Una cosa es segura: la gestión humana debe ser siempre la línea de fondo en cómo, cuándo y por qué se despliegan los agentes digitales. Creo que los agentes digitales de IA en particular pueden ser una poderosa adición a casi cualquier equipo, pero sólo si los miembros humanos de ese equipo son plenamente conscientes de su presencia y tienen la confianza de que los gerentes que ya conocen y confían están totalmente en control. Además, creo que todas las interacciones con todas las formas de IA deberían estar claramente marcadas como tales, sin ningún intento -bien intencionado o no- de difuminar las líneas entre humano y máquina. Estoy totalmente en contra de cualquier tipo de engaño sobre cómo se presentan estos agentes al mundo. Tan importante como la formalización de protocolos bien pensados para la comunicación entre estos agentes, serán los protocolos para la comunicación entre la IA y los humanos.
Conclusion
Incluso después de años en los que la IA ha cambiado el mundo una y otra vez -o al menos, ciertos aspectos de él-, la aparición de sistemas de IA autónomos, flexibles y fiables puede anunciar la mayor transformación hasta la fecha en nuestra forma de vivir y trabajar. Queda mucho por hacer, tanto en términos de implementación tecnológica como de prácticas y orientación necesarias para garantizar que su impacto sea beneficioso y equitativo. Pero muchos de sus beneficios ya se están revelando, y cada día me acuerdo de lo único y profundo que está demostrando ser este capítulo de la historia de la IA.
Alex Varanese ha colaborado en la elaboración de este artículo.
Alex Varanese ha colaborado en la elaboración de este artículo.
Alex Varanese ha colaborado en la elaboración de este artículo