Cómo Salesforce crea una infraestructura de Red Teaming reproducible

Introducción

Imagina que estás trabajando en un producto de IA que puede resumir las llamadas telefónicas de éxito de los clientes con fines de formación. El producto de su empresa utiliza grandes modelos lingüísticos (LLM) para resumir, sintetizar, clasificar y generar resultados relevantes. Es consciente de que los LLM pueden alucinar, generar resultados perjudiciales o sesgados

Seguir leyendo

Presentación de Generative Canvas: Experiencia de usuario generada dinámicamente, basada en datos y flujos de trabajo fiables

TLDR; Salesforce acaba de lanzar Generative Lightning Canvas (Piloto) en AppExchange, lo que permite a los usuarios visualizar e interactuar fácilmente con sus datos empresariales y flujos de trabajo de una forma completamente nueva.

Seguir leyendo

Aceleración de la evaluación y el ajuste de modelos con SFR-Judge

A medida que se acelera el desarrollo y despliegue de grandes modelos lingüísticos (LLMs), la evaluación de los resultados de los modelos se ha vuelto cada vez más importante. El método establecido para evaluar las respuestas normalmente implica reclutar y entrenar a evaluadores humanos, hacer que evalúen las respuestas del modelo y luego auditar la calidad de las evaluaciones. Por desgracia, este proceso no

Seguir leyendo

Las acciones hablan más que las palabras: Presentación de xLAM, la familia de grandes modelos de acción de Salesforce

Hemos introducido xLAM, nuestra familia de modelos internos de grandes acciones, diseñados para la llamada a funciones, el razonamiento y la planificación. Estos modelos están diseñados para agilizar y simplificar la integración de la IA en sus flujos de trabajo, reduciendo la complejidad a menudo asociada con los LLM.

Seguir leyendo

xLAM: una familia de grandes modelos de acción para agentes de IA

Huan Wang, Shelby Heinecke, Juan Carlos Niebles, Caiming Xiong

image.png

TL;DR: Lanzamos xLAM, una serie de LLMs optimizados para la llamada a funciones y Agentes AI. Ofrece varias variantes diseñadas para servir a diferentes dominios de aplicación, desde el uso móvil hasta contextos de rendimiento de alta demanda. Muestran un rendimiento competitivo en varios agentes clave

Seguir leyendo

Las prácticas de hacking ético demuestran su eficacia para garantizar la fiabilidad de los productos de IA

Salesforce premia con miles de euros a un empleado por revelar debilidades clave de un producto en "Bug Bounty."


Con la coautoría de Hannah Cha, Orlando Lugo y Sarah Tan

En Salesforce, nuestro equipo responsable de IA y tecnología emplea prácticas de red teaming para mejorar la seguridad de nuestros productos de IA mediante pruebas de uso malintencionado, intencionado

Inteligencia y Inteligencia

Seguir leyendo

Creación de aplicaciones RAG contextualmente fieles con SFR-RAG

La Generación Aumentada por Recuperación (RAG, por sus siglas en inglés) no sólo ha ganado fuerza como una de las áreas de investigación con mayor inversión en IA generativa, sino que también ha reunido una considerable popularidad y oportunidades de comercialización. La RAG se aplica normalmente a problemas de respuesta de preguntas, en los que se proporciona cierta información contextual externa recuperada de una fuente de datos (potencialmente privada)

Seguir leyendo

Creación de aplicaciones RAG contextualmente fieles con SFR-RAG

La Generación Aumentada por Recuperación (RAG, por sus siglas en inglés) no sólo ha ganado fuerza como una de las áreas de investigación con mayor inversión en IA generativa, sino que también ha reunido una considerable popularidad y oportunidades de comercialización. La RAG se aplica normalmente a problemas de respuesta de preguntas, en los que se proporciona cierta información contextual externa recuperada de una fuente de datos (potencialmente privada)

Seguir leyendo

Presentamos LlamaRank: Un reranker de última generación para IA de confianza

Como parte de nuestro compromiso con la innovación en GAR empresarial e IA de confianza, nos complace lanzar SFR LlamaRank, un reranker de última generación de Salesforce AI Research. LlamaRank es un modelo lingüístico especializado en la clasificación por relevancia de documentos. LlamaRank consigue un rendimiento al menos comparable al de las API líderes en documentos generales

Seguir leyendo

Cómo el nuevo servicio de voz a texto de Salesforce utiliza modelos de susurro de OpenAI para transcripciones en tiempo real – Blog de ingeniería de Salesforce

En nuestra serie Engineering Energizers Q&A, exploramos las trayectorias de líderes de la ingeniería que han alcanzado logros significativos en sus respectivos campos. Hoy destacamos a Dima Statz, Director de ingeniería de software de Salesforce, que dirige el desarrollo del nuevo servicio Speech-to-Text (STT) de Salesforce. STT aprovecha la avanzada tecnología de reconocimiento de voz para proporcionar transcripciones precisas y en tiempo real de […]

Transcripciones de voz a texto

The post Cómo el nuevo servicio de voz a texto de Salesforce utiliza los modelos de susurro de OpenAI para transcripciones en tiempo real appeared first on Blog de ingeniería de Salesforce.

Seguir leyendo

INDICT: Hacia una mejor generación de código tanto por su seguridad como por su utilidad

TL;DR: Presentamos INDICT, un novedoso marco que dota a los Grandes Modelos de Lenguaje (LLMs) de Diálogos Internos de Críticas para la orientación tanto en seguridad como en utilidad. El diálogo interno es un sistema cooperativo dual entre un crítico orientado a la seguridad y un crítico orientado a la utilidad, cada uno equipado con conocimientos relevantes de herramientas externas.


LLMs

Seguir leyendo

El futuro de las pruebas de IA: Nuevo marco de rendimiento de modelos de IA de Salesforce

En nuestra serie “Engineering Energizers” Q&A, exploramos las mentes innovadoras que dan forma al futuro de la ingeniería de Salesforce. Hoy, nos reunimos con Erwin Karbasi, que dirige el desarrollo de Salesforce Central Evaluation Framework (SF Eval), una revolucionaria herramienta interna utilizada por los ingenieros de Salesforce para evaluar el rendimiento de los modelos generativos de IA. Explore cómo SF Eval aborda […]

La evaluación central de Salesforce

El post El futuro de las pruebas de IA: Salesforce’s Next Gen Framework for AI Model Performance appeared first on Blog de ingeniería de Salesforce.

Seguir leyendo

Utilización de Prompt Builder, Flows y Apex para aumentar la eficacia en la síntesis y clasificación de casos ☁️

Utilización de Prompt Builder, Flows y Apex para aumentar la eficacia en la síntesis y clasificación de casos ☁️

Con el poder de los grandes modelos de lenguaje y Prompt Builder, puede clasificar y resumir objetos estándar o personalizados de Salesforce fácilmente.

The post Utilizando Prompt Builder, Flows y Apex para resumir y clasificar casos más rápidamente appeared first on Blog de Desarrolladores de Salesforce.

Seguir leyendo

HIVE: Aprovechamiento de la retroalimentación humana para la edición visual didáctica

HIVE ha sido aceptado en CVPR 2024.

Otros autores son: Chia-Chih Chen, Ning Yu, Zeyuan Chen, Huan Wang, Silvio Savarese, Stefano Ermon, Caiming Xiong

Hemos visto el éxito de ChatGPT, que incorpora feedback humano para alinear el texto generado por grandes modelos lingüísticos con las preferencias humanas. ¿Es posible alinear

Seguir leyendo

Data Cloud y Einstein AI: Guía completa para desarrolladores ☁️

Data Cloud y Einstein AI: Guía completa para desarrolladores ☁️

Data Cloud y la inteligencia artificial de Salesforce forman una base importante que los desarrolladores ahora pueden utilizar para impulsar nuevas capacidades utilizando datos y modelos de IA que antes eran inalcanzables.

The post Data Cloud + Einstein AI: Guía de bolsillo para desarrolladores appeared first on Blog para desarrolladores de Salesforce.

Seguir leyendo

Cómo colaborar con su administrador de Salesforce para lograr el éxito en las ventas

El administrador de Salesforce desempeña un papel fundamental a la hora de sacar el máximo partido a su plataforma CRM, pero el éxito no llegará sin colaboración. Lea más.

The post Cómo colaborar con su administrador de Salesforce para lograr el éxito en las ventas appeared first on Salesforce.

Cómo colaborar con su administrador de Salesforce para lograr el éxito en las ventas appeared first on Salesforce

Seguir leyendo

Cómo el nuevo Einstein para desarrolladores agiliza su flujo de trabajo

En nuestro último artículo de la serie “Engineering Energizers” Q&A, conocemos a Christopher Williams, Vicepresidente de ingeniería de software. Con más de 17 años en Salesforce a sus espaldas, Christopher dirige actualmente el desarrollo de Einstein para desarrolladores. Desde la eliminación de tareas que consumen mucho tiempo hasta la provisión de complementos de código inteligentes, esta innovadora herramienta potencia la productividad de los desarrolladores y revoluciona el […]

Todo lo que necesita saber sobre Einstein para desarrolladores

El post El nuevo Einstein para desarrolladores agiliza tu flujo de trabajo: Say Goodbye to Time-Consuming Tasks appeared first on Blog de ingeniería de Salesforce.

El nuevo Einstein para desarrolladores agiliza su flujo de trabajo: diga adiós a las tareas que consumen mucho tiempo

Seguir leyendo

Haga que tenga sentido: SFR-Embedding de Salesforce AI Research, el modelo de Text-Embedding de mayor rendimiento

¿Cómo puede un ordenador discernir el significado de una frase? Por «discernir su significado» me refiero a comprender las palabras de la frase, su contexto, sus matices y sus relaciones con otras palabras.

Seguir leyendo

Conozca a las mujeres pioneras de la IA en Salesforce y eche un vistazo a lo más destacado de nuestro Día de las mujeres en la IA.

Para celebrar el Mes de la Historia de la Mujer, la Red de Mujeres de Salesforce organizó su evento inaugural del Día de la Mujer en la IA el 26 de marzo de 2024 en la Torre Salesforce de San Francisco. El evento fue una reunión de mujeres de Salesforce que lideran el trabajo sobre IA ética y responsable en Salesforce.

Seguir leyendo

Einstein Copilot para Tableau: Creación de la próxima generación de análisis basados en IA

En nuestra serie “Engineering Energizers” Q&A, exploramos los extraordinarios viajes de líderes de ingeniería que han alcanzado el éxito en sus dominios específicos. Hoy conocemos a John He, vicepresidente de ingeniería de software, que lidera el desarrollo de Einstein Copilot para Tableau: una herramienta innovadora que redefine la forma en que los usuarios interactúan con sus datos, haciendo que complejas […]

El post Einstein Copilot para Tableau: Building the Next Generation of AI-Driven Analytics appeared first on Blog de ingeniería de Salesforce.

Salesforce Engineering Blog

Seguir leyendo