Cómo Salesforce crea una infraestructura de Red Teaming reproducible

Introducción

Imagina que estás trabajando en un producto de IA que puede resumir las llamadas telefónicas de éxito de los clientes con fines de formación. El producto de su empresa utiliza grandes modelos lingüísticos (LLM) para resumir, sintetizar, clasificar y generar resultados relevantes. Es consciente de que los LLM pueden alucinar, generar resultados perjudiciales o sesgados

Seguir leyendo