Categorías
Estrategias para Empresas Inteligencia Artificial

Qué pasa cuando tu jefe le pregunta a una IA si tiene que despedirte?

Juan Manuel Garrido, fundador de EGA Futura y cofundador de Vantegrate, comenta la encuesta de State of AI a más de 1.300 managers que usan IA para decidir sobre personas, y por qué un modelo que te da la razón puede ser un problema.

En la pantalla hay una sola pregunta: «Debería despedir a Juan?». El asistente de IA contesta con una recomendación prolija: según el desempeño, las metas incumplidas y el impacto en el equipo, lo que corresponde es despedirlo. Atrás, asomado por la puerta, Juan mira la escena con cara de susto.

Esa viñeta acompañó mi post de LinkedIn de este sábado, y el título que lleva arriba lo resume bastante bien: tu jefe ya no decide solo.

Viñeta estilo cómic con el título Tu jefe ya no decide solo: un gerente le pregunta a una IA si debería despedir a Juan, la IA recomienda despedirlo y sugiere también un plan de mejora de 60 días, mientras Juan espía asustado desde la puerta.

El punto de partida fue un artículo de State of AI que me dejó pensando bastante. Cuenta una encuesta a más de 1.300 managers en la que 6 de cada 10 dijeron que usan inteligencia artificial para ayudarse a tomar decisiones sobre contrataciones, ascensos, aumentos de sueldo y despidos. Y lo más preocupante: aproximadamente 1 de cada 5 reconoce que deja que la IA tome esas decisiones sin revisión humana.

Cuál es el riesgo de que un gerente use IA para decidir sobre personas?

Que la gente de una empresa use IA para trabajar no me preocupa. La uso todos los días. Lo que me preocupa es otra escena, la de tu jefe preguntándole a ChatGPT o a Claude si tiene que despedirte.

Imaginate esta situación. Un gerente está convencido de que alguien de su equipo no está rindiendo. Abre Claude, le cuenta su versión de lo que pasó y le pide una opinión. La IA le responde con argumentos muy bien redactados, razonables y convincentes. El gerente cierra la conversación todavía más seguro de que tenía razón.

Fijate qué falta en esa conversación. Falta la otra versión. El modelo trabajó solo con lo que le contaron, y se lo contó alguien que ya había decidido.

Por qué una IA tiende a darte la razón?

Investigaciones sobre los modelos de IA muestran que pueden tener una tendencia a darle la razón al usuario, incluso cuando está equivocado. En la jerga técnica a esto se lo llama complacencia, o sycophancy en inglés. Una de las explicaciones que se dan es que estos asistentes se ajustan, en parte, con valoraciones de personas, y a las personas nos suelen gustar más las respuestas que coinciden con lo que ya pensamos.

En la mayoría de las tareas eso cuesta poco. Si le pedís que revise un mail y te dice que quedó bárbaro, como mucho mandaste un mail mejorable. Pero cuando sos el jefe, tener una máquina que confirma tus opiniones puede terminar siendo un problema enorme. La pregunta de la viñeta ya trae la respuesta adentro: quien pregunta «Debería despedir a Juan?» casi siempre llega con la idea armada.

Pasa algo parecido a lo que escribí hace unos días sobre lo que pasa en una empresa donde nadie se anima a decirte que estás equivocado. Un asistente que siempre te da la razón es otro integrante del equipo que no te lleva la contra.

Entonces hay que sacar la IA de las decisiones sobre personas?

No. En Vantegrate, la empresa que fundamos con Francisco Morales (Fran), trabajamos con agentes de IA para automatizar tareas y procesos empresariales. Creo muchísimo en esta tecnología y en lo que puede hacer por una organización. De hecho, uso herramientas como ChatGPT y Claude constantemente, y cada vez me sorprende más lo que son capaces de hacer.

Pero una cosa es pedirle a un modelo que analice información, y otra bastante diferente es dejar que influya en el futuro profesional de una persona sin cuestionar sus conclusiones. Si querés entender qué hace un agente y dónde hay que ponerle límites, en Vantegrate explicamos qué son los agentes de IA y cómo se implementan, y acá en Discover está qué es realmente un agente de IA.

Cómo usar la IA para pensar mejor una decisión sobre alguien de tu equipo?

Si igual vas a consultarla, y probablemente lo hagas, hay cuatro cosas simples que bajan el riesgo de que el modelo solo te devuelva tu propia opinión con mejor redacción.

Preguntá sin la conclusión adentro. «Debería despedir a Juan?» empuja la respuesta. «Con estos datos, qué otras explicaciones hay para que su rendimiento bajara?» la abre.

Pedile que argumente en contra de lo que pensás. Si estás convencido de que alguien no rinde, pedile el mejor argumento de por qué podrías estar equivocado y qué información te falta para estar seguro.

Dale datos, no solo tu relato. Metas, fechas, cambios de prioridades, quién se fue del equipo y qué trabajo quedó encima de quién. Lo que hay en los sistemas también es parcial, pero es menos parcial que una versión contada después de enojarse.

Separá el análisis de la decisión. La IA puede ordenar información y proponer preguntas. Contratar, ascender, dar un aumento o despedir lo decide una persona con nombre y apellido, y esa decisión queda registrada como suya.

Qué tiene un buen gerente que la IA no tiene?

Un buen gerente conoce a su equipo, entiende situaciones que no siempre aparecen en los datos y, sobre todo, se hace responsable de sus decisiones. Esa última parte no se delega.

También ayuda que los datos existan y estén en un solo lugar. Si el legajo, la asistencia y las ausencias de tu gente viven repartidos entre planillas y mails, es difícil que una persona o una IA los lea bien. En EGA Futura lo trabajamos con EGA Futura People, el software de recursos humanos que corre dentro de Salesforce, y publicamos estrategias y tácticas de gestión para empresas medianas.

La IA puede ayudarte a pensar mejor. También puede hacerte creer que tenés razón cuando estás completamente equivocado. Y eso, en manos de alguien con poder sobre otras personas, me preocupa bastante.

Preguntas frecuentes

Cuántos gerentes usan IA para decidir contrataciones, aumentos o despidos?

Según la encuesta que comentó State of AI, hecha a más de 1.300 managers, 6 de cada 10 usan IA para ayudarse en esas decisiones y cerca de 1 de cada 5 deja que la IA decida sin revisión humana.

Por qué la IA le da la razón al usuario?

Los modelos pueden tender a coincidir con quien pregunta, incluso cuando está equivocado. Si le contás solo tu versión, lo más probable es que la respuesta la refuerce.

Cómo se usa la IA en una decisión sobre una persona sin que confirme lo que ya pensabas?

Preguntando sin la conclusión adentro, pidiéndole el argumento contrario, dándole datos además de tu relato y dejando la decisión firmada por una persona responsable.

Si querés recibir estas notas

Las notas sobre IA, Salesforce y empresas medianas también llegan por mail con el newsletter de EGA Futura. Anotate gratis en Substack.

Por Juan Manuel Garrido

Fundador de EGA Futura, empresa que desde 1994 desarrolla software de gestión empresarial. Creó el ERP nativo para Salesforce, que elimina los problemas de sincronización, falta de visibilidad y doble administración que aparecen al integrar un ERP externo con el CRM, y EGA Futura ERP en la nube para empresas medianas que todavía dependen de sistemas rígidos. Es cofundador de Vantegrate, nacida en 2024 de la fusión entre Ventix Solutions y EGA Futura, que desarrolla una suite de agentes de inteligencia artificial llave en mano para empresas medianas y grandes de Latinoamérica. Escribe sobre gestión empresarial, la plataforma Salesforce y estrategia comercial.