El modelo equivocado cuesta más que ningún modelo

Un error al adoptar IA: usar el modelo equivocado para la tarea equivocada. No es fallo técnico. Es una mala decisión de gestión. Persiste la idea de que una IA mal usada es mejor que ninguna IA. Eso es falso y en ciertos contextos muy peligroso.

La razón es estructural, no anecdótica. Forrester lo documenta: un modelo de lenguaje es probabilístico por diseño, el software tradicional es determinista. Esa naturaleza produce lo que sus analistas llaman “coherent nonsense”: salidas que suenan correctas, pasan la revisión de formato y aun así están equivocadas. Una clasificación de riesgo que contradice a otra para la misma solicitud, según el flujo de trabajo en el que se procesó.

No son hipótesis. En su análisis de agentes de IA en servicios financieros, Forrester registra casos concretos: un agente de riesgo crediticio que ignoró los umbrales de aprobación actualizados y emitió clasificaciones contradictorias. El modelo hizo su trabajo. Nadie había definido cuál era ese trabajo.

El patrón se repite. Un mismo asistente genérico, sin contexto ni datos especializados, redacta el correo, evalúa el riesgo, resume el contrato y atiende el chatbot de servicio. La promesa era eficiencia, pero entrega errores que nadie contabiliza, porque nadie definió el cargo antes de contratar al modelo.

Hay modelos diseñados para razonamiento estructurado, otros para generación de texto fluido, otros entrenados sobre dominios específicos como legal o finanzas. Usar un modelo genérico para decisiones que exigen precisión es el equivalente corporativo de contratar al mejor orador del país para hacer la auditoría financiera. El instrumento no coincide con la tarea.

Entonces, aunque el presupuesto para IA generativa crece rápido, muy pocas organizaciones la tienen operando en producción: apenas una fracción ha pasado de la estrategia a la ejecución real. El terreno exige salidas auditables y explicables que un modelo genérico no garantiza, y que la nueva regulación europea de IA ya obliga a formalizar.

A las pérdidas visibles se suman los costos. Reentrenamiento de equipos. Revisión manual de errores. Daño reputacional. Ninguno figura en el balance del proyecto, pero erosionan el retorno que lo justificó.

La solución es más difícil de ejecutar que de identificar: gobierno por tarea. Cada modelo que opera en un entorno empresarial debe funcionar como un especialista con contrato definido: un rol, un alcance, una condición bajo la cual escala al juicio humano. Una empresa no debería pedirle al mismo modelo que clasifique el riesgo y redacte la comunicación comercial.

Las organizaciones que han avanzado en gobierno no solo documentan sus modelos. Fijan umbrales de confianza mínimos por tipo de tarea, de modo que una salida por debajo del umbral no llega al cliente ni al regulador.

Observar un sistema genera reportes. Controlarlo genera consecuencias.

La ventaja competitiva no la construirán las empresas que usen más modelos de IA. La construirán las que sepan cuándo no usar el que tienen.

¿Sabe qué modelo está tomando decisiones en nombre de su empresa, y si fue diseñado para tomarlas?