¿Sabes qué decisión está tomando tu IA?
¿O solo sabes que “la tienes”?
Esta semana entró en vigor la parte de la AI Act que más se está pasando por alto: si usas IA para decisiones automatizadas — precios, créditos, contrataciones — tienes que poder documentar cómo decide.
No es una sugerencia de eficiencia. Es una obligación legal.
Y aquí está el problema real, más allá de la normativa: la mayoría de empresas que “ya tienen IA” no podrían responder a esa pregunta ni aunque quisieran.
Saben que la tienen. No saben qué hace exactamente, con qué datos, ni bajo qué criterio.
Eso no es un problema de cumplimiento. Es un problema de control.
Si no sabes qué decisión toma tu IA, tampoco sabes cuándo se equivoca. Ni por qué. Ni qué corregir.
La diferencia entre tener IA y tener un sistema es exactamente esta: un sistema lo puedes explicar, auditar y mejorar. Una herramienta suelta solo la puedes usar y esperar que funcione.
Antes de preguntarte si necesitas más IA, pregúntate si puedes explicar la que ya tienes.
Si quieres una plantilla simple para documentar qué decide tu IA, con qué datos y bajo qué criterio — comenta PLANTILLA y te la envío.