El DDoS organizativo de la inteligencia artificial

IA hasta en la sopa. Cosas como la ciberseguridad están cambiando radicalmente: la velocidad de respuesta humana frente a un atacante apalancado en herramientas basadas en IA requiere el mismo tipo de respuesta en sentido contrario. La velocidad de respuesta humana no tiene nada que hacer.

De manera similar, en otros contextos, el flujo de información generada y apalancada en LLMs se está intensificando sobremanera. Es decir, se está eliminando el coste de producir información, pero no el coste de consumirla, validarla y coordinarse alrededor de ella.

Seguro que se podría contestar de vuelta con una respuesta generada por LLM, pero esto no escala y acabarás bien jodido cuando te pregunten algo y no sepas contestar.

Volviendo a la ciberseguridad y, por poner un símil, está apareciendo una especie de DDoS organizativo involuntario. Y me llega esta misma sensación desde distintos lugares y empresas.

• Cada persona puede producir mucho más.
• El coste de crear un documento se reduce.
• El coste de leerlo se distribuye entre muchas personas.
• La información puede ser buena por separado, pero inmanejable de forma conjunta.
• Se empieza a confundir producción de artefactos con el avance real.

Aumento de productividad individual, reducción de productividad global de las empresas apalancadas en ello y sin procesos y límites claros. Estamos en un momento crítico donde la crisis de atención es más que notoria. Hay una asimetría muy evidente entre la generación y la comprensión.

1. El coste se desplaza

Yo genero un informe en 5 minutos, pero obligo a otras 10 personas a dedicar una hora a entenderlo, contrastarlo y decidir qué hacer con ello. No escala.

Cuando soy yo el que genero, tengo todo el contexto de cómo lo he generado. No así la persona que lo recibe.

2. Producir más no significa avanzar más

Más documentos, análisis, prototipos o presentaciones pueden transmitir sensación de actividad sin que aumente de forma proporcional la calidad de las decisiones. Me atrevería a decir que incluso puede ser contraproducente por cosas como:

• Documentos demasiado largos.
• Duplicación de análisis.
• Información contradictoria.
• Reuniones destinadas únicamente a explicar otros documentos.
• Menos tiempo para ejecutar.
• Dificultad para distinguir lo importante de lo meramente interesante.

La saturación no aparece porque la información sea mala, sino porque el volumen supera nuestra capacidad de procesarla.

3. La solución también tendrá que apoyarse en IA

Si no podemos responder manualmente a ataques automatizados, tampoco podemos gestionar manualmente todo el flujo de información generado por IA.

Si utilizamos IA para generar información y otra IA para resumirla, filtrarla y explicárnosla, vamos a terminar cada vez más lejos del conocimiento original. Ya no analizamos los datos ni leemos el razonamiento completo: recibimos una interpretación de una interpretación y nos limitamos a aprobarla.

El riesgo no es solo perder trabajo, sino perder agencia cognitiva. Podemos seguir tomando formalmente las decisiones mientras, en la práctica, las opciones, los argumentos y las prioridades ya han sido definidos por sistemas automáticos.

Por no hablar de que esto es como el mítico teléfono estropeado o como guardar un JPEG de forma repetida: se pierde información por el camino.

«Hemos resuelto el cuello de botella a la hora de producir información y lo hemos trasladado a la atención humana.»