Cada vez es más común ver en nuestros centros de trabajo o en las cabinas de los tractocamiones sistemas de videovigilancia impulsados por Inteligencia Artificial. Nos venden la promesa de que la cámara «sabe» si el operador se está quedando dormido, o si un trabajador en planta omitió ponerse el casco y los lentes de seguridad.
Como capacitador y gestor de riesgos, recibo estas herramientas con los brazos abiertos; automatizar la detección de desviaciones es invaluable. Sin embargo, al analizar cómo operan estos sistemas en la vida real, me surge un debate que roza más la filosofía que la ingeniería.
El algoritmo ciego y el experimento de Searle
Cuando configuramos una IA para detectar la falta de Equipo de Protección Personal (EPP) o un comportamiento anómalo en ruta, a menudo decimos que la máquina «entiende» lo que está pasando. Pero, ¿realmente lo hace? Es imposible no pensar en el famoso experimento mental de la «Habitación China» del filósofo John Searle. Imaginen a una persona encerrada en una habitación con un manual de reglas en español que le indica cómo responder a símbolos en chino que le pasan por debajo de la puerta. La persona responde perfectamente y los de afuera creen que habla chino, pero en realidad no comprende ni una sola palabra; solo sigue instrucciones algorítmicas. Nuestras cámaras de seguridad con IA son exactamente eso. No «entienden» el concepto de peligro, ni el dolor de un accidente, ni la malicia de un intento de robo a una unidad. Solo procesan píxeles y los comparan con un modelo matemático.
El factor humano: La verdadera comprensión del riesgo
¿Por qué importa esto en la gestión de seguridad diaria? Porque delegar la responsabilidad total a la máquina es el mayor riesgo que podemos correr hoy en día. Si la IA detecta que un chofer redujo la velocidad en una zona roja y manda una alerta, la máquina solo está arrojando un «símbolo». Es el monitorista humano en el centro de control quien realmente «habla el idioma» del riesgo: es quien entiende el contexto, quien sabe que esa carretera es peligrosa a esa hora, y quien ejecuta el protocolo de emergencia con el sentido de urgencia vital que una máquina jamás tendrá.
La Inteligencia Artificial es el mejor auxiliar que la seguridad industrial y logística ha tenido en décadas. Es incansable y precisa. Pero no dejemos que la ilusión de que la máquina «comprende» nos vuelva complacientes. La tecnología detecta, pero solo el ser humano protege.
¿Ustedes qué opinan? ¿Han tenido falsos positivos con estas tecnologías o sienten que ya son indispensables en sus operaciones?