Algoritmos, inteligencia artificial y policía predictiva del estado vigilante
| Autor | Ricardo Rivero Ortega |
| Cargo del Autor | Catedrático de Derecho Administrativo de la Universidad de Salamanca |
| Páginas | 45-67 |
45
Derecho e IntelIgencIa artIfIcIal
algoritMos, iNteligeNcia artiFicial y policÍa pred ictiva del
estado vigilaNte
RESUMEN: Los algoritmos y la inteligencia articial están trans-
formando la vigilancia preventiva de la policía. Cada vez más
instituciones y juristas señalan los riesgos de estas herramientas
por sus sesgos, pero lo cierto es que los Estados contemporáneos
no pueden prescindir de las nuevas tecnologías para proteger la
seguridad. Esta contribución explica las garantías reales que pue-
den evitar los abusos en su aplicación para el cumplimiento de
la Ley.
PALABRAS CLAVE: Algoritmos apropiados, Inteligencia articial,
cumplimiento de la ley, vigilancia policial.
i. iNtroduccióN: la hipertr oFia del estado vigilaNt e
Aunque nuestra imagen tópica de la policía evoca cuerpos unifor-
mados y empleo de armas, lo cierto es que la labor principal de las
fuerzas de seguridad se centra en el análisis de información. Esto lo
comprendieron bien dos de las personalidades impulsoras de la mod-
erna investigación policial: Fouché, nombrado ministro francés de la
policía en 1799 (hasta 1811, con un breve receso en 1803); y Jhon Edgar
Hoover, director del FBI entre 1935 y 1972. Ambos fueron todopoder-
osos controladores de datos claves para la prevención, y los utilizaron
para sus propios nes. Los dos vivieron obsesionados con ampliar sus
capacidades de gestión informativa mediante archivos y nuevas téc-
nicas (así, por ejemplo, la pionera biometría de las huellas dactilares)1.
Desde Fouché y Hoover, la tendencia a dotar de mayores tecno-
logías de datos a las fuerzas y cuerpos de seguridad ha acompaña-
do la preocupación estatal por el control de la información. Foucault
describió con acierto los propósitos de esta hipertroa en su Vigilar y
1 La biografía de fouché escrita por Stpephen zweiG en 1929 sigue siendo un clásico sobre
esta desviación de la política. También Jhon Edgar HOOVER atrajo a Clint eastwood,
quien le dedicó J. Hoover en 2011.
46
RicaRdo RiveRo oRtega
castigar, obra aún vigente en tantas reexiones. Ya sabemos que los
dispositivos de vigilancia aseguran el cumplimiento de las normas
y generan una sensación de coacción permanente sobre la libertad,
una represión sostenida de las conductas para su adecuación a los pa-
trones dominantes en la sociedad moderna2.
La vigilancia pública ha seguido creciendo en este siglo XXI. En
1999 vio la luz mi obra El Estado vigilante (Consideraciones jurídicas sobre
la función inspectora de la Administración), en la que explicaba las trans-
formaciones producidas por el creciente protagonismo de las herra-
mientas informáticas en el ejercicio de las funciones de control estatal.
También destacaba un cambio en el modo de interpretar el derecho
a la intimidad - aunque no se habían producido aún los atentados
del 11 de septiembre de 2001 ni aprobado la Patriot Act - en necesario
equilibrio con las necesidades de prevención de riesgos y amenazas.
Muchos otros autores desde la sociología ya estaban apuntando tales
transformaciones entonces3.
La protección de la seguridad y la prevención de riesgos es razón de
ser de la vigilancia, origen mismo del Estado según Max Weber4. Su
explicación clásica se ve reforzada por las tendencias actuales, cuando
el poder de las estructuras estatales se multiplica exponencialmente
gracias a mayores capacidades tecnológicas de control. El caso de Chi-
na es extremo5, pero no son menores las posibilidades al alcance de
los servicios de seguridad de las democracias liberales. Por supuesto
las empresas también recurren a esta nueva fuente de riqueza que son
los datos, como denuncian las voces críticas contra el capitalismo de
la vigilancia6.
Existe cierta incomodidad en el materialmente confortable mun-
do intelectual por la multiplicación de controles y capacidades de
represión de conductas infractoras en los Estados. El debate sobre el
n de la policía expresa esta tendencia, por supuesto justicada en los
abusos y excesos más preocupantes para quienes valoramos la liber-
tad y el respeto de las personas7. Ahora bien, es preciso reconocer el
temor creciente de nuestras sociedades ante las amenazas de la segu-
2 foucault, Michel, Vigilar y castigar, Siglo XXI, 2001.
3 rivero orteGa, Ricardo, El Estado vigilante. Consideraciones sobre la función inspectora de
la Administración pública, Tecnos, Madrid, 1999. GIDDENS, Anthony, Consecuencias de la
modernidad, Alianza, 1993. vattimo, Gianni, La sociedad transparente, 1990. Este mismo tí-
tulo y parte de sus tesis son asumidas recientemente por byunG-chuy Han en su obra La
sociedad de la transparencia, 2012.
4 weber, Max, Economía y Sociedad, FCE, 2014.
5
chin, Josh. Surveillance State: Inside China’s Quest to launch a new era of social control, 2022.
6
zuboff, Shoshana, The Age of Surveillance Capitalism, 2018.
7
vitale, Alex, El nal del control policial, 2021.
Para continuar leyendo
Solicita tu prueba