Reconociendo la amenaza potencial para los derechos de los ciudadanos y la democracia que plantean determinadas aplicaciones de la IA, los colegisladores acordaron prohibir:
- sistemas de categorización biométrica que utilizan características sensibles (por ejemplo, creencias políticas, religiosas, filosóficas, orientación sexual, raza);
- extracción no dirigida de imágenes faciales de Internet o imágenes de CCTV para crear bases de datos de reconocimiento facial;
- reconocimiento de emociones en el lugar de trabajo y en instituciones educativas;
- puntuación social basada en comportamiento social o características personales;
- Sistemas de IA que manipulan el comportamiento humano para eludir su libre albedrío;
- La IA solía explotar las vulnerabilidades de las personas (por su edad, discapacidad, situación social o económica).