El uso de reconocimiento facial para vigilancia, o algoritmos que manipulan el comportamiento humano, será prohibido bajo las regulaciones propuestas de la UE sobre inteligencia artificial.
Eso incluye algoritmos utilizados por la policía y en el reclutamiento.
La lista sugerida de sistemas de IA prohibidos incluye:
- Los diseñados o utilizados de manera que manipulen el comportamiento, las opiniones o las decisiones humanas ... provocando que una persona se comporte, se forme una opinión o tome una decisión en su detrimento.
- Sistemas de IA utilizados para la vigilancia indiscriminada aplicados de manera generalizada.
- Sistemas de inteligencia artificial utilizados para la puntuación social.
- Aquellos que explotan información o predicciones y una persona o grupo de personas para atacar sus vulnerabilidades.
Para la IA considerada de alto riesgo, los estados miembros tendrían que aplicar mucha más supervisión, incluida la necesidad de nombrar organismos de evaluación para probar, certificar e inspeccionar estos sistemas.
Y cualquier empresa que desarrolle servicios prohibidos, o no proporcione información correcta sobre ellos, podría enfrentar multas de hasta el 4% de sus ingresos globales, similares a multas por infracciones de GDPR.
Los ejemplos de alto riesgo de IA incluyen:
- Sistemas que establecen prioridad en el despacho de servicios de emergencia.
- Sistemas que determinan el acceso o la asignación de personas a los institutos educativos.
- Algoritmos de reclutamiento.
- Aquellos que evalúan la solvencia crediticia.
- Aquellos para realizar evaluaciones de riesgos individuales.
- Algoritmos de predicción de delitos.
0 Comentarios
0
