Microsoft prohíbe el reconocimiento facial con su IA por parte de la policía• SALTO CUÁNTICO
En una medida que subraya la creciente preocupación por la ética y la privacidad en el uso de tecnologías avanzadas, Microsoft ha decidido actualizar los términos de servicio de su Azure OpenAI Service. Este cambio impide de manera explícita que los departamentos de policía en Estados Unidos empleen esta tecnología para el reconocimiento facial. La decisión de Microsoft responde a un contexto en el que la aplicación de la inteligencia artificial en entornos de aplicación legal y de seguridad pública ha sido objeto de un intenso debate y escrutinio.
La actualización especifica que está prohibido el uso de la inteligencia artificial generativa para reconocimiento facial en cámaras móviles, tales como cámaras corporales y dashcams, en ambientes incontrolados o «en la naturaleza». Estas cámaras, utilizadas frecuentemente por los oficiales de policía, ahora no podrán emplear tecnologías de IA de Microsoft para identificar rostros en tiempo real, una práctica que ha levantado amplias preocupaciones sobre la privacidad y posibles sesgos.
Este cambio se produce tras la revelación de un nuevo producto de Axon, conocido fabricante de tecnología para fuerzas de seguridad, que integraba el modelo generativo GPT-4 de OpenAI para resumir audios captados por cámaras corporales. Esta integración fue criticada por los riesgos de generar información incorrecta o sesgada, especialmente preocupante debido a los sesgos raciales que podrían replicarse o amplificarse dada la tendencia a detener con mayor frecuencia a personas de color.
Es importante destacar que la prohibición se circunscribe a los Estados Unidos y no afecta el uso de tecnología de reconocimiento facial con cámaras fijas en entornos controlados, ni se extiende a las fuerzas del orden fuera de los EE. UU. Esto indica que hay áreas en las que Microsoft sigue permitiendo el uso de esta tecnología, posiblemente bajo condiciones más reguladas y monitoreadas.
Además, los servicios de Azure OpenAI han comenzado a ser integrados en programas que colaboran estrechamente con agencias del gobierno de EE. UU., incluyendo el Pentágono. Estos esfuerzos están enfocados en mejorar las capacidades en ciberseguridad y en desarrollar aplicaciones que soporten misiones del Departamento de Defensa, mostrando una relación simbiótica entre el desarrollo tecnológico y las necesidades de seguridad nacional.
Finalmente, es crucial mencionar que después de la publicación inicial de los términos actualizados, Microsoft aclaró que había un error en la redacción original y que la prohibición aplicaba únicamente al reconocimiento facial dentro de los Estados Unidos. Esta aclaración resalta la importancia de entender el alcance exacto y las limitaciones de las políticas en cuanto al uso de tecnologías emergentes.