El CEO de IBM, Arvind Krishna, ha anunciado que la compañía ya no vendería servicios de reconocimiento facial o análisis facial.

La carta publicada por Krishna está dirigida al Congreso y en ella explica los motivos de esta decisión y compartió su objetivo de trabjar para lograr la igualdad racial.

IBM se opone firmemente y no tolerará los usos de ninguna tecnología, incluida la tecnología de reconocimiento facial ofrecida por otros proveedores, para la vigilancia masiva, el perfil racial, las violaciones de los derechos humanos y las libertades básicas, o cualquier propósito que no sea coherente con nuestros valores y Principios de Confianza y Transparencia. Creemos que ahora es el momento de iniciar un diálogo nacional sobre si la tecnología de reconocimiento facial debe ser empleada por los organismos nacionales encargados de hacer cumplir la ley y cómo debe ser empleada por los organismos nacionales encargados de hacer cumplir la ley.

El año pasado IBM creó una de las bases de datos faciales más grandes a nivel mundial. Lo hicieron con el objetivo de reducir los sesgo, ya que estos software sufren sesgos de edad, raza y etnia lo que puede hacer que las herramientas no sean fiables para la aplicación de la ley y la seguridad.

En la carta de Krishna también se hace referencia a los proveedores y usuarios de los sistemas de IA, ya que consideran que «tienen la responsabilidad compartida de garantizar que Al se someta a pruebas de parcialidad, particularmente cuando se utiliza en la aplicación de la ley, y que tales pruebas de polarización se auditan e informan«.

Aún así, no está claro cómo seguiran realizando las investigaciones de Inteligencia Artificial en esta linea.

Estudios que han demostrado los sesgos en el reconocmiento facial

En 2018, se reveló por primera vez los sesgos que traían de serie muchos sistemas de reconocimiento facial. Este trabajo junto con posteriores estudios del mismo estilo se realizó por la pareja Joy Buolamwini y Timnit Gebru.

Uno de los últimos estudios se realizó en diciembre de 2019, en él el Instituto Nacional de Estandares y Tecnología encontró «evidencia empírica de la existencia de una amplia gama de precisión entre las diferencias demográficas en la mayoría de los algoritmos de reconocimiento facial actuales que se evaluaron«.

Problemas encontrados en el reconocimiento facial

El reconocimiento facial desarrollado por Amazon, que se llama Rekognition y del que ya os hemos hablado aquí, emparentó incorrectamente a 28 miembros del Congreso con caras escogidas entre 25.000 fotos públicas. Este software es uno de los que utilizan las fuerzas del orden y, después, de que se desvelara esta información ha sido uno de los más criticados.

Otras de las grandes polemicas relacionadas con el reconocimiento facial fue la de la compañía Clearview AI. Se descubrió que su herramienta de reconocimiento facial, construida con más de 3.000 millones de imágenes compiladas en parte a partir de raspar sitios de redes sociales, estaba siendo ampliamente utilizada por empresas del sector privado y agencias de aplicación de la ley. Clearview tiene numerosas órdenes de cese y desistimiento, además de una serie de demandas de privacidad. Estos son algunos de los casos más conocidos.

Otros de los temas que trata la carta de Krishna es la reforma policial, argumentando que más casos de mala conducta policial deberían ser puestos bajo el control de la corte federal y que el Congreso debería hacer cambios en la doctrina de inmunidad calificada, entre otras medidas.