IBM abandona el negocio del reconocimiento facial: alegan preocupaciones de privacidad y discriminación racial
Cristian Rus
En IBM se acabóel desarrollo y la venta desoftwarepara el reconocimiento facial. Así lo ha afirmado el CEO de la compañía en una carta enviada al Congreso de Estados Unidos. El presidente de la empresa no sólo avisa de que dejan de desarrollar e investigar esta tecnología, sino que pide revaluar si los organismos nacionales deben o no utilizar este tipo de tecnologías.
La cartaenviada a un total de cinco senadores del Congreso de Estados Unidos recogela oposición de IBM en el uso de esta tecnologíapara propósitos como “la vigilancia masiva, el perfil racial, las violaciones de los derechos humanos y las libertades básicas”. Desde hace años IBM es uno de los grandes proveedores de tecnología del gobierno norteamericano.
Durante los últimos años la tecnología del reconocimiento facial ha evolucionado de forma considerable gracias al avance de otras tecnologías como la inteligencia artificial. Sin embargoa menudo sufre un sesgo por los datos de los que se alimentapara mejorar su precisión, como en cierto modo trató de reflejar la congresistaOcasio-Cortez confundiendo términos. Por otro lado, también se sabe que se puede utilizar esta automatización directamente paraelaborar perfiles raciales.
Organismos como el MIThan trabajadopara evitar este tipo de situaciones. Hasta la propiaIBM hizo público en 2018una gigantesca base de datos para el reconocimiento facial con la que aumentar la diversidad y evitar este tipo de sesgo. Pero claro, a IBM también se leha acusadodecategorizar y entrenar a su IA por el color de la piel de los rostros analizadoscon su tecnología de reconocimiento facial. En su historial también está el hecho deusar millones de fotos de Flickrpara entrenar su IA. Relacionado con la discriminación racial, el año pasado en sus ofertas de trabajopedía el grupo étnico a los candidatos.
Una llamada a la reconsideración del uso de la tecnología
Aparte de IBM, otrospolémicos sistemas de grandes tecnológicas utilizados por las autoridadesestadounidenses son por ejemplo Clearview AI o Rekognition de Amazon. El primero de ellos se ha visto envuelto envariasacusaciones deviolación de la privacidad, mientras que Rekognition de Amazon se sabe que esutilizado por la policía de diferentes estados.
Indican fuentesa CNBCque la decisión es en parte ética y en parte por negocio. El reconocimiento facial no ha generado ingresos significativos para IBM en los últimos tiempos. La compañíaha tomado la decisión en los últimos mesesy no ha sido algo apresurado por la situación actual de Estados Unidos tras la muerte de George Floyd. De hecho los clientes de IBM han sido informados previamente y ahora simplemente se ha comunicado públicamente, aseguranen Axios.
Dice el CEO de IBM que “es el momento de iniciar un diálogo nacional sobre si la tecnología de reconocimiento facial debe ser empleada por los organismos nacionales encargados de hacer cumplir la ley”. La carta también incluyesugerencias para la legislaciónque incumbe a las autoridades y cómo se utiliza la tecnología en este caso.
Vía |AxiosMás información |IBM
