El IBM Modelo 5150 es una leyenda para muchos de nosotros, los viejos, que se tambalean alrededor de los iPads que hablan como computadoras y cuentan grandes historias sobre los disquetes. El punto es que cuando se trata de informática, IBM es un nombre familiar. En los últimos años, el nombre que ha escuchado más asociado con IBM es Watson. Watson es el sistema de inteligencia artificial de IBM, utilizado para mil millones de cosas. Una cosa para la que ya no se utilizará es la tecnología de reconocimiento facial.
En una carta al Congreso, dirigida a los senadores Cory Booker (D-NJ), Kamala Harris (D-CA) y los representantes Karen Bass (D-CA), Hakeem Jeffries (D-NY) y Jerrold Nadler (D-NY) El director ejecutivo de IBM, Arvind Krishna, señaló que el uso de la tecnología de reconocimiento facial tiene un sesgo racial y sugirió las reformas necesarias para considerar el uso responsable de dicha tecnología por parte de las fuerzas del orden. Claramente, la carta dice que “IBM ha eliminado sus productos de software de análisis y reconocimiento facial de propósito general”.
La precisión del reconocimiento facial de IA es sospechosa, por decir lo menos. Si no es sospechoso, entonces es jodidamente sombrío. Por cada avance en los sistemas de reconocimiento facial de inteligencia artificial, la sociedad se acerca más a despojarnos de las libertades personales que nos quedan. El software de reconocimiento facial no solo ha mostrado prejuicios raciales, sino también la edad y el origen étnico. Básicamente, en este punto, es solo una gigantesca violación de los derechos civiles que está a punto de destruir nuestra aldea de privacidad personal.
“IBM se opone firmemente y no tolerará el uso de ninguna tecnología, incluida la tecnología de reconocimiento facial ofrecida por otros proveedores, para vigilancia masiva, discriminación racial, violaciones de los derechos humanos y libertades básicos, o cualquier propósito que no sea consistente con nuestros valores y principios de Confianza y transparencia ”, dijo Krishna en la carta. “Creemos que ahora es el momento de iniciar un diálogo nacional sobre si las agencias de aplicación de la ley nacionales deben emplear la tecnología de reconocimiento facial y de qué manera”.
Krishna sugirió algunas formas en que IBM podría trabajar con el Congreso para lograr la equidad racial, en lo que respecta a la política:
Reforma policial: las nuevas reglas federales deberían hacer que la policía sea más responsable de las faltas de conducta. Políticas de tecnología responsable: la tecnología puede aumentar la transparencia y ayudar a la policía a proteger a las comunidades, pero no debe promover la discriminación o la injusticia racial. Ampliación de oportunidades: la formación y la educación para las habilidades en demanda es clave para ampliar las oportunidades económicas para las comunidades de color.
En ese último punto, Krishna ofreció P-TECH (el modelo escolar de IBM donde los estudiantes pueden obtener su título de secundaria y AA en STEM simultáneamente sin incurrir en deudas) y un fuerte empujón de que la disponibilidad de la Beca Pell debería ampliarse para incluir capacitación en habilidades no universitarias. y programas de certificación laboral.
Entonces, la única compañía en la que podríamos confiar con la tecnología de reconocimiento facial está saliendo del ring. Eso allana el camino para Amazon, una empresa que no tiene idea de cuántos departamentos de policía están utilizando su software de reconocimiento facial, Rekognition, para dominar el mercado. No olvidemos la tecnología de reconocimiento facial de Facebook, que proviene de una empresa que es tan confiable como pedirle a un gato que no se siente en su teclado.
Amazon vende el consumismo. Facebook vende mentiras. Estas son las empresas que van a crear el eventual estado de vigilancia perpetua. Esto debería asustar a los legisladores, razón por la cual las personas a las que se dirige la carta deben tomar en serio la postura de IBM. IBM ha estado a la vanguardia de la informática, la inteligencia artificial y cualquier tecnología asociada desde el principio. Es un gran problema que IBM sienta que se necesita una reforma antes de que la tecnología de reconocimiento facial se use ampliamente.
Pero si algo nos ha mostrado el gobierno es que, en general, hace lo que es mejor para quienes se benefician de una decisión, en lugar de lo que es mejor para los intereses de la gente. IBM tiene razón al pedir reformas en la vigilancia policial y la equidad racial, es por lo que el país está luchando en este momento. Pero al mismo tiempo, hay empresas más mierdas y menos centradas en la moral más que dispuestas a dar un paso al frente y entregar productos que, con la bendición de los legisladores, despojarán nuestras libertades como una maldita curita.
¿Aplaude a IBM por hacer esto o cree que todos estamos condenados de todos modos? ¿Tienes alguna idea sobre esto? Háganos saber más abajo en los comentarios o lleve la discusión a nuestro Twitter o Facebook.
Recomendaciones de los editores:
