Gráfico: Jim Cooke, Foto: Getty
Gráfico: Jim Cooke, Foto: Getty

Google se asoció con el Departamento de Defensa de los Estados Unidos para ayudar a la agencia a desarrollar inteligencia artificial para analizar secuencias de drones, una movida que desencadenó una tormenta entre los empleados del gigante de la tecnología cuando se enteraron de la participación de Google.

El proyecto piloto de Google con el Proyecto Maven del Departamento de Defensa, un esfuerzo por identificar objetos en secuencias de drones, no se informó previamente, pero se discutió ampliamente dentro de la empresa la semana pasada cuando la información sobre el proyecto se compartió en una lista de correo interna, según fuentes que pidieron no ser nombradas porque no estaban autorizadas para hablar públicamente sobre el proyecto.

Algunos empleados de Google se indignaron porque la compañía ofrecería recursos a los militares para la tecnología de vigilancia involucrada en operaciones de drones, dijeron las fuentes, mientras que otros argumentaron que el proyecto planteó importantes cuestiones éticas sobre el desarrollo y el uso del aprendizaje automático.

Eric Schmidt de Google resumió las preocupaciones de la industria de la tecnología sobre la colaboración con el Pentágono en una charla el otoño pasado. «Existe una preocupación general en la comunidad tecnológica de que el complejo militar-industrial use sus cosas para matar personas incorrectamente», dijo. Si bien Google dice que su participación en el Proyecto Maven no está relacionada con los usos de combate, el tema aún despierta preocupación entre los empleados, dijeron las fuentes.

Project Maven, un proyecto del Pentágono de rápido movimiento también conocido como el Equipo interfuncional de guerra algorítmica (AWCFT), se estableció en abril de 2017 . La misión declarada de Maven es «acelerar la integración del DoD en big data y machine learning». En total, el Departamento de Defensa gastó $ 7.4 billones en áreas relacionadas con la inteligencia artificial en 2017, informó el Wall Street Journal.

La primera tarea del proyecto fue ayudar al Pentágono a procesar eficientemente el diluvio de imágenes de video recogidas diariamente por sus drones aéreos, una cantidad de material de archivo tan amplia que los analistas humanos no pueden mantener el ritmo, según Greg Allen, un miembro adjunto del Centro de un New American Security, que fue coautor de un extenso informe de julio de 2017 sobre el uso militar de la inteligencia artificial.

Aunque el Departamento de Defensa ha invertido recursos en el desarrollo de tecnología avanzada de sensores para recopilar información durante los vuelos de drones, se ha retrasado en la creación de herramientas de análisis para analizar los datos.

«Antes de Maven, nadie en el departamento tenía una idea de cómo comprar, poner en práctica e implementar adecuadamente la IA», escribió Allen.

Maven tuvo la tarea de utilizar el aprendizaje automático para identificar vehículos y otros objetos en secuencias de drones, quitándole esa carga a los analistas. El objetivo inicial de Maven era proporcionar a los militares una visión avanzada de la computadora, lo que permite la detección e identificación automatizadas de objetos en hasta 38 categorías capturadas por la cámara de movimiento completo de un dron, según el Pentágono . Maven proporciona al departamento la capacidad de rastrear a las personas que vienen y van desde diferentes lugares.

La inteligencia artificial ya se implementó en aplicaciones policiales y militares, pero los investigadores advierten que estos sistemas pueden estar significativamente sesgados en formas que no son fácilmente detectables. Por ejemplo, ProPublica informó en 2016 que un algoritmo utilizado para predecir la probabilidad de reincidencia entre internos presentaba sistemáticamente prejuicios raciales.

Si bien la participación de Google despertó la preocupación entre los empleados, es posible que las ofertas de productos de Google limiten su acceso a datos confidenciales del gobierno. Si bien sus competidores en la nube, Amazon y Microsoft Azure, ofrecen productos en la nube orientados al gobierno diseñados para mantener la información clasificada como secreta, Google no cuenta actualmente con una oferta de productos similar.

Un portavoz de Google le dijo a Gizmodo en un comunicado que le está proporcionando al Departamento de Defensa las API TensorFlow, que se usan en aplicaciones de aprendizaje automático, para ayudar a los analistas militares a detectar objetos en imágenes. Reconociendo la naturaleza controvertida del uso de aprendizaje automático para fines militares, el vocero dijo que la compañía está trabajando actualmente para «desarrollar políticas y salvaguardas» en torno a su uso.

«Durante mucho tiempo hemos trabajado con agencias gubernamentales para proporcionar soluciones tecnológicas. Este proyecto específico es un piloto con el Departamento de Defensa, para proporcionar API TensorFlow de código abierto que pueden ayudar en el reconocimiento de objetos en datos no clasificados «, dijo el vocero. «La tecnología muestra imágenes para revisión humana, y es solo para usos no ofensivos.

El uso militar del aprendizaje automático naturalmente plantea preocupaciones válidas. Estamos discutiendo activamente este tema importante internamente y con otros a medida que continuamos desarrollando políticas y salvaguardas en torno al desarrollo y el uso de nuestras tecnologías de aprendizaje automático».

El Departamento de Defensa estableció una línea de tiempo agresiva para Maven: se esperaba que el proyecto se pusiera en marcha solo seis meses después de su fundación y, según los informes, se ha desplegado en la lucha contra el Estado Islámico desde diciembre.

Para cumplir con el cronograma agresivo, el Departamento de Defensa se asoció con expertos en AI en la industria tecnológica y académica, trabajando a través de Defense Information Unit Experimental, el programa de incubación tecnológica del departamento y Defense Innovation Board, un grupo asesor creado por el ex secretario de Defensa Ash Carter para cerrar la brecha tecnológica entre el Pentágono y Silicon Valley.

Schmidt, quien dejó el cargo de presidente ejecutivo de la empresa matriz de Google, Alphabet, el mes pasado, preside la Junta de Innovación de Defensa. Durante una reunión en julio, Schmidt y otros miembros de la Junta de Innovación de Defensa discutieron la necesidad del Departamento de Defensa de crear un centro de intercambio de información de entrenamiento que pueda usarse para mejorar la capacidad de inteligencia artificial de los militares.

Los miembros de la junta desempeñaron un «papel consultivo» en Project Maven, de acuerdo con los minutos de la reunión , mientras que «algunos miembros de los equipos de la Junta son parte del grupo directivo ejecutivo que es capaz de proporcionar información rápida» sobre Project Maven.

Maven es supervisado por el subsecretario de inteligencia de defensa y el Teniente General John Shanahan fue seleccionado como el director del proyecto. Maven fue diseñado para ser la chispa, según Shanahan, que encendería «el frente de la llama de la inteligencia artificial» en todo el Departamento de Defensa.

En el verano de 2017, el equipo se propuso ubicar socios comerciales cuya experiencia era necesaria para hacer realidad sus sueños de inteligencia artificial. En la cumbre de Defense One Tech en Washington, el coronel principal del Cuerpo de Marines de Maven, Drew Cukor, dijo que una relación simbiótica entre humanos y computadoras era crucial para ayudar a los sistemas de armas a detectar objetos.

Dirigiéndose a una multitud de expertos en tecnología militar y de la industria, muchos de Silicon Valley, Cukor, declararon que los EE. UU. Se encuentran en medio de la carrera armamentista de AI. «Muchos de ustedes habrán notado que Eric Schmidt está llamando a Google una compañía de IA ahora, no una compañía de datos», dijo, aunque Cukor no citó específicamente a Google como un socio de Maven.

«No hay una ‘caja negra’ que entregue el sistema de inteligencia artificial que el gobierno necesita, al menos no ahora», continuó. «Los elementos clave deben unirse … y la única forma de hacerlo es con los socios comerciales junto a nosotros».

Un portavoz del Departamento de Defensa se negó a decir si Google era su único socio industrial privado en Project Maven o para aclarar el papel de Google en el proyecto.

«Al igual que otros programas del Departamento de Defensa, Project Maven no hace ningún comentario sobre los detalles del contrato, incluidos los nombres y las identidades de los contratistas y subcontratistas del programa», dijo el vocero.

Fuentes: Gizmodo