El Proyecto Maven es un controvertido esfuerzo militar iniciado en 2018 y del que Google formara parte previo a que los empleados de Google señalaran que la empresa “no debería estar en el negocio de la guerra”, como resultado miles de empleados protestaron y alrededor de una docena dimitió de su cargo.
La presión social y por parte de los empleados hizo que Google se retirara del Proyecto Maven, sin embargo, otras empresas como Amazon y Microsoft tomaron su lugar y el proyecto continúa en curso hoy en día.
Proyecto Maven sigue su curso
No obstante, el Departamento de Defensa de los Estados Unidos sabe que tiene un fuerte problema de confianza por lo que fue necesario abordarlo con la intención de mantener el acceso a la tecnología, especialmente la Inteligencia Artificial (IA) la cual proviene principalmente de las Big Tech.
Como resultado de los esfuerzos, la unidad de Innovación de Defensa, quien otorga los contratos a las empresas, publicó lo que llamó “Pautas de Inteligencia Artificial responsable”, estas exigen a los desarrolladores externos utilizarlas cuando creen IA para el ejército.
En otras palabras, las pautas proporcionan un proceso paso a paso que las empresas deben seguir durante la planeación, desarrollo e implementación de la tecnología. Asimismo, los parámetros incluyen procedimientos para identificar quién podría usar la tecnología, quién podrías resultar perjudicado por ella y cuáles podrían ser los daños y cómo evitarlos.
Su propósito más general es asegurarse de que las empresas externas de tecnología se adhieran a los principios éticos del Departamento de Defensa para la creación de IA, señaló Bryce Goodman de la Unidad de Innovación de Defensa, quien fue coautor de las pautas.
No obstante, aún hay áreas grises que tomar en consideración, por ejemplo. Las pautas no dicen nada acerca del uso de armas autónomas letales, una de las tecnologías que más preocupan a los activistas y que aseguran deberían de prohibirse.
Asimismo, Goodman asentó “Habrá personas que nunca estarán satisfechas con ningún conjunto de pautas éticas que elabore el Departamento de Defensa porque encuentran la idea paradójica”, dice Goodman. «Es importante ser realista sobre lo que las pautas pueden y no pueden hacer».
