En una nueva revisión de sus normas éticas, una importante compañía del sector tecnológico ha suprimido su promesa anterior de no emplear la inteligencia artificial (IA) en usos ligados a armamento o vigilancia que puedan violar leyes internacionales o derechos humanos. Anteriormente, la política de la empresa prohibía la creación de tecnologías capaces de causar daño general, incluidas armas, estando en consonancia con los principios de derechos humanos a nivel internacional.
En una reciente actualización de sus directrices éticas, una destacada empresa tecnológica ha eliminado su compromiso previo de no utilizar la inteligencia artificial (IA) en aplicaciones relacionadas con armamento o vigilancia que puedan infringir normas internacionales o derechos humanos. Hasta hace poco, la política de la compañía evitaba el desarrollo de tecnologías que pudieran causar daño general, incluyendo armas, alineándose con principios internacionales de derechos humanos.
Esta modificación ha generado diversas reacciones, tanto dentro como fuera de la empresa. Algunos empleados han expresado su preocupación en foros internos, cuestionando la dirección que está tomando la compañía. Por ejemplo, en la plataforma interna Memegen, se compartieron memes y comentarios críticos sobre la decisión, reflejando inquietudes respecto al uso de la IA en contextos militares y de vigilancia.
Esta decisión representa un cambio importante respecto a la postura asumida en 2018, cuando la compañía prohibió el uso de su tecnología de IA en armamento luego de protestas internas por un contrato con el Departamento de Defensa de Estados Unidos para analizar videos de drones. Desde aquel entonces, la tecnología ha progresado significativamente, y la IA se ha transformado en una herramienta omnipresente en numerosas aplicaciones, desde teléfonos móviles hasta internet.
Esta decisión marca un cambio significativo respecto a la postura adoptada en 2018, cuando la empresa prohibió el uso de su tecnología de IA en armamento tras protestas internas relacionadas con un contrato con el Departamento de Defensa de Estados Unidos para analizar videos de drones. Desde entonces, la tecnología ha avanzado considerablemente, y la IA se ha convertido en una herramienta omnipresente en diversas aplicaciones, desde teléfonos móviles hasta internet.
La eliminación de la prohibición alinea a la empresa con otras en el sector tecnológico que permiten ciertas aplicaciones militares de sus tecnologías. Por ejemplo, desarrolladores de IA como Meta y OpenAI han permitido el uso de sus tecnologías en contextos militares. Esta tendencia refleja una reevaluación de las políticas corporativas en respuesta a las dinámicas geopolíticas y los avances tecnológicos actuales.
Sin embargo, esta decisión también ha suscitado preocupaciones entre expertos y defensores de la ética en la IA. Algunos argumentan que el desarrollo de sistemas de armas autónomas y herramientas de vigilancia impulsadas por IA podría tener implicaciones éticas y de derechos humanos significativas. La comunidad científica ha advertido sobre los riesgos asociados con el desarrollo de armas autónomas y ha abogado por un sistema de control global para mitigar posibles amenazas.