Grosse affaire pourtant passer sous silence. Des employés de chez Google (Alphabet) ont démissionné alors que d'autres ont signé une pétition contre un projet que la firme a lancer concernant la mise a disposition de leurs système IA pour de l'analyse d'image de drone. Le tous, pour le compte des agences de renseignements fédérales.
" Près d'une douzaine d'employés de Google ont démissionné et près de 4 000 ont signé une pétition concernant l'implication de l'entreprise dans un programme pilote controversé appelé "Project Maven", qui utilisera l'intelligence artificielle pour accélérer l'analyse des images de drones.
Le projet Maven, un projet du Pentagone rapide, également connu sous le nom d'équipe interfonctionnelle de guerre algorithmique (AWCFT) , a été créé en avril 2017 . La mission déclarée de Maven est d '« accélérer l'intégration du big data et de l'apprentissage automatique » du DoD . Au total, le département de la Défense a dépensé 7,4 milliards de dollars dans des domaines liés au renseignement artificiel en 2017, a rapporté le Wall Street Journal .
La première mission du projet était d'aider le Pentagone à traiter efficacement le déluge de séquences vidéo collectées quotidiennement par ses drones aériens - une quantité de séquences si vaste que les analystes humains ne peuvent pas suivre. - Gizmodo
Le projet Maven utilisera l'apprentissage automatique pour identifier les véhicules et autres objets à partir de séquences de drones - dans le but ultime de permettre la détection et l'identification automatiques d'objets dans jusqu'à 38 catégories - y compris la capacité de suivre les individus à différents endroits.
L'objectif du projet Maven, selon le lieutenant général de l'armée de l'air John NT "Jack" Shanahan, directeur des renseignements de la Défense pour le soutien des Warfighter au Bureau du sous-secrétaire à la Défense, est de transformer l'énorme volume de données disponibles. l'intelligence et les idées exploitables. "- DoD
La révolte interne a commencé peu de temps après que Google a révélé son implication dans le projet il y a près de trois mois .
Certains employés de Google ont été indignés que la société offrirait des ressources à l'armée pour la technologie de surveillance impliquée dans les opérations de drones , tandis que d'autres ont soutenu que le projet soulevait d'importantes questions éthiques sur le développement et l'utilisation de l'apprentissage automatique. - Gizmodo
Les employés démissionnaires ont cité toute une série de frustrations, allant de préoccupations éthiques concernant l'utilisation de l'IA dans un contexte de champ de bataille à des préoccupations plus larges concernant les décisions politiques générales de Google.
Les ex-employés mécontents, apparemment inconscients que Google a été financé par la NSA et la CIA , ont compilé un document maître de comptes personnels détaillant leurs décisions de partir, que de nombreuses sources ont décrit à Gizmodo .
Les employés qui démissionnent pour protester, dont plusieurs ont discuté de leur décision de partir avec Gizmodo, disent que les cadres sont devenus moins transparents avec leurs employés sur les décisions commerciales controversées et semblent moins intéressés à écouter les objections des travailleurs que par le passé. Dans le cas de Maven, Google aide le département de la Défense à mettre en place un apprentissage automatique pour classer les images recueillies par les drones. Mais certains employés pensent que les humains, et non les algorithmes, devraient être responsables de ce travail sensible et potentiellement meurtrier - et que Google ne devrait pas du tout être impliqué dans le travail militaire.
Historiquement, Google a promu une culture ouverte qui encourage les employés à contester et à débattre des décisions relatives aux produits. Mais certains employés estiment que leur leadership n'est plus aussi attentif à leurs préoccupations, les laissant faire face aux retombées. « Au cours des derniers mois, j'ai été de moins en moins impressionné par la réaction et la façon dont les préoccupations des gens sont traitées et écoutées », a déclaré un employé qui a démissionné. - Gizmodo
Ironiquement, le développement de l'algorithme original de Google à Stanford a été en partie financé par un programme conjoint CIA-NSA dans lequel le fondateur Sergei Brin a créé une méthode pour extraire rapidement de grandes quantités de données stockées dans des bases de données.
- "Le fondateur de Google, M. Sergey Brin, a été partiellement financé par ce programme alors qu'il était étudiant en doctorat à Stanford. Avec son conseiller, le professeur Jeffrey Ullman et son collègue de MITER, le Dr Chris Clifton, scientifique en chef de Mitre, il a mis au point le Query Flocks System qui produisait des solutions pour extraire de grandes quantités de données stockées dans des bases de données. Je me souviens d'avoir rendu visite à Stanford avec le Dr Rick Steinheiser de la communauté du renseignement et M. Brin se lançait sur des patins à roues alignées, faisait sa présentation et se précipitait. En fait, la dernière fois que nous nous sommes rencontrés en septembre 1998, M. Brin nous a montré son moteur de recherche qui est devenu Google peu de temps après. »- Nafeez Ahmed
Dans leur défense du projet Maven, Google note que leur IA ne sera pas réellement utilisée pour tuer qui que ce soit (il suffit d'aider les cibles d'identification militaire à «servir»). Ce n'est pas assez bon pour les travailleurs et les universitaires opposés à l'utilisation de l'apprentissage automatique dans une application militaire.
- En plus de la pétition circulant à l'intérieur de Google, la Tech Workers Coalition a lancé une pétition en avril demandant que Google abandonne son travail sur Maven et que d'autres grandes entreprises technologiques, dont IBM et Amazon, refusent de travailler avec le département américain de la Défense. -Gizmodo
"Nous ne pouvons plus ignorer les préjugés nuisibles de notre industrie et de nos technologies, les violations de confiance à grande échelle et le manque de garanties éthiques", lit-on dans la pétition. "Ce sont des enjeux de vie et de mort."
Plus de 90 universitaires en IA, éthique et informatique ont publié une lettre ouverte lundi , appelant Google à mettre fin à son implication dans le projet Maven et à soutenir un traité international qui interdirait l'utilisation de systèmes d'armes autonomes.
- Peter Asaro et Lucy Suchman, deux des auteurs de la lettre, ont témoigné devant les Nations Unies au sujet des armes autonomes; un troisième auteur, Lilly Irani, est professeur de sciences et ancien employé de Google. Les contributions de Google au projet Maven pourraient accélérer le développement d'armes entièrement autonomes, a déclaré Suchman à Gizmodo. Bien que Google soit basé aux États-Unis, il a l'obligation de protéger sa base d'utilisateurs globale qui l'emporte sur son alignement avec l'armée de n'importe quelle nation, a-t-elle dit. - Gizmodo
"Si une action éthique de la part des entreprises technologiques nécessite de réfléchir à qui pourrait bénéficier d'une technologie et qui pourrait être lésé, alors nous pouvons affirmer qu'aucun sujet ne mérite une réflexion plus sobre - aucune technologie n'a de plus grands enjeux - que les algorithmes destinés à cibler et tuer à distance et sans responsabilité publique », affirme la lettre. "Google s'est lancé dans le travail militaire sans se soumettre à un débat public ou délibéré, que ce soit au niveau national ou international. Alors que Google décide régulièrement de l'avenir de la technologie sans engagement public démocratique, son entrée dans les technologies militaires met en relief les problèmes du contrôle privé de l'infrastructure de l'information. "
Nous sommes sûrs que les employés n'ont pas à s'inquiéter et leurs préoccupations sont exagérées - comme la devise de Google "Ne soyez pas mauvais" les empêche de participer à un programme effrayant qui pourrait tuer plus de personnes innocentes qu'un pilote automatique Tesla.
Aucun commentaire:
Enregistrer un commentaire