IA militaire : la Chine évoque Terminator pour alerter sur les risques

La montée en puissance de l'intelligence artificielle (IA) dans le domaine militaire suscite des inquiétudes croissantes, notamment en Chine. Lors d'un point presse à Pékin, Jiang Bin, porte-parole du ministère chinois de la Défense, a utilisé une référence cinématographique célèbre pour illustrer ces préoccupations : le film Terminator sorti en 1984. Cette invocation souligne les risques potentiels d'une autonomie excessive accordée aux machines dans les opérations militaires.

Une mise en garde claire contre l'autonomie des machines

Jiang Bin a déclaré : « Une dystopie pourrait un jour devenir réalité », en évoquant la possibilité que des systèmes automatisés prennent le contrôle des opérations militaires. Cette déclaration vise directement les États-Unis, qui intensifient leur utilisation de l'IA au sein de leurs forces armées.

Pour la Chine, l'usage sans restriction de l'intelligence artificielle pourrait compromettre les normes éthiques et la responsabilité dans les conflits. Le porte-parole a souligné que « donner aux algorithmes le pouvoir de déterminer la vie et la mort » représente une ligne rouge à ne pas franchir.

La primauté humaine dans l'utilisation de l'IA militaire

La position officielle de Pékin est claire : les humains doivent garder le contrôle. Jiang Bin a insisté sur le fait que « la primauté humaine doit être maintenue dans les applications militaires de l’IA ». Tous les systèmes d’armes intégrant de l’IA doivent ainsi rester sous contrôle humain, afin d’éviter des décisions autonomes qui pourraient avoir des conséquences catastrophiques.

Appel à des règles internationales sur l'IA militaire

En plus de cette mise en garde, la Chine appelle à un renforcement des règles internationales concernant l'utilisation de l'IA dans le cadre militaire. Elle souhaite que des discussions multilatérales soient organisées sous l'égide des Nations Unies pour établir des normes claires et éthiques sur ces technologies.

Conflits d'intérêts et tensions avec les États-Unis

Parallèlement, le Pentagone est engagé dans un conflit avec la société californienne Anthropic, qui développe l'IA Claude. Cette entreprise refuse de relâcher certaines limites d'utilisation de son système pour éviter qu'il ne soit utilisé à des fins militaires violentes ou de surveillance. Le département de la Défense des États-Unis a menacé d'exclure Anthropic de ses fournisseurs, aggravant ainsi les tensions.

Des informations récentes indiquent que l'IA Claude aurait déjà été utilisée pour des tâches militaires, telles que la collecte de renseignements et la sélection de cibles. Ces opérations seraient liées à un projet de raid contre le président vénézuélien Nicolás Maduro.

Les géants technologiques au service de l'armée américaine

L'armée américaine s'appuie déjà sur plusieurs modèles d'IA fournis par des entreprises technologiques majeures. Par exemple, Alphabet propose une version gouvernementale de son IA Gemini, tandis que la société xAI d'Elon Musk commercialise une suite nommée « Grok for Government ». Ces collaborations soulèvent des questions éthiques sur l'utilisation de l'IA dans des contextes militaires.

Conclusion

La mise en garde de la Chine sur l'utilisation de l'IA dans le domaine militaire, illustrée par la référence au film Terminator, souligne l'importance de maintenir le contrôle humain sur les systèmes d'armement. Alors que les tensions entre les États-Unis et la Chine continuent d'augmenter, il est crucial d'établir des normes éthiques et des règles internationales pour encadrer l'utilisation de ces technologies potentiellement dangereuses.