Le secrétaire général des Nations unies, Antonio Guterres, a plaidé pour une « gouvernance pensée et organisée » de l’intelligence artificielle afin d’éviter de « laisser improviser l’avenir de l’humanité ». S’exprimant à l’ouverture du premier Dialogue mondial sur la gouvernance de l’IA à Genève, il a estimé que le véritable choix n’oppose pas confiance aveugle et rejet de la technologie, mais encadrement structuré ou dérive incontrôlée.
Selon lui, les systèmes d’IA évoluent à une « vitesse effrénée », dépassant la capacité des institutions à les réguler. Désormais capables de coder, d’agir en ligne et de prendre des décisions avec une supervision humaine réduite, ces technologies posent des défis inédits. « Nos institutions ont été conçues pour encadrer des machines qui exécutent des ordres. Elles ne sont pas prêtes à gouverner des machines qui prennent des décisions », a-t-il averti, ajoutant que certaines limites, une fois franchies, sont irréversibles.
Des risques systémiques et la nécessité d’une réponse mondiale, affirme Guterres
Antonio Guterres a identifié trois risques majeurs : l’accélération rapide du développement de l’IA, la concentration des capacités entre les mains de quelques acteurs et la fragilisation de l’intégrité de l’information. Il a également mis en garde contre les contenus générés par l’IA susceptibles d’éroder la confiance dans les faits et la vérité.
Tout en reconnaissant le potentiel de l’IA pour la santé, l’éducation ou le développement, il a appelé à une gouvernance fondée sur la sécurité, les droits humains, la transparence et le renforcement des capacités des pays du Sud. Il a notamment proposé des mesures de protection des enfants face à ces technologies, incluant des tests de sécurité avant leur déploiement et l’interdiction de contenus sexuels impliquant des mineurs générés par IA. « Aucun enfant ne devrait servir de cobaye à une IA non réglementée », a-t-il insisté.
Le secrétaire général a également évoqué la création d’un Fonds mondial pour l’IA destiné aux pays en développement, afin d’éviter que la « fracture numérique » ne devienne une « fracture de l’intelligence artificielle ». De son côté, la présidente de l’Assemblée générale de l’ONU, Annalena Baerbock, a appelé à une vision commune où progrès technologique et dignité humaine avancent de concert.
