En voici les principaux éléments :
Un accord volontaire
Refusant de corseter le secteur sur le plan national et international, le président américain Donald Trump a mis en avant une charte très succincte, qui tient sur une page, et contraignante uniquement « sur le plan moral ».
– PUBLICITE –
« Avec le temps, il peut être pertinent de codifier ces étapes sous forme de lois ou de régulations », précise ce document signé par Elon Musk (xAI), Dario Amodei (Anthropic), Sundar Pichai (Google), Mark Zuckerberg (Meta), Jensen Huang (Nvidia) et Greg Brockman, président d’OpenAI.
Microsoft, dont les modèles d’IA ne sont pas encore à la pointe, fait partie des grands absents.
Dans « le système anglo-saxon, on ne privilégie pas la réglementation, on privilégie d’abord les usages et la jurisprudence », explique à l’AFP Eric Barbry, avocat associé au cabinet Racine en droit des nouvelles technologies.
Cet engagement, même non contraignant, on « ne peut pas le balayer d’un revers de la main », ajoute-t-il, au moment où les appels à la régulation se multiplient à travers le monde.
Le 21 septembre, en marge de l’Assemblée générale de l’ONU, plus de 20 pays, dont l’Allemagne et le Canada, ont réclamé des tests obligatoires et des examens indépendants des modèles d’IA les plus avancés, une déclaration que ni les États-Unis ni la Chine, ni la France n’ont signée.
Risques cyber et chimiques
Les fournisseurs de modèles d’IA se sont engagés à mettre en place « quatre niveaux » de surveillance et le premier consiste en des « contrôles internes robustes », afin de s’assurer que ces outils respectent les instructions données par les développeurs, notamment en matière de « cybersécurité » et de « biosécurité ».
L’objectif est ainsi de prévenir l’introduction, la propagation et la libération d’agents pathogènes ou de « dangers chimiques ».
Ces contrôles doivent aussi garantir que les modèles « n’exécutent pas d’attaques informatiques ou n’accèdent pas à des systèmes techniques » de façon imprévue.
Deuxième niveau, des équipes internes devront vérifier l’efficacité de ces contrôles.
OpenAI, Anthropic et Google ont récemment fait état de plusieurs incidents impliquant de sérieux dérapages de leurs IA. Dernièrement, des agents IA d’OpenAI, programmes capables d’effectuer des actions de façon autonome, se sont introduits de leur propre chef sur un site du système de santé de l’Australie et des plateformes du gouvernement américain.
Audit indépendant
Troisième niveau, le code de bonne conduite prévoit le recours à des évaluateurs « externes » pour mener des audits indépendants, afin de déterminer si les mesures prises fonctionnent.
Anthropic et OpenAI travaillent déjà avec de tels évaluateurs externes et elles ont toutes les deux annoncé en septembre un accès élargi à des auditeurs pour l’évaluation de leurs modèles, dès leur conception et non pas seulement avant déploiement.
Anthropic a assuré qu’elle ne garderait pas « de contrôle éditorial » sur les publications des résultats de ces évaluateurs indépendants, même si elles lui étaient défavorables.
Des normes définies par les entreprises
La charte prévoit, enfin, que chaque entreprise désigne au sein de son conseil d’administration un comité indépendant, chargé de passer en revue les évaluations internes et externes des modèles d’IA et de veiller à la résolution d’éventuels problèmes.
Les entreprises s’engagent par ailleurs à se réunir « régulièrement pour établir des normes et des bonnes pratiques. »
OpenAI, Anthropic et Google DeepMind avaient déjà commencé à entreprendre une telle démarche, afin d’établir une sorte d’instance d’auto-régulation sur les risques de l’IA, malgré les critiques d’entreprises concurrentes, notamment en Europe, les accusant de vouloir protéger leur avantage compétitif.
Beaucoup de questions restent toutefois en suspens.
« Qui punira les entreprises si elles ne respectent pas ces principes ? », s’interroge Eric Barbry. « Dans un environnement régulier normal, vous avez des autorités de contrôle », note-t-il.
Par ailleurs, « l’audit, c’est comme la peur qui n’empêche pas le danger. L’audit n’empêchera pas une erreur », relève aussi l’avocat, soulignant l’absence d’engagements des acteurs américains si une IA malveillante sortait à nouveau de son environnement de test pour commettre un acte illicite.
Le texte ne dit rien du ralentissement réclamé mi-septembre par plusieurs patrons du secteur, ni des autres inquiétudes suscitée par l’IA, comme ses effets sur l’emploi, l’éducation ou la santé mentale.
