View in

English

Sécurité informatique : sommes-nous capables de rivaliser avec l’intelligence artificielle ?

|

L'intelligence artificielle est partout présente : autopilotage pour Tesla, infox vidéo pour s'amuser ou propager de fausses informations, DALL·E 2 pour les artistes sans talent, ou encore données massives et apprentissage automatique pour analyser les données. Le CERN ne fait pas exception. Si toutes ces applications de l'intelligence artificielle présentent des avantages et des inconvénients, des bénéfices et des risques, lorsqu'il s'agit de sécurité informatique, chaque système d'intelligence artificielle doit être envisagé individuellement. Nous avons donc saisi l'occasion de demander au célèbre spécialiste en intelligence artificielle, ChatGPT, quelle était la meilleure façon de sécuriser les systèmes d'intelligence artificielle. Voici ce qu'il a répondu :

« L'intelligence artificielle est une technologie qui progresse rapidement ; elle pourrait profiter considérablement à la société, et de diverses manières. Elle pose toutefois également de nouveaux risques de sécurité qui doivent être pris en compte. Voici quelques bonnes pratiques pour garantir la sécurité des systèmes d'intelligence artificielle :

  • Sécuriser les entrées et sorties des données. Les systèmes d'intelligence artificielle s'appuient sur de grandes quantités de données pour apprendre et prendre des décisions. Ces données doivent être protégées contre tout accès et toute intervention non autorisés afin de garantir l'intégrité et la précision du système.
  • Utiliser des algorithmes et des protocoles sécurisés. Les systèmes d'intelligence artificielle utilisent des algorithmes et des protocoles complexes pour traiter les données et prendre des décisions. Il est important d'utiliser des algorithmes sécurisés qui ont été soigneusement contrôlés et testés, et de s'assurer que toutes les communications entre le système d'intelligence artificielle et les autres systèmes sont cryptées.
  • Surveiller et contrôler les systèmes d'intelligence artificielle. Un contrôle et un audit réguliers des systèmes d'intelligence artificielle peuvent contribuer à la détection et à la prévention des atteintes à la sécurité. Il faut pour cela rechercher tout comportement inhabituel ou suspect, et contrôler les fichiers journaux du système afin de détecter des signes d'accès ou d'intervention non autorisés.
  • Mettre en place des contrôles d’accès. Les contrôles d'accès peuvent aider à empêcher l'accès non autorisé aux systèmes d'intelligence artificielle et aux données qu'ils traitent. Cela suppose la création de comptes d'utilisateurs et l'attribution de rôles et d’autorisations, ainsi que la mise en œuvre de mécanismes d'authentification tels que la biométrie ou l'authentification multifactorielle.
  • Se tenir informé. La technologie de l'intelligence artificielle continue d'évoluer, il est donc important de se tenir au courant des derniers risques de sécurité et des bonnes pratiques. Vous pouvez par exemple assister à des conférences et ateliers en la matière, lire les articles publiés par le secteur, et veiller à ce que vos mises à jour et correctifs logiciels soient actualisés.
  • Se préparer au pire. Les systèmes d'intelligence artificielle peuvent être vulnérables aux cyberattaques, il est donc important de mettre en place un plan d'intervention pour répondre à un éventuel incident de sécurité. Cela implique de disposer d'une équipe formée pour répondre à ce type d'incidents et de tester régulièrement les plans d'intervention pour s'assurer de leur efficacité.

En suivant ces bonnes pratiques, les organisations peuvent contribuer à assurer la sécurité de leurs systèmes d'intelligence artificielle et se protéger d'éventuelles cybermenaces. L'intelligence artificielle envahit tous les secteurs d'activité, il est donc important de connaître les risques de sécurité et les bonnes pratiques pour les limiter. »

Merci beaucoup, ChatGPT. Concernant l'intelligence artificielle, rien de particulier à signaler jusqu’ici. Que ce soit au niveau individuel (utilisateur d’un PC, d’un portable ou d’un smartphone) ou au niveau d’un service informatique bien géré (comme celui du CERN), il suffit d’appliquer les mesures de sécurité informatique habituelles :

Six mesures simples pour rendre votre service informatique plus sûr et protéger vos données personnelles stockées sur votre ordinateur portable et votre smartphone. Six mesures simples et de bon sens pour des personnes soucieuses de sécurité. Six mesures simples que même un robot d'intelligence artificielle estime logiques. Alors, dites-moi, dans quelle mesure l'intelligence artificielle est-elle humaine ? Sommes-nous capables de rivaliser avec elle ?

Pour en savoir plus sur les incidents et les problèmes en matière de sécurité informatique au CERN, lisez notre rapport mensuel (en anglais). Si vous désirez avoir plus d’informations, poser des questions ou obtenir de l’aide, visitez notre site ou contactez-nous à l’adresse Computer.Security@cern.ch.