🔭 La cyber sécurité à l’heure de l’AGI

Il y a un petit site rigolo dont le nom m'a bien fait marrer : bonjourlafuite (qui suggère un partenariat avec Pampers dans son code source).

Une fois qu'on a fini de rigoler sur l'idée d'un sponsoring avec une marque de couches (idée de génie !), le site s'avère beaucoup moins drôle.

C'est une longue. Très longue. Liste de fuites de données.

Les fuites de données sont la face émergée des incidents de cybersécurité : les pirates revendent en général des données personnelles au plus offrant.

Bien souvent par des failles de sécurité (basiques pour certaines).

C'est moins drôle quand ce sont carrément les données de nos impôts (piratage DGFiP) ou de nos enfants (piratage Education Nationale).
Dans les deux cas, le piratage était une usurpation d'identité : les pirates ont tout simplement mis la main sur un login/mot de passe qui avait accès à beaucoup de choses. 😮

La double authentification ?
Connaît pas.

Donc toutes ces failles, ce sont des failles "faciles". Les pirates n'ont qu'à se baisser pour ramasser.

Et si je vous disais que ces piratages ne sont rien par rapport à ce qui nous attend ?

AIe AIe AIe. Ouille.

Vous avez probablement entendu parler de l'arrivée de ChatGPT 6 "Astra" :

C'est une nouvelle version majeure de ChatGPT. Un ChatGPT nettement plus intelligent qui peut travailler pendant des heures, des jours sur des problèmes complexes.

En fait, Astra est prêt depuis un moment, mais il est tellement puissant qu'on l'a retardé pour développer des garde-fous afin qu'on n'en fasse pas un mauvais usage.

Comme je ne veux pas que vous fassiez des cauchemars à cause de moi, je vous épargne la liste complète.

Parlons juste de la cybersécurité : Astra (et Mythos/Fable chez Anthropic) est capable de trouver des failles de sécurité complexes qui n'ont jamais été découvertes jusqu'ici. Des failles 0-day.

Or, tous les logiciels au monde ont des failles.

On en découvre de temps en temps. C'est toujours un évènement. Mais on n'en découvre qu'un petit bout car ça prend normalement du temps de découvrir les failles.

On n'aura jamais le temps de les corriger toutes.
Par contre, une IA lâchée dans la nature de niveau Astra ou Mythos peut faire des vrais dégâts.

On ne parle pas juste d'une nouvelle fuite de données (nos impôts et notre adresse sont publics, on est déjà à poil ! 🥲). On parle d'une prise de contrôle silencieuse des infrastructures critiques, voire d'une mise à l'arrêt.

☝️ Mon analyse

On parle beaucoup de souveraineté en Europe, mais avec les enjeux d'il y a 10 ans.

Pour beaucoup, la souveraineté consiste à avoir des serveurs qui tournent sur notre sol, avec des logiciels qu'on a conçus nous. 🇪🇺🐓

Mais qu'est-ce que la souveraineté quand votre pays, qui ne fonctionne plus vraiment sans informatique, se retrouve paralysé d'un coup par des milliers de cyberattaques qui arrivent dans tous les sens ?

Voici ci-dessous quelques illustrations concrètes de ce qui nous attend à mon avis.