ChatGPT: après un vol de données chez OpenAI, la crainte que la Chine n'en profite

Le début d'année 2023 a été chahuté pour OpenAI. L'entreprise américaine à l'origine de ChatGPT a en effet dû faire face à un vol de données personnelles. Un pirate informatique avait réussi à accéder au système de messagerie interne et récupérer les nom, prénom, adresse mail et postale de plusieurs employés.

Des détails de discussions ont été dévoilés au grand jour, mais le code source de ChatGPT et de son intelligence artificielle générative, lui, n'était pas concerné. Pour autant, OpenAI a mis plusieurs semaines à officialiser cet incident, ne l'annonçant qu'en avril 2023, et ne prévenant pas les autorités, rapporte le New York Times.

La sécurité d'OpenAI en question

Mais cette relative confiance de l'entreprise cache néanmoins quelques inquiétudes sur ce qu'un pirate pourrait faire des informations récoltées, et ce qu'un pays comme la Chine pourrait réaliser si elle les avait en sa possession. Plus globalement, le quotidien décrit une ambiance pleine d'incertitudes face à une direction pas toujours irréprochable sur les questions de sécurité.

Dans une note interne, Leopold Aschenbrenner, ex-responsable technique chez OpenAI, accusait la société de ne pas en faire assez pour éviter qu'un gouvernement étranger ne puisse voler ses secrets. C'est selon lui suite à cette note et pour des raisons politiques qu'il aurait été licencié au printemps 2024. Une information réfutée par OpenAI dans un communiqué.

La crainte d'un piratage d'OpenAI par la Chine n'est pas infondée: comme l'explique le New York Times, Brad Smith, le président de Microsoft, avait révélé que des pirates chinois s'étaient appuyés sur les systèmes de l'entreprise pour lancer une attaque de grande envergure sur les différents sites gouvernementaux.

La Chine bientôt devant les Etats-Unis sur l'IA?

Autre objet d'inquiétudes, les employés d'origine étrangère travaillant sur des systèmes critiques. Si la loi californienne empêche les entreprises de mettre en place de la discrimination à l'embauche en fonction des origines, c'est aussi parce que sans ces cerveaux venus d'ailleurs, les progrès américains dans le secteur de l'intelligence artificielle seraient bien plus lents.

Une situation à double tranchant donc, face à une IA toujours plus intelligente. Mais comme l'expliquait Anthropic, par la voix de sa co-fondatrice, Daniela Amodei, les risques avec les versions actuelles d'IA génératives sont contenus.

Reste qu'à plus long terme, les chercheurs évoquent la possibilité d'utiliser l'IA pour concevoir des armes, qu'elles soient physiques ou numériques. Pour éviter le pire, plusieurs parlementaires cherchent à intégrer des sanctions contre les entreprises qui concevraient des technologies d'IA jugées dangereuses.

Pour autant, certains pensent qu'un risque de piratage de la Chine sur OpenAI semble écarté par le fait que le pays réalise des progrès importants dans le domaine de l'intelligence artificielle: "Il n'est pas fou de penser que la Chine sera bientôt en avance sur les Etats-Unis," explique au New York Times Clément Delangue, directeur général de Hugging Face, dont le but est d'héberger des projets d'IA open source.