Steve Wozniak et Elon Musk demandent une pause dans le développement de l'IA

Des experts en intelligence artificielle et des leaders de l'industrie, dont Elon Musk, Stuart Russell, professeur d'informatique à l'Université de Californie à Berkeley, et Steve Wozniak, cofondateur d'Apple, appellent les développeurs à suspendre le développement de puissants modèles d'IA, avertissant qu'ils présentent "des risques profonds pour la société et l'humanité".

Plus de 1100 personnes de l'industrie ont signé une pétition appelant à une pause de six mois dans la formation de systèmes d'intelligence artificielle plus puissants que la dernière itération derrière ChatGPT d'OpenAI, afin de permettre le développement de protocoles de sécurité partagés.

La lettre a été signée par plusieurs spécialistes du domaine, avec notamment des membres du laboratoire d'IA de Google, le patron du principal concurrent d'OpenAI (Stability AI) mais aussi par des chercheurs et des universitaires. Elle a été mise en ligne sur le site du Future of life institute, une organisation fondée en 2014 s'intéressant aux risques existentiels modernes (réchauffement climatique, armes nucléaires…).

L'appel intervient après le lancement d'une série de projets d'IA au cours des derniers mois qui exécutent de manière convaincante des tâches humaines telles que la rédaction d'e-mails et la création artistique. OpenAI, soutenu par Microsoft, a publié ce mois-ci son GPT-4, une mise à niveau majeure de son chatbot alimenté par l'IA, capable de raconter des blagues et de passer des tests comme l'examen du barreau.