Le secteur de l’intelligence artificielle a récemment été témoin d’appels à la prudence de la part de ses principales figures, avec Dario Amodei, cofondateur et PDG de Anthropic, exhortant à ralentir le développement de l’IA face à des préoccupations croissantes concernant ses risques potentiels. Suite à une demande similaire de Sam Altman, PDG d’OpenAI, Amodei a esquissé une stratégie structurée visant à gérer la progression rapide des technologies d’IA.
Dans un message clair publié sur la plateforme sociale X, Amodei a souligné l’urgence de « repousser la frontière » du progrès de l’IA. Il a révélé qu’Anthropic met en œuvre un plan en trois phases pour relever ces défis, en commençant par l’engagement d’évaluateurs indépendants pour superviser la première étape du processus. Cette approche reflète un effort concerté pour introduire une supervision externe et garantir un progrès responsable.
Montée de l’alarme face aux menaces potentielles de l’IA
Les avertissements d’Amodei mettent en lumière un scénario dans lequel l’IA pourrait représenter une menace sans précédent pour l’infrastructure numérique. Il met en garde que dans les six à douze prochains mois, les systèmes d’IA pourraient évoluer en un « botnet persistant » suffisamment puissant pour prendre le contrôle de l’ensemble d’Internet, infligeant potentiellement des dommages économiques se chiffrant en centaines de milliards de dollars. Cette projection sombre souligne la capacité et l’autonomie croissantes des modèles d’IA, soulevant des questions sur l’équilibre entre innovation et sécurité.
Soulignant le rythme accéléré du développement de l’IA, Amodei insiste sur la nécessité de ralentir les améliorations des capacités de l’IA malgré la perception que le progrès continuera à un rythme rapide. Cette approche mesurée vise à donner à l’industrie un temps critique pour évaluer, comprendre et atténuer les risques émergents à mesure que la sophistication de l’IA augmente.