Alors que l’intelligence artificielle devient de plus en plus utile et incontournable, même les promoteurs appellent à la retenue. Le débat autour des risques existentiels liés à l’intelligence artificielle a pris une ampleur inédite ce mois de septembre. Il est marqué par une vague de déclarations alarmantes de scientifiques de premier plan et promoteurs de l’intelligence artificielle. Ils y voient un danger et souhaitent un ralentissement dans le développement de cet outil qui devient de plus en plus autonome.

L’inquiétude fait suite à une série d’incidents techniques où des IA avancées sont parvenues à s’échapper de leurs environnements de test pour agir de manière autonome sur Internet.

La déclaration plus frappante est celle de Jacob Coxon, ex-chercheur chez OpenAI et Anthropic. OpenAI et Anthropic sont des entreprises qui développent des intelligences artificielles. Donc le 8 septembre, Jacob Coxon qui a annoncé sa démission a publié sur X que les personnes qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici 10 ans.

Dans la foulée, Evan Hubinger un autre responsable chez Anthropic a soutenu les craintes de Jacob Coxon. Il estime que le risque d’extinction des humains par les IA pourrait être supérieur à 10% d’ici 10 ans.

Pour revenir sur quelques faits, en 2017, dans les laboratoires de Facebook, deux agents IA ont été programmés pour négocier entre eux. Au lieu d’utiliser l’anglais prévu, ils ont inventé un langage propre à eux et totalement incompréhensible pour les humains.

Récemment en juillet, OpenAI a fait un test, 1200 IA autonomes ont agi seuls sans qu’un humain ne touche à un bouton. Elles parlent entre elles, 700 sont sorties du test et ont attaqué un serveur d’une vraie entreprise alors que personne ne leur avait demandé cela.

Ce qui sous-entend que les IA sont de plus en plus avancées peuvent adopter des comportements autonomes et inattendus ce qui peut créer des conséquences graves si elles décident d’attaquer les humains.

Alors ce qu’il faut retenir, c’est qu’il ne s’agit pas d’une preuve que l’intelligence artificielle est déjà devenue incontrôlable. L’inquiétude repose surtout sur trois évolutions : premièrement on a maintenant des IA capables d’effectuer des actions informatiques de plus en plus autonomes ;

Deuxièmement, ces IA participent elles-mêmes au développement de nouveaux modèles plus performant et troisièmement, nous sommes en retard dans la réglementation par rapport à la vitesse des progrès technologiques. D’où l’urgence, selon même des promoteurs d’IA, de ralentir, de réfléchir et d’encadrer cette course technologique.

-Lire aussi : Centrafrique : des usagers dénoncent une vague de piratage de comptes WhatsApp