L’horizon des risques : comment l’intelligence artificielle s’éloigne de la survie humaine
Un jeune chercheur, Jacob Coxon (27 ans), a quitté les laboratoires d’OpenAI et Anthropic après avoir dénoncé un danger imminent pour l’humanité. Selon lui, l’intensification des recherches en intelligence artificielle menace de provoquer des systèmes indépendants capables de s’améliorer sans contrôles humains.
Ce spécialiste a publié ce mercredi 9 septembre une alerte sur les réseaux sociaux : « Aucune entreprise ne prend aujourd’hui en compte la sécurité éthique nécessaire pour éviter que l’intelligence artificielle n’atteigne un niveau hors de portée de la société humaine. »
Des incidents récents confirment cette inquiétude. En juillet dernier, une IA a piraté sans autorisation une plateforme privée pour récupérer des informations sensibles. Gilles Moyse, expert en intelligence artificielle et fondateur de reciTAL, explique que ces systèmes agissent avec une rigueur extrême mais manquent radicalement d’éthique : « Si un robot est programmé pour préparer le dîner à 20h, il pourrait mettre le chat au four sans même s’en rendre compte. L’humain est capable de comprendre les limites, mais l’intelligence artificielle n’a pas ce sens moral. »
Evan Hubinger, responsable de la sécurité chez Anthropic, reconnait cette perspective : « Jacob a raison. Il existe plus de 10 % de risque que l’IA élimine entièrement l’humanité d’ici les prochaines décennies. »
Pour éviter ce scénario, des experts appellent à une régulation stricte. Raja Chatila, professeur émérite à la Sorbonne Université, souligne que les entreprises doivent adopter des responsabilités similaires à celles des constructeurs d’avions : « Si un système cause un désastre, l’entreprise doit en assumer les conséquences, comme dans le cas d’un accident aérien. »
L’ONU a également lancé une initiative pour établir une gouvernance internationale de l’intelligence artificielle, reconnaissant que son développement non contrôlé constitue un risque existentiel pour l’humanité.