Logo de l'OEP
Logo de l'OEP

« Nous voulons éviter des IA qui nous comprennent et nous manipulent » (Le Point 30/8/2023)

Une étude scientifique liste les critères d’une conscience artificielle. Un doux rêve ? Notre enquête, avec, entre autres, les avis des chercheurs Yoshua Bengio et Stanislas Dehaene.

 Par Guillaume Grallet

Attention, dynamite ! Le sujet qui passionne aussi bien le tonitruant Elon Musk que Demis Hassabis, cofondateur de DeepMind (le logiciel qui a battu l'homme au jeu de go), et a longtemps empêché de dormir le physicien star Stephen Hawking, repose sur une idée un peu folle : les machines, et plus précisément l'intelligence artificielle, peuvent-elles avoir une conscience ? «C'est la transgression ultime, explique Jean-Gabriel Ganascia, directeur de l'équipe Agents cognitifs et apprentissage symbolique automatique à la Sorbonne et ancien président du comité d'éthique du CNRS, car cela ouvre la voie à une autonomie de la machine qui pourrait s'affranchir de l'homme, voire se retourner contre lui. » Elle est d'ailleurs au cœur de 2001, l'odyssée de l'espace, le chef-d'œuvre de Stanley Kubrick : on y voit l'ordinateur aux commandes d'un vaisseau spatial se retourner contre ses pilotes, jusqu'à vouloir les tuer.

Lire