Un chercheur a peur que l'Intelligence Artificielle nous utilise comme nous utilisons les animaux

par **Gilles** Ven 10 Nov 2023 - 18:37

Et il bosse chez OpenAI, donc il sait de quoi il parle.

Il y a un moment où il faudra se poser la question: comment contrôle-t-on une intelligence infiniment supérieure à la nôtre? Quand on aura atteint ce stade, il faudra se souvenir que les créateurs de ChatGPT nous avaient prévenus. Un jour, l'intelligence artificielle (IA) n'aura plus besoin de nos bonnes idées. Il faut donc espérer que l'on partagera alors les mêmes objectifs, note un article de Futurism.

Le 2 novembre dernier, le Guardian a remis en ligne une vidéo issue de iHuman, un documentaire datant de 2019 et enregistré entre 2016 et 2019, dans laquelle la réalisatrice Tonje Hessen Schei recueille les réflexions d'Ilya Sutskever, cofondateur et directeur scientifique d'OpenAI, au moment où l'entreprise développait le désormais célèbre ChatGPT. Il y évoque l'objectif ultime de ce travail, l'intelligence artificielle générale (IAG), et les risques induits par cette évolution.

Si, aujourd'hui, l'intelligence artificielle nous permet, grâce à une plus grande capacité à traiter des données, de gagner en efficacité dans nos tâches, on ne doit pas la concevoir comme une extension de notre propre volonté.

Le concept d'IAG décrit ce point à partir duquel l'intelligence humaine n'est plus nécessaire, l'IA étant capable d'effectuer ou d'apprendre presque n'importe quelle tâche cognitive propre à notre espèce. Il faudra alors s'interroger sur l'alignement de ses objectifs et des nôtres. Car, selon Ilya Sutskever, rien n'indique qu'il soit automatique.

On ne demande pas leur avis aux animaux

Pour préciser sa pensée, l'informaticien compare notre relation à l'IA avec celle que l'on a avec les animaux. Nul besoin d'être «malveillant» pour qu'une divergence d'intérêt apparaisse: «Je pense que les humains aiment les animaux et ont beaucoup d'affection pour eux. Mais lorsqu'il s'agit de construire une autoroute entre deux villes, nous ne demandons pas leur permission aux animaux. Nous le faisons simplement parce que c'est important pour nous, détaille-t-il. Je pense que c'est, par défaut, le type de relation qui s'établira entre nous et les IAG, qui sont véritablement autonomes et agissent pour leur propre compte.»

Pas de malveillance ni de velléité de «soulèvement des machines» comme nous en servent parfois de très bons films de science-fiction, mais une divergence de vues une fois que les intelligences artificielles auront atteint un niveau proche de ce qu'on pourrait appeler une conscience. C'est d'ailleurs précisément ce terme qu'avait employé le même Ilya Sutskever sur X (anciennement Twitter) en 2022 pour décrire les larges réseaux neuronaux.

Parce qu'Ilya Sutskever n'est pas juste un type qui se promène avec un gong pour annoncer la fin imminente de l'humanité, on lui a donné les moyens de ses ambitions. En juillet dernier, OpenAI a créé une division destinée à atteindre ce «super-alignement», qu'il dirige avec Jan Leike. Si jamais leur équipe se plante, nous pourrions être condamnés à devenir les animaux des IA. Et même si on adore les animaux, personne ne souhaite ça.

Il pourrait être tentant de le penser, mais Ilya Sutskever n'est pas un illuminé se prenant pour un prophète, ni un Robert Oppenheimer qui regrette que son invention ne mène le monde à sa perte. Né en Russie en 1986 avant d'immigrer à 5 ans en Israël, il a travaillé pour Google Brain puis a rejoint OpenAI à sa création en 2015.

Ces réflexions sur la nécessité d'un «alignement» émanent donc d'un pionnier et d'un acteur majeur de l'IA, pas d'un observateur qui y est opposé par principe. Bien qu'il n'évoque pas de potentielle malveillance des machines, n'hésitez donc pas à dire «bonjour» et «merci» à ChatGPT. Peut-être que ça pèsera dans la balance dans quelques années.

Un chercheur a peur que l'Intelligence Artificielle nous utilise comme nous utilisons les animaux Images?q=tbn:ANd9GcRlLIehvFSrVtbuBFGXMm_q1o27l_hb-3EM1qISSFxjadSbkmq_re95pl_9ipTohGUhVyA&usqp=CAU

Un chercheur a peur que l'Intelligence Artificielle nous utilise comme nous utilisons les animaux Images?q=tbn:ANd9GcRlLIehvFSrVtbuBFGXMm_q1o27l_hb-3EM1qISSFxjadSbkmq_re95pl_9ipTohGUhVyA&usqp=CAU