L'IA et vous, partie 4 : La fin de l'humanité ?

Aug 02, 2023

2 août 2023Spécial au Herald TimesColonnes, Comté, Opinion0

Partie 1 : Chronique d'invité : L'intelligence artificielle et vous, Partie 1

Partie 2 : Comment fonctionnent l'IA et ChatGPT, Partie 2

Partie 3 : L'IA et vous, Partie 3 : Comment utiliser judicieusement ChatGPT

RBC | Dans cette série d'articles, j'ai tenté d'exposer l'influence de l'intelligence artificielle sur nos vies. J'ai décrit les nouvelles capacités de ChatGPT et un peu son fonctionnement interne, les réseaux de neurones. J'ai énuméré les utilisations et les abus probables. Depuis le début, je suis revenu sur ses comportements surprenants et émergents. C'est là que je vais conclure. ChatGPT et ses cousins ​​représentent sans doute une nouvelle intelligence rivalisant avec nos propres capacités humaines et pouvant potentiellement les dépasser. Les versions améliorées de ChatGPT peuvent présenter une menace très réelle pour l'existence humaine. Ce n'est pas de la science-fiction. Les ingénieurs réfléchis qui ont développé ces systèmes sont inquiets. Nous devons au minimum identifier les menaces potentielles et trouver comment y faire face.

Le mathématicien britannique Alan Turing a inventé le modèle d'un dispositif informatique général en 1936, ce que l'on appelle aujourd'hui une machine de Turing et qui constitue le fondement des ordinateurs numériques modernes. Avant Turing, les ordinateurs étaient spécialement câblés pour résoudre des problèmes particuliers, par exemple trouver la trajectoire d'un obus d'artillerie tiré selon un angle de 45 degrés et une vitesse de 500 mètres par seconde. Pour résoudre un autre problème, il a fallu recâbler l'ordinateur. Turing a créé des appareils modernes dans lesquels tous les composants, processeurs et mémoire, utilisent les mêmes informations, des zéros et des uns, tous contrôlés par des instructions logicielles. Besoin d'ajouter et de soustraire des nombres dans une feuille de calcul ? Écrivez simplement le code informatique pour ce faire. Besoin de modifier un document texte ? Écrivez le code approprié. Avec une machine de Turing (c'est-à-dire tous nos appareils numériques), vous n'avez pas besoin d'un autre ordinateur, juste d'un code différent.

Déjà à l’époque, les gens s’inquiétaient des machines et de leurs capacités. Comment savoir si un ordinateur a atteint l’intelligence humaine et est susceptible de faire des choses humaines (parfois moins agréables) ? Comment savoir si vous avez construit un cerveau ? La réponse de Turing fut le test de Turing. Placez une personne réelle, étiquetée P, et un ordinateur, C, derrière des rideaux séparés. Soumettez-les à une série d’interrogateurs. Le professeur Smith pose des questions dans son domaine d'intérêt, écoute attentivement les réponses de P et C. Le docteur Jones arrive lorsque Smith a terminé et pose à P et C une liste de questions liées à son domaine d'expertise. Le compagnon Frederick succède à Jones, et ainsi de suite. Après leurs interrogatoires, les enquêteurs comparent leurs notes. À partir des réponses fournies par P et C, peuvent-ils déterminer qui est l’humain et lequel est l’ordinateur ? Sinon, vous disposez d’une machine intelligente.

À peu près toutes les mesures, ChatGPT réussit le test de Turing. Et cela a surpris même les chercheurs en sciences cognitives qui passent leur vie à étudier le cerveau humain. Il réussit les « tâches de théorie de l’esprit » et apprend de nouveaux comportements qui, selon toute apparence, dépassent les limites de sa formation. Je ne décrirai pas ici les tests de théorie de l'esprit ; si vous êtes intéressé, vous pouvez trouver un exemple dans le podcast de David Kestenbaum (Kestenbaum, 2023). Je vais cependant raconter un autre comportement émergent ahurissant de ChatGPT.

Les ingénieurs qui ont posé à ChatGPT le problème d'empilement que j'ai décrit il y a quelques semaines ont également conçu celui-ci. "GPT-4.0, dessine-moi une licorne." Ha! J'ai été perplexe avec cette fois-ci. GPT formé sur le texte. Ce n'est pas Dall-E, le peintre IA. Il ne peut pas dessiner. Pas question que ça dessine une licorne.

Il a dessiné une licorne. Ce n’est pas la licorne la plus fantaisiste des contes de fées, mais c’est une licorne reconnaissable. Quatre pattes, un corps ovale en forme de bloc, des ovales plus petits pour une queue, une tête avec une corne triangulaire pointue de couleur or pour qu'on ne puisse pas la manquer. Comme si GPT faisait remarquer : « Vous voyez, je sais ce qui est important à propos des licornes. »

Comment a-t-il fait ça ? Eh bien, il a tout appris sur les licornes en lisant des contes de licornes dans le cadre de sa formation en ligne. À quoi ils ressemblent, pourquoi ils sont différents. Et il peut écrire du code informatique. Il ne sait pas dessiner, mais il peut écrire du code. Il a donc écrit le code pour dessiner une licorne. Pensez-y. Il a appris à dessiner. Il habite un ordinateur. Il a écrit les instructions permettant à son ordinateur de dessiner une licorne.