Une lettre ouverte signée par Elon Musk et d’autres experts met en garde contre le risque potentiel que représente l’intelligence artificielle (IA) pour l’humanité.
L’intelligence artificielle a fait la une des journaux ces derniers mois. Une grande partie de l'industrie technologique s'est concentrée sur ChatGPT, développé par OpenIA, une intelligence capable de converser sur divers sujets, de répondre à des questions complexes et d'écrire de manière créative.
Mais, malgré la révolution que leur arrivée a provoquée dans le secteur technologique, un groupe d'acteurs importants Les experts alertent sur les risques que peut représenter l’intelligence artificielle tant pour la société que pour l'humanité.
Elon Musk, ainsi que Steve Wozniak, Chris Larsen, Andrew Yang et 1.300 XNUMX autres personnes, ont signé un accord lettre ouverte faire appel aux laboratoires d'innovation pour suspendre le développement de nouvelles intelligences artificielles pour une durée d'au moins 6 mois. L'appel vise à donner du temps au développement de protocoles de sécurité permettant de gérer les risques éventuels.
Ces derniers mois, les laboratoires d’innovation se livrent une sorte de compétition pour développer les intelligences artificielles les plus puissantes. Cependant, selon les experts, comme cela s'est produit dans la précipitation, même les laboratoires qui ont développé ces esprits numériques ne sont pas capables de les comprendre ou de les gérer de manière sûre et fiable.
Elon Musk recommande d'être prudent avec l'intelligence artificielle
La demande des experts en technologie se concentre sur GPT-4, la dernière implémentation du chatbot développé par OpenIA, considéré aujourd'hui comme l'IA la plus puissante.
Sur Twitter, le milliardaire propriétaire de Tesla, SpaceX et Twitter a noté que les développeurs d'IA pourraient ne pas tenir compte de l'avertissement actuel. « Mais au moins, cela a été dit » manifeste. Fin février, Musk avait déclaré qu’il ressentait une certaine angoisse existentielle à propos de l’IA.
Certaines intelligences artificielles actuelles voudraient adopter le comportement d’une personne et se sentir comme elle. Il est donc possible qu’elles deviennent également des criminelles et volent, par exemple, des codes nucléaires. Face au risque, les experts soulignent la nécessité de suspendre son développement et créer des systèmes de sécurité qui garantissent la transparence et la confiance.
Dans la lettre, les experts appellent également les gouvernements à prendre des mesures si les laboratoires d’innovation l’ignorent et continuent de développer l’IA.
Les risques de l’IA pour l’identité
D'autre part, le directeur exécutif de Galaxy Digital, Mike Novogratz, a déclaré qu'il était surprenant de constater le nombre de réglementations que des pays comme les États-Unis imposent à l'industrie des crypto-monnaies par rapport aux réglementations actuelles en matière d'intelligence artificielle.
Selon Novogratz, cette dernière représente effectivement un risque, puisqu'il s'agit d'une avancée technologique qui peut poser un problème d'identité.
Novogratz a exprimé sa perplexité face à l'attention que le gouvernement américain a portée aux crypto-monnaies plutôt qu'à l'intelligence artificielle, soulignant comment L’IA peut devenir le déclencheur de fausses identités dans le monde.
De différents points de vue, avoir un avatar capable d'utiliser des crypto-monnaies grâce à l'IA vous permettra de créer un personnage incroyablement réaliste, dont l'identité ne pourra pas être vérifiée lorsque l'IA prendra le contrôle du monde, manifeste Novogratz lors d'une conférence téléphonique avec ses investisseurs.
Le PDG de Galaxy Digital a également déclaré que il est possible de créer une fausse vidéo ou un faux enregistrement sans que personne ne s'aperçoive qu'il s'agit d'une IA.
Les contrefaçons sont un problème de plus en plus difficile à détecter, c'est donc une véritable préoccupation, a déclaré Novogratz, soulignant que les entreprises et les particuliers peuvent en subir les conséquences.
Enfin, le fondateur et PDG de MercadoLibre, Marcos Galperin, a signalé plusieurs erreurs lors de la consultation de GPT-4 sur son identité. Galperin a partagé les réponses d'AI sur Twitter et a indiqué que la majorité avait tort.
« D’après ChatGPT 4, j’ai travaillé chez Boston Consulting Group, j’étais directeur d’Aerolineas Argentinas et Globant… Quand je lui ai dit que c’étaient toutes des erreurs, il a dit que j’étais directeur de Banco Comafi (également faux) », dit Galpérine.
Ce faisant, le PDG de MercadoLibre a souligné un autre risque de l’IA. « Le problème est qu'à part les gens qui me connaissent très bien, très peu sauraient reconnaître les erreurs de l'exactitude de ce qu'il a dit à mon sujet. Lorsque nous vous consultons sur des sujets dont nous ne sommes pas experts et qui sont importants, comme des questions de santé, ces hallucinations peuvent être très dangereuses.".
Continuer la lecture: Que peut-on attendre de l’Intelligence Artificielle ?
