Le 29 mars dernier, un millier d’experts et plusieurs intervenants de la Tech ont signé une pétition par laquelle ils ont demandé à tous les laboratoires d'intelligence artificielle (IA) de suspendre immédiatement et pendant au moins 6 mois la formation de systèmes d'IA plus puissants que ChatGPT-4.

Cet outil est en quelque sorte un «logiciel conversationnel» qui génère des textes mot après mot de telle manière que chacun d’entre eux soit suivi des occurrences statistiquement dominantes dans la gigantesque base de données identifiée par les développeurs d’OpenAI.

Les signataires de la pétition demandent à ce que la pause de 6 mois soit rendue publique et qu’elle inclut tous les acteurs clés impliqués. Dans le cas où une telle pause ne pourrait être mise en place rapidement, les signataires demandent aux gouvernements d’intervenir et d’imposer un moratoire.

Les signataires qui comptent parmi eux Steve Wozniak, co-fondateur d’Apple,et Elon Musk, nouveau patron de Twitter, estiment que les systèmes d'IA contemporains vont être plus compétitifs que l’homme sur les tâches générales qu’il accomplit. Ils nous incitent à nous poser les   questions suivantes : Allons-nous laisser les machines inonder nos canaux d'information de propagande et de mensonges ? Devons-nous automatiser tous les emplois, y compris les plus épanouissants ? Devons-nous développer des esprits non humains qui pourraient finalement nous surpasser, nous rendre obsolètes et nous remplacer ? Devons-nous risquer de perdre le contrôle de notre civilisation ?

Pour les auteurs de ladite pétition, les puissants systèmes d'IA ne devraient être développés que lorsque nous serons convaincus que leurs effets seront positifs et que leurs risques seront maîtrisés. Ils estiment aussi que des décisions aussi importantes ne doivent pas être déléguées aux dirigeants technologiques non élus.

Le groupe d'éthique technologique (Center for AI and digital policy - CAIPD) a, de son côté, déposé plainte le jeudi 30 mars auprès de la FTC (Autorité américaine de la concurrence). Le CAIPD estime «qu’il est temps que la FTC agisse».
L'ONG demande l'ouverture d'une enquête au sujet du robot conversationnel ChatGPT et un moratoire qui conditionne la sortie des prochaines versions de ce robot conversationnel par la mise en place de garde-fous. Elle reproche aussi à OpenAI d’avoir rendu accessible au public la dernière version ChatGPT-4, tout en reconnaissant des risques de biais notamment des «stéréotypes dangereux et des associations humiliantes pour certainesminorités et groupes marginalisés». 

L’ONG reproche aussi à OpenAI son incapacité à prendre des mesures pour prévenir des usages détournés de l'intelligence artificielle, parmi lesquels la désinformation et les escroqueries.

Le CAIPD appelle à la création d'une commission nationale pour évaluer l'impact de l'intelligence artificielle sur la société américaine.

Pour l’avoir utilisé, on ne peut pas nier que le ChatGPT-4 qui n’est qu’à ses débuts est impressionnant ! Le concept est séduisant et il est fort à parier qu’il faudra compter dans l’avenir avec ce nouvel outil.

Pour conclure, un temps d’adaptation sera nécessaire, comme ça a été pour les autres outils faisant appel aux techniques d’information et de communication. Les inquiétudes des scientifiques et spécialistes ne doivent en aucun cas être prises à la légère. Elles devraient nous permettre de réguler ces nouveaux outils pour éviter d’éventuels dérapages. Et comme l’ont rappelé plusieurs experts, Cette régulation ne peut pas rester la chasse gardée des sociétés éditrices de ces outils.

On ne doit pas non plus perdre de vue que le mal ne provient rarement    pas des outils, mais plutôt de l’usage que nous en faisons.

Source : PharmaNews