.png)
Un millier de grands noms de l'industrie technologique ont publiquement demandé que la formation des nouveaux systèmes d'Intelligence artificielle soit interrompue pendant six mois afin de donner à l'industrie le temps d'évaluer les risques.
L'IA semble avoir atteint un point d'inflexion où il est enfin assez puissant pour réellement capter l'imagination du public. Les responsables politiques souhaitent exploiter le potentiel de ces systèmes pour stimuler la croissance économique et l'économie à faibles émissions de carbone, et les citoyens ordinaires s'inscrivent pour voir ce qu'ils peuvent faire avec cette technologie.
Toutefois, à mesure que ces systèmes deviennent plus puissants et plus répandus, les risques qui y sont associés deviennent également plus importants. Institut du futur de la vie a publié une lettre ouverte appelant à l'arrêt des essais, car il craint que les risques ne soient pas encore compris et ne puissent donc pas être contrôlés correctement.
Peut-on remettre le génie dans la bouteille ?
Il y a fort à parier qu'un éventuel moratoire ne serait pas totalement respecté. Les innovateurs chinois et peut-être même américains – qui sont à l'origine des principales avancées dans ce domaine – auraient du mal à accepter une longue période de désavantage commercial potentiel.
Les développeurs semblent travailler dur pour identifier et traiter les risques, mais les conflits d'intérêts liés au fait de “faire ses propres devoirs” sont évidents.
Le rapport technique accompagnant le GPT-4 aborde des risques allant des hallucinations (lorsque le système fournit des informations inexactes) à la prolifération des armes, en passant par la protection de la vie privée et la cybersécurité. Cependant, les descriptions des risques sont limitées, tout comme les informations fournies sur la manière dont le système a été développé. Rien n'est dit, par exemple, sur les besoins énergétiques futurs de l'IA et sur l'impact potentiel de ces besoins sur les engagements internationaux en matière de changement climatique.
Que savons-nous des risques de l'IA ?
Nous savons que l'ensemble des données utilisées pour former le système est susceptible de contenir des données personnelles qui n'ont peut-être pas été obtenues légalement, ainsi que des informations qui sont la propriété intellectuelle de détenteurs de droits qui n'ont pas donné leur autorisation. Nous savons que les gens commencent à peine à expérimenter les façons dont les outils peuvent être utilisés – et sans comprendre cela, il est tout simplement impossible d'évaluer tous les risques.
Le débat renforce la nécessité pour les gouvernements de s'emparer plus rapidement du sujet.
L'UE progresse sur la Loi sur l'IAqui vise à réglementer l'utilisation de certains types d'IA. Toutefois, aucune date n'a encore été fixée pour la transposition de cette loi dans les législations nationales et d'autres pays, dont le Royaume-Uni, n'ont pas d'équivalent.
Les lois telles que la loi sur l'IA fournissent des “garde-fous” pour aider les développeurs à prendre en compte les risques sociaux et économiques plus larges, mais les problèmes envisagés par les signataires de la lettre ouverte vont bien au-delà de ce qu'il est réaliste d'envisager dans le cadre d'un moratoire de six mois sur le développement.
Les régulateurs, les hommes politiques et les groupes de réflexion doivent réfléchir au modèle de société que nous voulons mettre en œuvre et à la manière dont l'IA y sera intégrée. L'essor de l'IA est inévitable, mais il nécessite des changements systémiques, notamment le recyclage de millions d'adultes et la recherche de rôles pour ceux dont les opportunités de travail sont déplacées par la technologie.
Camilla Winlo est responsable de la protection des données à caractère personnel à Gemserv
Nicolas Cambolin Directeur mondial de l'intelligence des données à Talan
Tu peux aussi lire :
Tirer parti de la confidentialité des données pour l'intelligence artificielle:
___________________________________________________________________________________________
Si tu aimes ce site web et que tu utilises l'annuaire complet des fournisseurs de services (plus de 6 500), tu peux obtenir un accès illimité, y compris la série exclusive de rapports approfondis sur les directeurs, en souscrivant à un abonnement Premium.
- Individuel : £5 par mois ou £50 par an. S'inscrire
- Comptes multi-utilisateurs, d'entreprise & ; de bibliothèque disponibles sur demande
Renseignements sur la cybersécurité : Capturé, organisé et accessible
