Le contexte
Depuis le déploiement de ChatGPT, agent conversationnel intelligent d’OpenAI, les systèmes d’IA génératives (SIA Géné), ne cessent d’occuper les discussions et de faire l’objet d’une production massive de travaux. Force est cependant de constater, que ces travaux sont de qualité et de pertinence très variables, démontrant que si le sujet s’est largement démocratisé, il n’en reste pas moins souvent mal appréhendé.
Si les SIA Géné suscitent un tel engouement c’est qu’elles offrent indiscutablement des opportunités dont les organisations, publiques comme privées, peuvent se saisir afin d’optimiser leurs activités et rester compétitives.
Cet engouement est également le produit des inquiétudes liées au développement de ces systèmes qui posent inévitablement des questions éthiques. En générant des contenus troublants de réalisme, ces systèmes contribuent notamment à flouter la distinction entre réalité et artificialité, induisant des impacts sur les perceptions mais aussi des interrogations quant à leur utilisation malveillante par certains acteurs.
Le contexte d’évolution technologique rapide et l’incertitude réglementaire favorisent d’ailleurs le questionnement éthique. Ces questions peuvent être d’ordre général et porter sur la gouvernance de ces systèmes et leurs impacts sur l'humain, mais elles sont surtout d’ordre très spécifique sur la confiance dans les contenus produits par les SIA Géné ; sur leur déploiement et leur encadrement au sein des organisations ; sur les impacts, négatifs comme positifs, de ces technologies sur les organisations et les collaborateurs.
C’est ce dernier point, qui nous a paru important de traiter et qui a donné lieu à l’établissement d’un groupe de travail (GT) trans-sectoriel sur les impacts des SIA Géné.
L’objectif du GT SIA Géné
Dans le contexte actuel, il s’avère en effet essentiel d’identifier rigoureusement les impacts positifs et négatifs des SIA Géné afin d’élaborer des bonnes pratiques permettant de capitaliser sur les premiers et de limiter, si ce n’est d’éviter, les seconds.
Pour aider les décideurs face à de tels enjeux, la Human Technology Foundation (HTF) a donc lancé un GT francophone réunissant des acteurs internationaux (développeurs, intégrateurs et utilisateurs de SIA Géné). Ce GT s’est fixé pour ambition de dresser une cartographie la plus exhaustive possible des impacts positifs et négatifs des SIA Géné, de les organiser au travers d’une taxonomie pratique, pour enfin élaborer des bonnes pratiques à adopter.
Le GT SIA Géné rassemble aujourd’hui 38 organisations publiques et privées représentées par 76 contributeurs venant de 3 continents. La diversité de ces points de vue nous permet de mieux cerner la portée des impacts liés aux SIA Géné.
Les travaux de ce groupe de travail, conduit sous la règle de Chatham House, feront l’objet d’un rapport d’analyse à destination exclusive des contributeurs. Une version allégée sera rendue publique et présentée aux décideurs des politiques publiques, dans les pays où la fondation est présente. Un rapport intermédiaire est d’ores et déjà disponible sur notre site.
Ce projet présente quatre points forts qui en font sa spécificité. Le projet se veut ainsi :
En se plaçant au plus près des besoins des acteurs et en s’adaptant aux évolutions technologiques, les travaux menés dans le cadre du GT nourriront la réflexion collective et faciliteront le développement responsable des SIA Géné.
Le projet se déroule en deux phases aux retombées concrètes pour les acteurs impliqués.
La première phase s’est étendue de janvier à juin 2024 et a consisté en des auditions et des réunions plénières mensuelles appuyées par du travail en chambre. Cette étape a principalement permis d’élaborer une cartographie de plus de 160 cas d’usage des SIA génératives, à partir de laquelle a été bâtie une taxonomie des impacts positifs et négatifs, puis une hiérarchisation de ces impacts. A partir de ces travaux sont définies des bonnes pratiques et des recommandations visant à aider les contributeurs au GT SIA Géné à identifier plus facilement les impacts pertinents pour capitaliser sur les impacts positifs tout en limitant les impacts négatifs.
La deuxième phase du projet débutera en juin 2024 avec la mise en place d’un GT permanent assurant une veille technologique et normative. L’objectif en sera de pérenniser les travaux réalisés durant la première phase et d’assurer une mise à jour trimestrielle des cas d’usage, des impacts et des bonnes pratiques. L’intérêt d’une telle démarche réside dans la capacité offerte aux contributeurs de s’adapter au plus près des évolutions en termes de technologies, de contraintes juridiques et d’attentes sociétales.
Les livrables
A date les travaux du GT ont conduit à la production de trois livrables clé :
La cartographie des cas d’usage des SIA Géné a été élaborée au travers d’audiences avec les participants au GT ainsi qu’à travers un travail de recherche pour aboutir à l’identification de 167 cas d’usage pertinents. Cette cartographie a été enrichie et mise à jour continûment en bénéficiant, entre autres, des rétroactions des contributeurs lors des réunions plénières.
A partir de la cartographie des cas d’usage ont été identifiés une liste d'impacts positifs et une liste d’impacts négatifs. Ces deux listes ont fait l’objet d’une organisation des impacts pour en tirer une taxonomie facilement exploitable. Une approche multiscalaire (niveaux individuel, organisationnel, sociétal, global) a été retenue afin de faciliter l'exploitation de la taxonomie.
En enrichissant la taxonomie au cours de nos plénières, nous avons remarqué que les catégories d’impacts recensées s’appliquaient aussi bien aux SIA Géné qu’à la plupart des technologies numériques existantes. En nous attachant aux spécificités des SIA Géné nous avons hiérarchisé les impacts les plus exacerbés par ces nouvelles technologies.
Trois types d’impacts ont suscité un intérêt particulier : ceux sur l’environnement, sur les compétences, et sur la productivité. La constitution d’un GT ciblé sur les impacts environnementaux a été validé lors de la plénière n. 5 du 16 mai 2024.
A l’issue de ce travail, nous avons identifié 6 grands constats périphériques.
À l’approche du terme de cette première phase de ce travail, nous constatons que les SIA Géné présentent un nombre croissant de cas d’usage dont les impacts sont aussi variés que ceux des autres technologies numériques.
Les livrables seront des objets vivants qu’il conviendra de mettre à jour sur une base régulière afin de bénéficier de bonnes pratiques adaptables et pertinentes. Les travaux du GT se poursuivront également avec la volonté d’identifier des signaux faibles concernant les évolutions techniques et normatives entourant les SIA Géné, afin de sortir d’une logique de réaction et de s’acheminer vers une logique d’anticipation.
Les travaux du GT seront complétés par les réflexions du GT ciblé sur les impacts environnementaux, ainsi que par des travaux de recherches spécifiques appuyés par des consultations d’experts. Les impacts sur les compétences ou sur la productivité feront ainsi l’objet de réflexions qui seront partagées aux travers de notes techniques.
L’ensemble de ce projet permettra ainsi aux contributeurs de bénéficier d'informations à jour, de partages d’expériences, de bonnes pratiques et potentiellement d’alertes précoces qui faciliteront la prise de décision en matière d’adoption et d’utilisation de SIA Géné, rendront les décisions plus pertinentes et donc plus efficaces.
L’intégralité du rapport disponible sur notre site internet : https://www.human-technology-foundation.org/fr-news/rapport---systemes-dia-generatives
Human Technology Foundation, 22 mai 2024
.png)
.png)