L’intelligence artificielle

Jérôme, tu t’es proposé pour nous aider à mieux comprendre ce qu’était l’intelligence artificielle et comment elle pourrait faire évoluer nos métiers. Le sujet est aussi complexe qu’il en a l’air, mais la complexité de ne pas nous effrayer, il faut juste l’aborder avec méthode. Aussi, nous aurons plusieurs entretiens pour comprendre pas à pas les enjeux que pose l’intelligence artificielle. Durant ce premier rendez vous, tu as prévu d’aborder le fonctionnement de l’IA et comment elle peut être appliquée dans le domaine de l’écologie. Alors Jérôme, lançons nous l’IA. C’est quoi ?
l’Intelligence artificielle est un domaine de la science informatique qui vise à créer des machines capables de simuler l’intelligence humaine. Cela signifie que ces machines peuvent accomplir des tâches qui nécessitent normalement une intervention humaine comme le raisonnement, l’apprentissage, la reconnaissance des formes, la prise de décision. En d’autres termes, l’IA permet aux ordinateurs de penser et d’agir de manière autonome. Bon, ça c’est la théorie et c’est surtout un vœu pieux. En fait, l’IA ne simule pas réellement le cerveau humain. En réalité, elle repose sur des principes statistiques qui sont appliqués à de vastes ensembles de données. Un exemple concret, c’est le filtrage, par exemple des spam dans les e-mails. l’Intelligence artificielle analyse des millions de courriels pour apprendre à distinguer les spam des messages légitimes en fonction de caractéristiques spécifiques, comme les mots-clés ou les adresses d’expéditeur.

S’il s’agit juste de comparer un nouveau problème avec une banque de données, pourquoi parle t on d’intelligence artificielle générative ?
Justement, le problème éventuellement proposé nouveau. l’IA générative, comme son nom l’indique, est capable de générer du contenu nouveau à partir de données existantes et pour cela utilise des modèles de machine learning. Alors le terme nouveau est un peu particulier dans le mesure où ce n’est pas quelque chose, c’est pas une création, c’est bien une génération à partir d’exemples, c’est des statistiques. Elle dispose donc d’algorithmes lui permettant d’apprendre à partir de données. l’IA peut alors créer du texte, des images, de la musique et bien plus encore, par similitude avec la banque de données qu’elle peut explorer. En cela, elle n’est pas créative. Si on prend le cas de Gpt4, il s’agit d’un modèle de traitement du langage gpt4 a été entraîné avec des milliards de pages Web. Ils utilisent cette base de données pour prédire et générer des phrases cohérentes et pertinentes en réponse à nos questions, mais elles résultent de calculs de similitudes avec sa banque de données. l’IA peut générer des textes en réponse à des questions. Ceux d’entre nous qui ont des enfants scolarisés l’ont à peu près cerné.

Mais quels sont d’ores et déjà les applications de l’IA dans les métiers de l’écologie ?
Les applications sont déjà nombreuses, par exemple, dans le domaine de la télédétection et de la cartographie, des algorithmes d’intelligence artificielle peuvent être utilisées pour détecter et suivre les changements dans la couverture forestière, pour identifier les zones de déforestation ou même surveiller la santé des écosystèmes. Ces technologies permettent de traiter de vastes ensembles et ainsi améliorer la précision des analyses environnementales. Cette capacité d’analyse des photos satellites et aériennes permettent de connaître la couverture d’un territoire en installations diverses, notamment les installations photovoltaïques à La Réunion avec l’ADEME. Il a été possible de prendre ce procédé pour bâtir un atlas du photovoltaïque sur l’île. On peut imaginer d’autres applications de l’IA dans la télédétection, notamment pour les cabanes de jardin ou pour les piscines non déclarées. Si on prend encore l’exemple des risques naturels, l’IA peut être utilisée pour développer des modèles prédictifs sur les phénomènes naturels comme les inondations, les incendies de forêt ou les mouvements de terrain, en analysant de grandes quantités de données historiques. Ces modèles peuvent fournir des prévisions de plus en plus précises. Tout ça a l’air plutôt bien.

Qu’est ce qui nous empêche alors de foncer pour intégrer cette technologie dans nos pratiques ?
Alors oui, il existe encore pas mal de. Mais les propositions faites par des systèmes d’intelligence artificielle peuvent être difficiles à expliquer.

Comment a t on procéder à ce choix ? Qu’est ce qui a été prépondérant dans son estimation? Etc etc.
Il y a un réel problème de transparence et in fine de responsabilité pour celui qui décide. Un autre défi est également le coût élevé de la mise en œuvre de l’intelligence artificielle. Le développement et le déploiement de solutions basées sur ces solutions nécessitent des investissements importants en termes de matériel, de logiciels et de compétences spécialisées. Ainsi, la création d’un système de détection automatique des installations photovoltaïques nécessite des algorithmes sophistiqués et des images de haute qualité, ce qui peut être coûteux et prendre beaucoup de temps. Enfin, l’IA dans son fonctionnement, consomme beaucoup d’énergie et génère également des émissions de gaz à effet de serre importantes. Des modèles plus frugaux sont à l’étude, mais c’est encore un véritable défi.

Jérôme dans le premier épisode de la série, tu nous avais expliqué le fonctionnement de l’intelligence artificielle et ses possibilités pour notre sphère de compétence. Aujourd’hui, dans ce deuxième épisode, tu élargis ton propos pour aborder les apports potentiels de l’intelligence artificielle en matière de processus et d’organisation des structures. Tu as également prévu d’illustrer tes propos avec des exemples en lien avec l’écologie. Alors, qu’est-ce que l’intelligence artificielle peut engendrer comme évolutions en matière d’organisation du travail ?
L’Intelligence artificielle permet d’automatiser des tâches répétitives, d’analyser de grandes quantités de données et de fournir des prévisions précises. On peut aisément imaginer qu’elle libère du temps pour des tâches à forte valeur ajoutée effectuées par l’homme.

Mais n’a t on pas déjà étudié ces principes d’automatisation par d’autres vecteurs que l’intelligence artificielle ?
Oui bien sûr, mais l’IA va encore bien au delà. Nous automatisons certaines tâches, c’est vrai, elles seront gérées informatiquement par des scripts par exemple. Les entrées sont connues. La question problématique posée l’est également. Il s’agit d’une programmation. Cette programmation peut inclure des prévisions, par exemple établir un lien entre la pluviométrie constatée et le risque d’inondation. On s’appuie alors sur des modèles. Toutefois, une part du paramétrage demande un opérateur humain pour une analyse critique de la situation et la prise de décision. Et pour rester sur un domaine de la prévention des risques, l’intelligence artificielle pourrait apporter une capacité d’anticipation bien différente, Justement, au regard de ces capacités prédictives fondées sur l’analyse quasi simultanée d’un très grand nombre de données comme la pluviométrie, l’état des sols, la végétation aquatique ou terrestre, les débits existants, etc, etc. Donc, dans ce domaine, on ne sera pas surpris de constater qu’il y a de fortes modifications des organisations. Mais ce ne serait pas le seul.

Toi aussi tu fais de la prédiction finalement? Et ou verrai tu des applications immédiates de l’intelligence artificielle encore. Dans nos métiers.
On ne vise pas à être exhaustif, mais de façon similaire à la prévision des crues. La surveillance de la qualité de l’air peut être un élément important. Des capteurs équipés d’algorithmes d’IA peuvent analyser les niveaux de pollution et prédire les pics de pollution. Cela permet aux autorités de prendre des mesures préventives, comme la restriction de circulation automobile ou la promotion des transports en commun. Ces systèmes peuvent également identifier les sources de pollution, facilitant ainsi la mise en place de politiques environnementales ciblées. On pense également à la gestion des déchets. l’IA peut optimiser la gestion des déchets en analysant les données de collecte et en prédisant les besoins futurs. Elle peut aussi permettre de déterminer les itinéraires de collecte les plus efficaces, de réduire les coûts des transports et encore de minimiser l’empreinte carbone. En plus, l’IA peut aider à identifier les types de déchets les plus courants et proposer des solutions pour améliorer le recyclage et la. Et la réduction des déchets. Enfin, on peut également imaginer l’utilisation de l’IA pour la prévention de la diversité, des drones supervisés par l’IA par ordinateur peuvent surveiller les populations animales et végétales dans des zones protégées. Ces drones peuvent identifier des espèces en danger, suivre leurs mouvements, collecter des données sur leurs habitats et donc prédire leurs futurs mouvements. Ces informations sont devenues cruciales pour élaborer des plans de conservation efficaces et réagir rapidement en cas de menace.

Tu nous as présenté une intelligence artificielle capable d’apprendre l’intelligence générative. Donc pour autant, pour fonctionner correctement, il doit être nécessaire de structurer des données utiles pour la machine. Il y a forcément un travail en amont.
Oui, c’est bien là aussi un des nœuds du problème. Pour que l’IA fonctionne correctement, plusieurs pré-requis sont nécessaires, en particulier la qualité et la structuration des données, ainsi que la connaissance approfondie des processus et activités et des domaines d’application. C’est un subtil mélange entre des compétences métier, des compétences techniques. Si je reprends l’exemple de la qualité de l’air, si les données sur cette qualité de l’air sont incomplètes, sont incorrectes par manque de capteurs par exemple, ou lorsqu’ils sont défectueux, alors les prédictions de l’IA seront erronées et les décisions qu’elles proposent seront inappropriées.

Et admettons que l’intelligence artificielle propose des solutions inadaptées, comment peut on s’en rendre compte si la grande partie des choix des paramètres est interne à l’intelligence artificielle ?
Clairement, les compétences et la formation des personnels sont cruciales. Les agents doivent être formés à l’usage des outils d’intelligence artificielle et comprendre les principes de base de leur fonctionnement. Cela inclut la capacité à interpréter les résultats fournis par l’IA et intégrer ces résultats dans les processus décisionnels.

Il s’instaure alors une forme de dialogue entre la commande, l’intelligence artificielle, la proposition et la décision. Comment ce dialogue se formalise ?
On n’a pas encore abordé ce point qui est pourtant crucial. Il faut savoir parler avec le chat ou le clavardage, comme on dit en français, qui est virtuel du coup. Tout d’abord, il s’agit de bien rédiger ce que certains appellent en prompte, ce que moi j’appelle plutôt des consignes en fait. Et cette action de rédiger des consignes, on appelle ça le prompting. Le prompting, ça consiste à formuler des requêtes, des consignes, des contextes ou des instructions claires et précises pour guider le modèle d’intelligence artificielle dans la génération de contenu. Par exemple, pour générer un rapport sur la qualité de l’air un prompte, vous pourrez inclure des instructions sur les sections. Inclure les données. Analyser le format du rapport. Un bon prompte. Il a plusieurs qualités. Il est clair. Il est spécifique. Il fournit des instructions détaillées pour éviter toute ambiguïté. Il décrit clairement un contexte pertinent et il donne un rôle à l’IA. En gros, il s’agit de lui faire comme si c’était un persona. Donc, vous êtes un spécialiste de. Mais évidemment, ce dialogue, il reste perfectible et peut être facilement révisé, ajusté afin d’améliorer en continu la précision et la pertinence des contenus générés.

Bonjour Jérôme, pour ce troisième volet de cette série consacrée à l’intelligence artificielle pour les métiers de la DREAL, tu as souhaité nous parler des limites de l’usage de cette intelligence. Mais tout d’abord, tu m’as dit vouloir démystifier certaines idées reçues sur l’intelligence artificielle. Effectivement, on entend beaucoup de choses sur l’IA. Certains semblent fondés, d’autres c’est beaucoup moins. Ça relève beaucoup du mythe. Moi, j’identifie trois points sur lesquels on a une mise au point qui paraît nécessaire. Le premier, ça concerne le rapport de l’IA à l’emploi. On entend la crainte d’une IA remplaçant tous les emplois humains ou automatisant les tâches. Si on automatise ces tâches, il y a supprime effectivement des postes occupés par des humains, mais en même temps, elle crée de nouvelles opportunités d’emplois dans des domaines différents tels que la gestion des données, la cybersécurité, le développement de logiciels. Par ailleurs, en automatisant des tâches, on n’arrive pas non plus à supprimer la totalité des postes, mais ça permet de redéfinir potentiellement une partie de ces postes là. En fait, l’IA est plus souvent un complément aux compétences humaines qu’un substitut. Par exemple, on a une étude qui a montré que l’IA pouvait remplacer sept millions d’emplois au Royaume-Uni d’ici deux mille trente sept, et en même temps, elle en créerait sept virgule deux millions de nouveaux. La seconde idée reçue est que l’IA est infaillible. Contrairement à cette croyance, l’IA peut faire des erreurs et des grosses erreurs parfois, surtout si elle est entraînée avec des données biaisées ou de mauvaise qualité. Les systèmes d’IA nécessitent une supervision humaine pour justement garantir cette précision, mais aussi garantir leur éthique. Enfin, le dernier point, c’est la transparence. l’IA est vue comme une boîte noire incompréhensible entre une question posée et une solution au problème. Alors évident que les algorithmes d’IA sont complexes et il existe des efforts pour rendre l’IA plus transparente. Des techniques comme l’explicitation des modèles sont développées pour aider les utilisateurs à comprendre, à vulgariser la manière dont les décisions sont prises par l’IA. l’IA n’est pas forcément une menace, elle peut être vue comme étant un élément opaque, mais en tout cas, elle n’apparaît plus comme un compagnon qui peut commettre comme des humains des erreurs qu’elle pourrait être. Aujourd’hui, les limites à son expansion et à son utilisation. En DREAL par exemple. Alors, une fois encore, l’économie, c’est le nerf de la guerre. Elle présente un coût élevé de mise en œuvre. On parle ici de coûts de matériel, de logiciels, de compétences spécialisées. Par exemple, l’infrastructure nécessaire pour entraîner des modèles d’IA avancés peut être extrêmement coûteuse. Les entreprises peuvent dépenser jusqu’à vingt millions de dollars pour développer et déployer des solutions d’IA à grande échelle. En dehors de la mise en œuvre et les opérations de maintenance de mise à jour, qui ont aussi un coût qui ne sont pas négligeables. Et enfin, on a pour les plus petites structures, des coûts initiaux qui peuvent se relever prohibitifs. Il faut avoir les reins solides pour disposer des ressources financières et humaines pour les développer et les maintenir. Peut on être une administration exemplaire, donc très engagée dans la transition écologique et adopter l’intelligence artificielle dans ses pratiques quotidiennes ? Alors c’est pas une question simple et le bilan reste à faire, mais il faut garder à l’esprit que l’IA consomme beaucoup d’énergie. Et forcément, au delà de la consommation, il y a les émissions de gaz à effet de serre, la production et l’utilisation de matériels informatiques pour l’IA, tels que les serveurs et les centres de données ont une empreinte carbone significative. Il est crucial de développer des solutions d’IA plus écoresponsables comme l’IA frugale pour minimiser cet impact. On a ainsi des centres de données Google qui aujourd’hui consomment environ deux pour cent de l’électricité mondiale. Une part qui pourrait augmenter encore plus avec l’adoption croissante de l’intelligence artificielle. C’est considérable. Alors, l’intelligence artificielle participe au dérèglement climatique. Il ne manquerait plus qu’elle soit raciste. Alors j’ai pas dit ça. Et pour le racisme, c’est pas si simple en fait. Les algorithmes d’IA peuvent reproduire, amplifier les biais présents dans les données sur lesquelles elle s’entraîne. Puis, d’une certaine façon, elle traduit aussi le profil du concepteur des algorithmes, ce sur quoi ils ont porté un effort plus particulier ou moins. On a une étude universitaire de Stanford qui a montré que les systèmes de reconnaissance faciale ont des taux d’erreur plus élevés pour les personnes de couleur. Cherchez l’erreur.

Jérôme, nous avons le plaisir de te retrouver pour ce dernier épisode de "L’IA et moi". Un dernier épisode au parfum d’arnaque quand même. Tu nous dois des explications.
Je plaide coupable. En effet, nous allons lever le voile sur l’envers du décor de la création de cette série, expliquer comment on a utilisé un outil d’intelligence artificielle, plutôt un moteur d’intelligence artificielle qui s’appelle Perplexity, et qui a été utilisé pour générer les textes des trois podcasts précédents.

Alors c’est quoi Perplexity ?
C’est un moteur d’intelligence artificielle qui est capable de générer du contenu à partir de promptes et de données qui sont fournies. Donc c’est un outil un petit peu tout en un qui permet de récupérer, de travailler avec différents éléments. Alors, évidemment, on n’a pas retranscrit exactement le podcast tel que Perplexity me l’a proposé, mais on est bien construit, on l’a construit de manière un peu itérative, en faisant des retouches à chaque fois que c’était nécessaire. Alors pour chaque épisode, j’ai commencé par définir des objectifs. Le premier épisode devait expliquer ce qu’était intelligence artificielle. Le deuxième devait explorer les innovations fondamentales et importantes qu’apportait l’intelligence artificielle, notamment dans des processus plutôt administratifs. Et puis le troisième devait aborder les limites de l’usage de l’intelligence artificielle. Donc, systématiquement, j’ai fourni à l’outil en pièce jointe le support du séminaire, des interventions du séminaire, des cadres que j’avais pu réaliser il y avait bientôt, maintenant deux ans, et j’ai ensuite utilisé Perplexity pour générer des textes en fournissant des prompts les plus clairs et plus spécifiques possible. Alors par exemple, pour le premier épisode, je les ai mis en situation. Je lui ai présenté la situation suivante Tu es un spécialiste du podcast audio et tu dois construire un podcast de trois minutes sur la question. Qu’est ce que l’intelligence artificielle pour un public désigné qui a un public plutôt de néophyte, qui est plutôt membre de l’administration et du ministère de la Transition écologique ? Ce podcast doit intégrer des exemples concrets et permettre à ce public de comprendre ce qu’est l’intelligence artificielle et à quoi elle peut servir. Tu peux t’appuyer sur la fameuse présentation dont j’ai parlé tout à l’heure, qui se situe en pièce jointe. Et donc la question c’est peux tu rédiger le texte de ce podcast de trois minutes selon les critères définis précédemment ? Et le résultat était satisfaisant. C’est la réponse à cette requête ou ce prompt comme tu l’appelles, que nous avons entendu. Alors non, c’était un point de départ. Le premier jet textuel manque toujours beaucoup d’ampleur. Je lui ai demandé d’enrichir certaines parties. Je lui ai demandé de revoir certains exemples qui ne me paraissaient pas intéressants. Perplexité a généré des informations parfois redondantes, parfois incohérentes. Donc on a dû réviser à chaque fois chacune des sections. Donc c’est un travail itératif qui se fait avec cette interface là. SYSTÉMATIQUEMENT, les exemples aussi qui ont été fournis n’étaient pas directement toujours en lien avec le domaine de l’écologie. Donc il a fallu que je le reprécise. J’ai remplacé ces exemples parfois par des éléments des cas plus pertinents sur la qualité de l’air, sur la gestion des déchets par exemple. Donc j’ai dû l’orienter complètement. Donc c’est bien l’idée d’avoir un compagnon qui nous permet de travailler sur sur différentes questions. Et puis, pour renforcer la crédibilité de ce, de ces, de ces échanges et du podcast, j’ai demandé l’ajout systématique de statistiques qui provenaient d’études universitaires.

Tu as donc demandé à Perplexity, dans ce troisième épisode, de définir les limites de l’IA. Tu l’as trouvé honnête?
Alors certaines de ces idées étaient trop généralistes ou avaient déjà été utilisées dans les précédents podcasts. C’est vrai, quand on demande systématiquement d’avoir des exemples dans trois podcasts différents sur l’intelligence artificielle. Généralement, si on ne lui spécifie pas la demande, il va reprendre les exemples précédents. Donc j’ai demandé à ce qu’il n’utilise pas les podcasts précédents. Donc, c’est une fonction qui est assez intéressante. Les exemples qui étaient proposés. En tous cas, je lui ai demandé d’approfondir certains points et ce qui explique pourquoi on ne peut pas. l’IA est vraiment générative, c’est à dire qu’elle génère du texte mais elle ne crée pas du texte, elle fournit des exemples concrets qui sont, qui sont dans dans son champ de données et qui sont disponibles. Alors évidemment, la question de l’honnêteté de l’intelligence artificielle est un peu compliquée dans la mesure où il ne fournit que des résultats, somme toute statistiques, à partir des connaissances qu’il a trouvé et celles sur lesquelles il a été entraîné. Donc l’honnêteté n’est pas forcément de mise. C’est plus l’honnêteté de la personne qui est en train de parler qui pourrait être mis en doute.

Tu nous as beaucoup parlé d’IA frugale, c’est ton choix ou une proposition avisée de perplexity ?
Alors effectivement, j’ai mis en avant l’importance de l’intelligence artificielle frugale parce que le ministère en parle déjà beaucoup. Pourquoi on le met en avant? Parce que c’est aussi un élément important dans le ministère qui est le nôtre. Aujourd’hui, on veut développer de l’intelligence artificielle, mais l’intelligence artificielle consomme beaucoup d’équivalent CO2, donc a une empreinte carbone importante. Donc, il faut trouver aussi des solutions qui permettent de l’utiliser tout en ayant un impact plus limité dans le cadre des bilans carbone notamment. Ne serais tu pas encore en train de nous jouer un sale tour avec l’IA? Alors cette hypothèse là, elle n’est pas à pas exclure pour ce podcast que vous êtes en train d’écouter, parce que j’ai aussi utilisé Perplexité pour ce dernier podcast, qui est un peu l’envers du décor, je lui ai donné les consignes suivantes dans le dernier podcast de trois minutes qui clôture cette série, tu dois proposer un texte qui explique l’envers du décor de création de cette série, en montrant comment l’outil Perplexité a pu être utilisé pour générer du texte de ces trois podcasts, à partir du document qui est en pièce jointe, en reprenant les trois conversations et trois questions de conversation qui ont été posées, qui étaient Qu’est ce que l’intelligence artificielle apporte de fondamentalement nouveau? l’Intelligence artificielle? Quels en sont ses limites? Tu dois expliquer quelle a été ma démarche, mes erreurs, mes retouches avec l’outil Perplexité pour aboutir aux trois podcasts générés. Donc de fait, c’est pas totalement un sale tour puisque j’ai repris l’intégralité de tout ça. Mais effectivement, c’est un texte qui a été en partie structuré, qui a donné des idées effectivement dans sa structure grâce à l’outil que j’ai pu utiliser à ce moment là.