Des solutions IA 100 % éco-transparentes

Des métriques d'émissions de CO2e et de consommation d'eau avec chaque réponse

Quoi que vous demandiez à une solution d'IA GenerIA, sa réponse sera explicable non seulement quant à son contenu, mais également quant à l'énergie consommée, aux gaz à effet de serre émis et à l'eau utilisée pour la générer.

Dans nos systèmes RAG, les métriques de CO2e et de stress hydrique distinguent la partie Recherche et la partie Génération IA de la réponse apportée à l'utilisateur. Dans le mode Conversation du widget d'IA, les métriques sont fournies pour chaque tour de conversation et cumulées sur l'ensemble de la conversation.

Métriques standardisées - Ces métriques sont incluses dans chaque payload renvoyé par les serveurs de solutions GenerIA. Elles sont exprimées en milligrammes de CO2e (qui prend en compte le CO2 et les autres gaz à effet de serre) et en millilitres d'eau, et sont présentées avec deux chiffres après la virgule. Nous affichons systématiquement ces métriques dans nos interfaces de démonstration et nos interfaces destinées aux clients. Vous pouvez en faire autant lorsque vous connectez l'une de vos applications existantes à une solution backend d'IA GenerIA.

Méthodologies AFNOR - Les mesures représentées par ces métriques sont conformes au référentiel AFNOR Spec 2314, auquel nous avons contribué. Ce référentiel est le plus avancé et le plus rigoureux disponible aujourd'hui en matière de méthodologies de calcul et de bonnes pratiques relatives à l'impact environnemental de l'IA. Les experts le considèrent comme la seule spécification permettant de communiquer des valeurs justes et vérifiables.

Inclus : des tableaux de bord CO2e et eau pour tous vos besoins ESG

En complément du tableau de bord de consommation énergétique présenté sur la page technologique Frugalité de ce site, chaque solution GenerIA est livrée avec deux autres tableaux de bord temps réel et historiques : l'un pour les émissions de CO2e, l'autre pour la consommation d'eau (c'est-à-dire le stress hydrique). Ces tableaux de bord fournissent des indicateurs cumulés fondés sur les métriques granulaires décrites précédemment.

Vues interactives - Les données peuvent être ventilées par solution, équipe, utilisateur, site, service et période. Chaque vue est interactive : quelques clics suffisent pour ajuster le niveau de granularité et la période couverte. Vous pouvez ainsi déterminer précisément quels usages sont à l'origine de quels impacts environnementaux.

Aux standards de l'industrie - Les tableaux de bord GenerIA reposent par défaut sur une pile d'observabilité open source aux standards de l'industrie : des visualisations Grafana sont alimentées par des données JSON transmises au moyen de flux OpenTelemetry et enregistrées dans des bases de données temporelles InfluxDB. Ensemble, ces technologies forment une chaîne de données cohérente, prête pour la production, pérenne et utilisable sans coûts de licences supplémentaires.

Adaptable à vos systèmes - Cette pile par défaut étant entièrement modulaire, elle peut être adaptée à l'architecture de supervision déjà en place dans votre organisation :

• OpenTelemetry peut être remplacé ou complété par les instruments et agents natifs de plateformes d'observabilité telles que Datadog, Dynatrace, New Relic, Elastic Observability ou Splunk.
• InfluxDB peut être remplacé par un autre backend de séries temporelles ou de télémétrie tel que Prometheus avec Thanos, Grafana Mimir, VictoriaMetrics, TimescaleDB, ClickHouse ou Datadog. Les données de traçage peuvent également être conservées dans un système spécialisé tel que Grafana Tempo, Jaeger, Elastic ou Honeycomb.
• Grafana peut être remplacé par les fonctions de visualisation et d'alerte de Kibana, Datadog, New Relic ou Dynatrace, ou par la console de supervision que vous utilisez aujourd'hui.

L'ingénierie GenerIA

Technologie de niveau HPC - Pourquoi nos métriques d'éco-transparence sont-elles uniques ? Parce qu'elles reposent sur des capteurs matériels et logiciels dont la plupart sont propriétaires (nous construisons et optimisons nos serveurs avant de les déployer dans des lieux placés sous notre contrôle). Ces capteurs sont issus de nombreuses années d'expérience en calcul haute performance (HPC), domaine dans lequel la consommation énergétique et ses effets associés déterminent la viabilité et la fiabilité des grands systèmes informatiques.

Auditabilité - Les mesures sont d'abord enregistrées puis livrées telles qu'elles ont été relevées : en temps réel de façon granulaire dans les payloads de réponse, et sous forme cumulée dans les tableaux de bord des solutions. Elles ne sont ni modifiées ni ajustées avant leur présentation. Cette traçabilité de bout en bout rend les données sous-jacentes vérifiables et permet la réalisation d'audits indépendants.

C'est ce qui rend l'éco-transparence des solutions d'IA GenerIA véritablement digne de confiance.