Comment mettre en œuvre un modèle de gouvernance adapté au suivi financier tout en s’appuyant sur des indicateurs liés aux usages de l’IA ?
Comment maitriser cette variabilité et consommation des coûts dans un contexte d’usages de plusieurs modèles IA pilotés par un outil de passerelle IA ?

Suite à la 1ère conférence mondiale Tokenomicon FinOps X qui s’est tenue le 23 Septembre dernier à Amsterdam,
Quelles sont les annonces majeures Valeur de l’IA, Modèle économique de l'IA ?

Retour synthétique sur le Rapport "Etat de l’Art Tokenomics", les annonces et les retours d’expériences utilisateurs
les plus marquants.

Le passage sur le Cloud d’une Plateforme Data apporte de nombreux avantages mais aussi quelques enjeux nouveaux, notamment en termes de FinOps.
Quels sont les pièges à éviter et les bonnes pratiques à mettre en œuvre pour éviter que la facture de votre plateforme Data Cloud ne s’envole ?

La RATP a mené depuis 3 mois des travaux pour optimiser le coût de ses projets et de ses socles Data .
Leur expérience est avant tout sur la partie Databricks / AWS.

> La recherche d’un outillage adapté permettant de consolider les vues des différents providers même s’il y a encore débat en fonction des usages.
> L’optimisation technico fonctionnelle qui a un impact énorme de la consommation (bonnes pratiques infra + challenger le besoin exprimé par le PO + pratiques dans le code)
> L’une des plus grosses complexité vient souvent du modèle financier interne et de la complexité des modèles de refacturation
> L’arrivée de l’IA Gen et des modèles financiers qui changent (ces nouveaux couts consomment une partie de nos gains)
> Le licencing de produits tiers qu’il faut bien penser pour éviter des surprises qui peuvent directement impacter par nos stratégies infras.
> La stratégie globale de gestion des fournisseurs (Saving plan, contrats, engagements etc…) Comment il faut savoir renoncer à certaines optimisations à un niveau département pour avoir des bénéfices au niveau groupe.

> Présentation de la stratégie IA de Veolia, de l’existant et d'une dizaine de leviers mis en place pour optimiser la facture de tokens de la plateforme agentique.

> Présentation des leviers et lorsque cela a été mesuré, de leurs impacts respectifs.

Le CRiP a lancé son Baromètre FinOps & IA, en partenariat avec Naskal, pour mesurer la maturité des organisations et faire émerger les pratiques du marché.
2 décideurs IT sur 3 estiment que la gouvernance économique de l'IA doit devenir une priorité d'ici deux ans. Pourtant, seuls 5 % savent aujourd'hui mesurer le coût réel d'un cas d'usage IA de bout en bout.

Restitution effectuée par Franck Nassah Co-fondateur/directeur Général Naskal.