We are looking for 1 to 2 profiles, ideally a Senior GenAI / Prompt Engineering Consultant, with the following skills:

• Strong experience with GenAI, LLMs and Prompt Engineering
• Good knowledge and hands-on experience with RAG
• Ability to lead business workshops, identify and prioritize GenAI use cases and assess their business value
• Experience with AI adoption and change management
• Knowledge of AI Act / Responsible AI / Data Privacy
• Ideally, previous experience in Banking / Financial Serviceswi
• Strong client-facing and communication skills
• French and English would be highly appreciated

A Data Scientist with strong GenAI experience could also be considered, provided the person is client-facing and has proven experience with Prompt Engineering and RAG. We are not looking for a traditional ML/Data Scientist profile.

You find the project description below

Contexte et Objectifs du Projet A la BDL, l’entité Transformation Intelligence Artificielle a mis en place une solution d’IA Générative, basée sur des LLM hébergés sur son environnement On-Premise et une solution d’assistant IA interne, mis à disposition de tous les collaborateurs de la Banque.
Afin de structurer les usages d’IA Générative avec cette solution, il est nécessaire de concevoir et déployer une Bibliothèque de Prompts (Prompt Library) sur mesure et adaptée aux besoins des Métiers de la Banque. Cela concerne tous les Métiers (Private Banking, Entreprises, Asset Servicing, Financial Markets, Tax, Legal, Credit, Asset Management, Audit, Compliance, Risk, Fraud, Operations, HR, Communication & Experience, Facility…).
Cette démarche vise à :

• standardiser les meilleures pratiques de prompting et d’usage des RAG documentaires,
• garantir la conformité à l’AI ACT,
• et maximiser l’efficacité et l’efficience de l’ensemble des collaborateurs Métiers.

Le Cocontractant accompagnera la Banque sur l’intégralité du cycle de vie du projet : de l’idéation des cas d’usage jusqu’à l’adoption finale par les Métiers.
 

2. Périmètre de la Prestation et Livrables

La mission se décompose en 4 phases clés :

• Identification et priorisation des cas d’usages par Métier
• Design et conception des prompts (avec ou sans RAG) et liste des bonnes pratiques
• Tests et intégration des prompts dans la bibliothèque
• Accompagnement pour l’adoption de la bibliothèque de prompts par les Métiers.

Phase 1 : Identification et Priorisation des cas d’usage par Métier

• Identification en ateliers métiers avec les Ambassadeurs IA, interlocuteurs privilégiés de chaque Métier 
  • Expliquer simplement les notions de prompts et RAG
  • Animer des sessions de réflexion avec chaque métier de la Banque pour identifier les goulets d’étranglement, les tâches chronophages et répétitives susceptibles d’être remplacées par l’usage de prompts et RAG,
  • Identifier les cas d’usages qui apportent le plus d’efficacité et d’efficience au Métier en estimant et justifiant ces gains (ROI)
  • Décrire précisément les cas d’usages Métiers.
• Priorisation des cas d’usage 
  • Définir une matrice de priorisation (l’impact valeur métier vs la faisabilité technique et réglementaire) et la compléter.
• Livrables 
  • Etablir une cartographie des cas d’usage à forte valeur ajoutée, avec ou sans RAG (exemples : résumé de rapports financiers, synthèse d’entretiens clients, rédaction de propositions commerciales sur mesure)
  • Justifier les choix retenus auprès des Ambassadeurs IA et les valider avec eux.

Phase 2 : Design et conception des prompts (avec et sans RAG) et liste des bonnes pratiques

• Standardisation
  • Rédiger des prompts structurés (selon un template standard) et adaptés aux besoins Métiers
  • Lister les bonnes pratiques de prompt pour la Banque
  • Décrire le besoin de RAG documentaire : documents internes/externes, qualité et fraîcheur des documents/données…
• Sécurité
  • S’assurer que les garde-fous nécessaires empêchent la fuite de données confidentielles (Data Privacy) et limiter au maximum les hallucinations des LLM
• Livrables  
  • Etablir un catalogue initial de prompts validés, documentés (conformité AI Act et charte éthique BDL) et classés par Métier permettant de créer la première version de la bibliothèque de prompts.
  • Ce catalogue devra être validé régulièrement par le IA Risk Manager BDL.

Phase 3 : Tests et intégration des prompts dans la bibliothèque

• Test et optimisation des prompts, tests RAG
  • Mener des tests techniques et fonctionnels avec les Métiers pour évaluer la qualité des réponses générées par les modèles LLM, avec ou sans RAG
  • Valider les RAG
  • Optimiser les prompts et RAG dans le cadre des tests.
• Intégration des prompts dans la bibliothèque et intégration des RAG et mise en production
• Livrables
  • Mettre en production la bibliothèque de prompts et les RAG après validation du cahier de tests final par les Métiers.
  • Validation finale par le IA Risk Manager BDL.

Phase 4 : Accompagnement pour l’adoption de la bibliothèque de prompts et RAG par les Métiers

• Formation
  • Créer des modules de formation et organiser des sessions pratiques pour les Ambassadeurs et les utilisateurs finaux
• Accompagnement des Ambassadeurs IA
  • Animer le réseau des Ambassadeurs IA au sein des équipes Métiers
• Livrables
  • Kit de communication
  • Guide de bonnes pratiques “Prompting”
  • Tableau de bord de suivi de l’adoption (taux d’utilisation, retours utilisateurs)
  • Animation du réseau des Ambassadeurs IA et amélioration continue de la bibliothèque de prompts et RAG.

POSTULEZ MAINTENANT