Kenya : évaluation indépendante de type red teaming et de la sécurité de l’IA générative du chatbot WAZZII (Girl Effect)

Récapitulatif de la procédure

• Intitulé de l’appel d’offres : évaluation indépendante de type red teaming et de la sécurité de l’IA
• Procédure : appel d’offres ouvert
• Type de mission : organisation indépendante ou cabinet de conseil spécialisé
• Marché principal : Kenya
• Durée du contrat : environ 10 semaines
• Rattachement : responsable Technologie et Produit
• Date limite des demandes de clarification : 10 novembre 2026
• Date limite de dépôt des propositions : 18 novembre 2026
• Adresse de dépôt : suppliers@girleffect.org

L’indépendance est une condition obligatoire : le prestataire retenu ne doit être impliqué ni dans la conception, ni dans l’exploitation des systèmes évalués, ni en tirer un bénéfice commercial.

Qui sommes-nous

Girl Effect est une organisation internationale à but non lucratif qui conçoit des médias et des technologies que les adolescentes souhaitent utiliser, auxquels elles font confiance et dont elles ont besoin. Elle crée des marques et des produits numériques qui touchent les filles à grande échelle en Afrique et en Asie, pour les aider à faire des choix éclairés sur leur santé, leur éducation et leur avenir, en particulier en matière de santé sexuelle et reproductive (SSR).

Girl Effect travaille depuis plusieurs années sur l’IA responsable : elle a publié ses propres lignes directrices éthiques sur l’IA et un livre blanc sur l’IA générative, a co-rédigé des recommandations sectorielles sur l’usage sûr des chatbots pour le changement social et de comportement, et dispose d’une responsabilité nominative en matière de sécurité de l’IA, avec un registre des modes de défaillance validé par la protection de l’enfance et des protocoles d’escalade assortis d’engagements de délai pour le suivi humain. L’organisation estime que l’IA destinée aux jeunes des pays du Sud doit répondre aux exigences de preuve les plus élevées, et que les organisations qui construisent ces systèmes ne doivent pas être les seules à les évaluer.

Contexte

WAZZII est le chatbot WhatsApp de Girl Effect au Kenya. Il fournit aux adolescentes et aux jeunes femmes des informations confidentielles et bienveillantes sur leur corps, leurs relations et leur santé, et les oriente vers des produits, des services de santé et des structures de référence, avec l’appui d’un service d’assistance humain chargé de la modération et de l’escalade.

La prochaine phase de WAZZII étendra l’usage de l’IA générative dans l’expérience destinée aux utilisatrices, notamment :

• des réponses fondées sur la recherche dans des contenus validés cliniquement (RAG) ;
• des outils d’aide par IA pour les opérateurs du service d’assistance ;
• des circuits d’escalade en matière de protection et de santé clinique ;
• l’évaluation interne des réponses du modèle ;
• des règles définissant les contenus et les actions que le système ne doit jamais produire.

Girl Effect recherche un partenaire indépendant pour vérifier que ces garde-fous fonctionnent comme prévu et identifier les risques non détectés par l’évaluation interne. Ce partenaire doit être distinct des organisations qui développent ou exploitent les systèmes testés.

Objectif

Réaliser une évaluation de type red teaming ciblée et indépendante des fonctionnalités d’IA générative de WAZZII destinées aux utilisatrices. La mission devra :

• identifier les vulnérabilités en matière de sécurité, de protection, de santé clinique et de technique ;
• vérifier que le système reconnaît les risques pertinents et les fait remonter de manière sûre ;
• évaluer si les évaluations et contrôles existants reflètent correctement l’usage réel ;
• produire des cas de test reproductibles que Girl Effect pourra rejouer ;
• classer les constats par gravité, probabilité et impact potentiel ;
• formuler des recommandations pratiques et hiérarchisées pour la remédiation et les évaluations futures.

La mission principale est une évaluation unique et limitée dans le temps. Le re-test après remédiation, la revue des conceptions agentiques et les tests périodiques seront chiffrés séparément, en options.

Activités

La mission principale dure environ dix semaines. Tous les travaux respectent les lignes directrices éthiques de Girl Effect sur l’IA, sa politique de données et sa politique de protection : les tests se déroulent dans des environnements de préproduction avec des profils fictifs, aucune donnée réelle d’utilisatrice n’est consultée ni collectée, et aucun contenu de dossier de protection n’est traité. Girl Effect fournira un accès à la préproduction, y compris un accès programmatique (API) au point de terminaison conversationnel, permettant des bancs de test automatisés. La mission peut être réalisée entièrement à distance, sans présence au Kenya.

Phase 1 — Prise en main et conception des tests (semaines 1 à 3, à titre indicatif)

• Revue documentaire ciblée du cadre d’évaluation, des règles d’interdiction et du protocole d’escalade de Girl Effect, suffisante pour concevoir un plan de test pertinent (et non un audit autonome).
• Définition conjointe de la taxonomie des scénarios et de la grille de gravité avec la responsable de l’éthique de l’IA et les responsables de la protection, et validation du protocole de divulgation responsable des constats critiques.

Phase 2 — Sprint de red teaming (semaines 3 à 8, à titre indicatif)

• Campagne de tests structurée et outillée sur l’expérience d’IA générative en préproduction, combinant scénarios adverses et scénarios réalistes non adverses, et produisant des cas de test journalisés, lisibles par machine et rejouables, en priorité sur : les conseils de santé cliniquement erronés ou dangereux ; l’absence de détection et d’escalade des révélations relevant de la protection ; le contournement des règles (jailbreak, injection de prompt) ; les contenus inadaptés à l’âge.
• Tests dans les langues et les alternances de langues des utilisatrices réelles (dont le kiswahili et le sheng) ; la compétence en langues locales peut être apportée par le partenaire ou en binôme avec l’équipe de Girl Effect.
• Test de résistance du circuit d’escalade vers l’humain, principalement avec des scénarios réalistes non adverses (détresse réelle, révélations, préoccupations cliniques) : le système transmet-il au service d’assistance quand il le doit ?

Phase 3 — Constats et restitution (semaines 8 à 10, à titre indicatif)

• Rapport de constats classés par gravité, avec des cas de test reproductibles remis à l’équipe de Girl Effect pour qu’elle puisse les rejouer en continu après la mission.
• Restitution aux dirigeants de Girl Effect, avec des recommandations hiérarchisées, y compris le contenu et la fréquence d’une évaluation plus complète.

Options chiffrées séparément (commandées à la discrétion de Girl Effect)

• Re-test des constats critiques après remédiation.
• Revue adverse, au niveau de l’architecture, des conceptions de systèmes agentiques (modélisation des menaces liées à l’autonomie, à l’usage d’outils et aux modes de défaillance avant déploiement).
• Re-tests périodiques et validations adverses avant le lancement des versions majeures.

Livrables

• Note de cadrage et plan de test (semaine 3) : méthodologie confirmée, taxonomie des scénarios et grille de gravité, modalités d’accès à la préproduction, approche éthique et de gestion des données, protocole de divulgation responsable.
• Rapport de constats du red teaming (semaine 8) : constats reproductibles classés par gravité, issus du sprint adverse, y compris les résultats sur le circuit d’escalade ; cas de test remis pour réutilisation interne continue.
• Restitution aux dirigeants et recommandations (semaine 10) : présentation des constats avec des recommandations hiérarchisées et proposition de périmètre et de fréquence pour les futures évaluations indépendantes.

Durée et modalités de travail

La mission principale doit durer environ 10 semaines et peut être réalisée à distance, sans présence au Kenya sauf accord contraire.

Girl Effect fournira : un accès autorisé à l’environnement de préproduction ; un accès programmatique au point de terminaison conversationnel lorsque c’est possible ; la documentation et les supports d’évaluation utiles ; des référents techniques, protection et programme ; des retours consolidés sur les livrables.

Le partenaire devra : participer à une réunion d’avancement hebdomadaire ; tenir un tableau de suivi et un registre des risques partagés ; utiliser des canaux sécurisés de communication et de partage des preuves ; signaler immédiatement les problèmes critiques ; protéger les identifiants d’accès et les supports d’évaluation ; gérer son personnel et son organisation de façon autonome.

Indépendance et conflits d’intérêts

L’indépendance est une condition obligatoire d’attribution. Le soumissionnaire doit : n’avoir aucun contrat en cours pour construire ou exploiter le système évalué ; n’avoir aucun intérêt commercial à un résultat particulier de l’évaluation ; déclarer toute relation actuelle ou passée avec les fournisseurs d’IA, de plateforme ou de technologie de Girl Effect, ainsi que toute relation pertinente au cours des 24 derniers mois ; indiquer les outils ou modèles évalués dans lesquels il a un intérêt financier ; expliquer comment tout conflit potentiel sera géré. Girl Effect déterminera si une relation déclarée affecte l’éligibilité ou l’indépendance du soumissionnaire.

Profil recherché

Le soumissionnaire retenu devra démontrer :

• une expérience du red teaming indépendant de systèmes d’IA déployés, et pas seulement de modèles isolés ;
• une expérience de l’IA conversationnelle, de la génération augmentée par recherche (RAG) et des systèmes multi-tours ;
• une expérience dans la santé, la protection ou d’autres contextes à haut risque ;
• une expérience des services numériques destinés aux adolescents et aux jeunes ;
• une solide connaissance de la sécurité de l’IA, de l’IA responsable et de l’évaluation de modèles ;
• la capacité à construire des bancs de test automatisés, lisibles par machine et rejouables ;
• la compréhension des circuits d’escalade humaine et de modération ;
• la capacité à tester en anglais, en kiswahili et en sheng, directement ou par une approche crédible et contrôlée ;
• une expérience au Kenya, en Afrique ou dans des contextes comparables des pays du Sud ;
• de solides pratiques de sécurité, de confidentialité et de divulgation responsable ;
• d’excellentes capacités d’analyse, de rédaction technique et de présentation aux dirigeants.

L’équipe proposée doit comprendre des personnes nommément désignées, disposant des compétences requises en évaluation de l’IA, en technique, en protection et en langues.

Contenu des propositions

Les soumissionnaires présentent une proposition technique et une proposition financière distinctes (10 pages maximum).

Proposition technique

• Compréhension de la mission ;
• méthodologie et outils de test proposés ;
• taxonomie et couverture des scénarios ;
• approche des tests automatisés et manuels ;
• approche des tests de protection et d’escalade ;
• capacités linguistiques et de contexte culturel ;
• approche de gestion des données et de sécurité de l’information ;
• processus de divulgation responsable ;
• plan de travail et organisation de l’équipe ;
• expérience pertinente et missions comparables ;
• hypothèses, dépendances, limites et exclusions ;
• déclaration d’indépendance et d’absence de conflit d’intérêts ;
• trois références clients ;
• un exemple anonymisé de rapport de constats pertinent.

Proposition financière

À présenter en dollars américains (USD), avec : un prix forfaitaire pour la mission principale de 10 semaines ; une ventilation des coûts par phase et par livrable ; les profils, taux journaliers et volumes de travail ; les taxes applicables présentées séparément ; les outils, licences et coûts de tiers ; les frais remboursables présentés séparément ; les taux journaliers de chaque option ; des hypothèses, exclusions et conditions claires.

Évaluation

Les propositions sont examinées dans l’ordre suivant : présélection ; évaluation technique ; présentation, démonstration ou clarifications si nécessaire ; évaluation financière.

• Expérience pertinente en red teaming d’IA et en évaluation de systèmes : 25 %
• Qualité, couverture et caractère opérationnel de la méthodologie : 25 %
• Équipe proposée et compétences en protection ou en sécurité de l’IA : 10 %
• Langues, connaissance du contexte local et point de vue des communautés concernées : 10 %
• Total technique : 70 %
• Proposition financière et rapport qualité-prix : 30 %

Girl Effect pourra demander des clarifications écrites, inviter les soumissionnaires présélectionnés à une présentation ou à une démonstration technique, vérifier les références et procéder à des contrôles préalables, ou demander une offre finale. L’offre la moins chère ne sera pas nécessairement retenue.

Calendrier

• Publication des termes de référence : 4 novembre 2026
• Date limite des questions et demandes de clarification : 10 novembre 2026
• Diffusion de la FAQ consolidée à tous les soumissionnaires potentiels : 13 novembre 2026
• Date limite de dépôt des propositions : 18 novembre 2026

Les questions de clarification sont à envoyer à suppliers@girleffect.org avant le 10 novembre 2026, avec pour objet « Clarification Question – Independent AI Red-Team Evaluation ». Pour garantir l’équité de la procédure, les questions et réponses seront compilées dans une FAQ anonymisée diffusée à tous les soumissionnaires par les mêmes canaux que l’appel d’offres ; aucune information orale ne modifie l’appel d’offres sans confirmation écrite de Girl Effect.

Conditions générales et commerciales

• Contractualisation : le prestataire retenu signera le contrat de services type de Girl Effect, un cahier des charges et les documents applicables en matière de traitement des données et de sécurité de l’information.
• Paiement : lié à la réalisation satisfaisante et à l’acceptation écrite des livrables convenus.
• Prix : fixe, sauf modification approuvée par la procédure écrite de gestion des changements.
• Frais : seuls les frais raisonnables approuvés par écrit au préalable et justifiés sont remboursés.
• Propriété intellectuelle : Girl Effect détient l’ensemble des livrables, codes sources, configurations, conceptions et documents créés spécifiquement pour la mission, sous réserve du traitement convenu des outils préexistants et des éléments de tiers.
• Confidentialité et protection des données : le partenaire protège les informations confidentielles et les données personnelles de Girl Effect et respecte la réglementation applicable.
• Protection et conduite : la désignation est soumise à des vérifications préalables (références, protection, sécurité de l’information, conformité) ; le prestataire respecte le code de conduite et les exigences de Girl Effect en matière de protection et de lutte contre la fraude.
• Sous-traitance : aucune partie substantielle de la mission ne peut être sous-traitée sans accord écrit préalable ; le soumissionnaire principal reste responsable de tout travail sous-traité.
• Garantie : les soumissionnaires proposent une période de garantie pendant laquelle les défauts des livrables acceptés sont corrigés sans coût supplémentaire.
• Coûts de soumission : non remboursés.
• Droit d’attribution : Girl Effect peut clarifier, négocier, modifier, suspendre ou annuler la procédure, rejeter tout ou partie des propositions, attribuer tout ou partie du périmètre, attribuer par phases ou ne pas attribuer. La publication de l’appel d’offres ne constitue pas un engagement à contracter.
• Égalité des chances : Girl Effect accueille les propositions des organisations qualifiées qui satisfont aux exigences réglementaires, techniques et de service.
• Validité des propositions : 90 jours à compter de la date limite de dépôt.

Comment postuler

Envoyer la proposition technique et la proposition financière en pièces jointes séparées à suppliers@girleffect.org au plus tard le 18 novembre 2026, avec pour objet : Independent Red-Teaming and AI Safety Evaluation.

Les propositions tardives, incomplètes ou mal transmises pourront ne pas être évaluées. Girl Effect pourra ne contacter que les soumissionnaires présélectionnés ; les autres seront informés à l’issue de la procédure.