Aller au contenu
Fide Systems
Partenaires
En exploitation Fondée en 2023

Halyard Labs

Outils d’évaluation et d’interprétabilité pour les modèles déjà en production.

Secteur
Évaluation et interprétabilité
Siège
Cambridge, Massachusetts
Partenaire depuis
2024
Équipe
28

Aperçu

Halyard construit l’instrumentation qui indique à un opérateur si un modèle déployé fait toujours son travail — et, lorsque ce n’est pas le cas, quelle partie du système a bougé.

Pourquoi cela existe

Les tests de référence antérieurs au déploiement répondent à une question que plus personne ne se pose après le lancement. La vraie question est plus étroite et plus difficile : le comportement sur notre trafic a-t-il changé cette semaine, et était-ce le modèle, la couche de recherche, l’invite ou les utilisateurs ?

Halyard mène une évaluation continue sur les distributions de production réelles, conserve un historique versionné de chaque interaction évaluée et impute les régressions à un composant précis plutôt que de rapporter un chiffre unique en baisse. Pour les clients réglementés, ce même registre tient lieu de piste d’audit qu’ils sont déjà tenus de conserver.

Pourquoi nous nous associons

L’historique d’évaluation est ce rare actif qui se cumule sans pouvoir être copié. Un client qui utilise Halyard depuis trois ans dispose d’un relevé longitudinal de son propre système qu’aucun concurrent ne peut reconstituer ni reprendre.

Priorités actuelles

  • Imputation entre les changements de recherche, d’invite et de poids
  • Jeux d’évaluation par client construits à partir du trafic de production sans conservation de données personnelles
  • Rapports conformes aux obligations de surveillance après commercialisation du règlement européen sur l’IA