Présentation des principes d'IA responsable de Submittable

Chez Submittable, notre mission est d'accélérer le travail axé sur la mission. L’innovation est au cœur de cette accélération. Les technologies révolutionnaires telles que l’intelligence artificielle représentent un énorme potentiel pour l’humanité dans son ensemble, et en particulier pour le secteur de l’impact social.

Submittable a la possibilité de créer des produits qui permettent à nos clients d'avoir un impact exponentiel sur leurs programmes et leurs bénéficiaires. Le déploiement de nos outils d'IA fait partie des progrès accomplis dans diverses causes vitales dans les secteurs public, à but non lucratif et privé, depuis les services de garde d'enfants abordables et communautaires jusqu'à la lutte et le renforcement de la résilience face au changement climatique.

Dans le cadre de ce travail, nous avons le devoir de garantir que toutes les technologies d’IA que nous développons sont responsables, éthiques et percutantes. À cette fin, Submittable adhère à un ensemble de principes pour une IA responsable.

Principes de Submittable pour une IA responsable

Submittable a lancé pour la première fois des fonctionnalités basées sur l'IA au printemps 2021 pour aider nos clients qui attendent des dizaines, voire des centaines de milliers, voire un million, de demandes, en réponse à un financement de secours principalement très demandé en cas de COVID. Avec Automated Review, la technologie prend en charge les tâches fastidieuses, comme l'extraction de données de formulaires fiscaux ou de documents d'identification, ou l'application d'une notation automatisée basée sur une logique métier définie sur mesure.

Cela permet à nos clients de se concentrer sur le travail essentiel au programme qui nécessite une touche humaine, comme l'établissement de relations avec les candidats et les lauréats.

Depuis, notre équipe scientifique s’est agrandie. Nous travaillons dur pour dévoiler d'autres produits qui poursuivent la mission de l'IA pour de bon. Cette nouvelle vague permettra à chaque partie prenante du cycle de vie des subventions d’exploiter la puissance de l’IA : non seulement les donateurs, mais également les candidats, les évaluateurs et autres.

Aujourd'hui, à l'aube de la prochaine phase d'IA pour Submittable, nous partageons avec notre communauté les principes d'IA responsable qui guident ce travail.

Autonomisation

Nous pensons que le rôle de l’IA est d’aider les humains à prendre de meilleures décisions et à réaliser davantage, mais pas au détriment de l’action humaine. Même si nos outils d’IA permettront d’accomplir le travail plus rapidement, ils ne supprimeront jamais les humains de l’équation. À cette fin, nous travaillons à créer des outils d’IA qui éliminent le travail fastidieux, tout en centrant le rôle du cerveau humain sur des tâches clés telles que la prise de décision ou le jugement. Nos outils d’IA préserveront le droit de l’humain de prendre la décision finale.

Redevable

Tous nos outils d'IA sont responsables devant un être humain qui est constamment tenu au courant. La surveillance « Human-in-the-loop » (HITL) signifie que les humains fournissent un retour direct au modèle d'apprentissage pour corriger les erreurs et améliorer la précision au fil du temps. Nous utilisons HITL à la fois pour surveiller activement nos outils d'IA et pour effectuer des évaluations d'impact en continu, afin que nos modèles s'améliorent au fil du temps.

Transparent

Nous pensons que tous les utilisateurs doivent comprendre clairement où et quand l’IA est utilisée, et pourquoi. C'est pourquoi nous indiquons clairement quand les utilisateurs interagissent avec les outils d'IA, où nous implémentons l'IA dans nos logiciels et pourquoi nous le faisons. Cette transparence est fondamentale à la fois pour la confiance dans les outils et pour la définition des attentes quant à la façon dont les outils fonctionnent.

Équitable

Nous travaillons sans relâche pour trouver et éliminer les préjugés dans nos outils d’IA. Nous effectuons une identification précoce approfondie des biais et une surveillance continue. Cela permet une atténuation précoce et constante conduisant à des outils plus équitables à court et à long terme. Nous allons également plus loin en impliquant des parties prenantes expertes dans le développement de modèles afin que notre technologie reflète non seulement notre propre interprétation de l'équité, mais adhère aux normes de pointe du secteur.

Privé et sécurisé

À chaque étape de notre cycle de développement, nous mettons en œuvre des mesures de classe mondiale pour garantir que toutes les données sont privées et sécurisées. Nous ne partagerons jamais de données avec des modèles publics. Les utilisateurs peuvent être sûrs que les données qui transitent via l'IA de Submittable sont protégées et sécurisées.

Notre démarche scientifique

Alors que nous développons nos outils d'IA, l'équipe scientifique de Submittable adopte une approche intentionnellement mesurée, comme le montre le volant d'inertie ci-dessous.

• Recherche : travaillez avec des experts en la matière pour comprendre le problème que nous essayons de résoudre et les moyens appropriés pour le résoudre.
• Conception : assurez-vous que la solution améliorera l'expérience utilisateur tout en respectant nos principes d'IA responsable.
• Build : créez un service stable et performant qui répond à toutes les exigences de sécurité.
• Évaluer : assurez-vous que la solution fonctionne comme prévu.
• Améliorer : recherchez et évaluez les domaines à améliorer.

Notre Philosophie

Submittable embrasse la nature non déterministe de l’IA et du développement algorithmique. Un algorithme non déterministe est un algorithme qui, lorsqu'il reçoit les mêmes entrées, peut renvoyer des sorties différentes. Cela signifie que nous ne connaîtrons souvent pas les résultats de notre travail tant qu'il n'est pas terminé. Nous considérons cela comme une force.

En pratique, cela signifie que nous opérons dans des intervalles de confiance, qui indiquent le degré auquel nous pouvons nous attendre à ce que les résultats soient précis. Pour créer un intervalle de confiance, nous définissons une limite supérieure et inférieure, qui correspond à la précision la plus élevée à laquelle nous pouvons nous attendre et à la précision la plus faible que nous autorisons. Nous utilisons ensuite la méthodologie HITL, entre autres bonnes pratiques, pour garantir que les résultats de nos outils d'IA se situent dans ces limites supérieure et inférieure.

En suivant cette méthode de bonnes pratiques pour le développement de l’IA, nous sommes en mesure à la fois de garantir l’exactitude et d’adopter la nature dynamique qui confère aux outils d’IA leur valeur unique.

Quelle est la prochaine étape pour l'IA chez Submittable

Nous avons déjà proposé une IA qui aide nos clients à automatiser les tâches et à améliorer la prise de décision. Prochainement, nous sommes ravis de mettre l’IA entre les mains d’un plus grand nombre de clients, avec une convivialité améliorée pour les personnes non techniques.

Un élément clé de ce voyage est notre partenariat stratégique récemment annoncé avec Tech for Social Impact de Microsoft. En les rejoignant dans leur mission de création d'une IA pour le bien, nous exploiterons la meilleure suite d'outils de Microsoft, notamment Microsoft Azure Open AI, pour créer une nouvelle vague de technologies basées sur l'IA. Cette nouvelle vague libérera la promesse de l’IA pour chaque membre participant au processus d’octroi de subventions.

Voici un aperçu de ce qui se profile à l’horizon pour les utilisateurs de Submittable :

• Suggestions de réponses permettant de gagner du temps pour les demandeurs de subvention : nous travaillons sur un service basé sur l'IA qui remplira automatiquement les réponses suggérées aux demandes de subvention, en fonction des réponses que le candidat lui-même a précédemment fournies.
• Création de formulaires plus rapide pour les donateurs : grâce à notre vaste connaissance des meilleures pratiques parmi les praticiens, nos clients pourront utiliser un robot IA pour créer automatiquement des formulaires de demande de subvention à l'aide d'invites en langage naturel.
• Applications accessibles malgré les barrières linguistiques : nous contribuerons également à étendre les opportunités de subventions à diverses populations grâce à un robot IA qui traduira les formulaires dans plusieurs langues.
• Extraction précise des données de la documentation : nous prévoyons d'éliminer la saisie fastidieuse des données pour les candidats et les évaluateurs, tout en réduisant le risque d'erreur humaine et de fraude grâce à un outil basé sur l'IA qui peut extraire des informations des documents officiels, tels que les W2.

L’IA pour le bien nécessite de l’intention

Nous sommes plus qu’enthousiasmés par ce que l’avenir réserve à nos clients, praticiens et bénéficiaires de la philanthropie à travers le monde. Mais nous procédons avec prudence. Alors que nous diffusons une technologie révolutionnaire dans le secteur, nous nous efforçons de garantir qu'en pratique, la technologie que nous développons contribue à notre objectif d'accélérer le travail axé sur la mission .