Les performances et la précision des algorithmes d’intelligence artificielle sont tellement cruciaux – du diagnostic médical au conseil juridique, en passant par la planification financière – que des voix se sont élevées pour réclamer la « professionnalisation » de leurs développeurs, par le biais de mécanismes comme des certifications ou des accréditations. Après tout, les professionnels de santé, les avocats et les conseillers financiers ont tous besoin de différents niveaux de certifications, alors pourquoi les personnes qui créent les systèmes d’IA – qui pourraient remplacer les conseils de ces professionnels – ne seraient-elles pas également vérifiées ?
« Par exemple, vous comprenez que les architectes, les électriciens et autres professionnels de la construction savent comment construire une maison », explique Fernando Lucini, responsable data science et de l’ingénierie de l’apprentissage machine chez Accenture. « Ils ont reçu la formation nécessaire et comprennent leurs rôles et responsabilités, les normes de sécurité et les protocoles à suivre tout au long du processus de construction. Il est peu probable que vous fassiez confiance à un “architecte amateur” pour construire votre maison, de la même manière que vous ne consulteriez pas un “médecin amateur” lorsque vous êtes malade. »
Un contre-argument pourrait être qu’il y a déjà trop peu de personnes qui connaissent bien les méthodes d’IA, et nous avons besoin de tous ceux que nous pouvons mobiliser pour ces efforts. Toute tentative d’exiger des certifications ou des accréditations officielles peut entraver ces efforts.
Se tourner vers la professionnalisation des rôles et des responsabilités des praticiens de l’IA
Dans un récent article, Fernando Lucini exhorte les organisations à se tourner vers la professionnalisation des rôles et des responsabilités des praticiens de l’IA. « Les parties prenantes – des praticiens aux dirigeants des secteurs privé et public – doivent se réunir pour définir clairement les rôles et les responsabilités des praticiens de l’IA, exiger un niveau d’éducation et de formation adéquat pour ces praticiens, définir des processus pour le développement, le déploiement et la gestion de l’IA, et démocratiser la connaissance de l’IA dans toute l’entreprise. La valeur réelle ne peut être réalisée que lorsque ces praticiens formés travaillent main dans la main avec l’entreprise pour atteindre les objectifs de leur organisation, et que ces équipes interdisciplinaires sont guidées par des normes, des règles et des processus. »
Bien qu’il ne préconise pas de certification officiellement obligatoire, Fernando Lucini affirme que les entreprises doivent prendre des mesures pour s’assurer que les praticiens de l’IA et leurs employeurs suivent des directives claires pour garantir que les systèmes d’IA sont précis et éthiques. Certaines universités et entreprises de premier plan, dont Stanford, Coursera et IBM, proposent des certifications en IA, comme le précise ici Code Spaces.
En officialisant l’IA en tant que business, « avec un ensemble de normes et de principes communs, les entreprises seront prêtes à tirer davantage de valeur de l’IA », affirme-t-il. Pourtant, de plus en plus, les entreprises renforcent leurs équipes en sciences des données avec des « citoyens scientifiques », c’est-à-dire des personnes qui créent des modèles en utilisant l’analyse prédictive mais dont le rôle est en dehors du domaine des sciences des données, sans leur fournir les garde-fous et les normes nécessaires à leur réussite. Même parmi les scientifiques des données formés et accrédités, il existe différents degrés de normes. »
Fernando Lucini et l’équipe d’Accenture fournissent quatre lignes directrices pour la professionnalisation de l’IA :
1. Distinguer clairement les rôles des praticiens et créer des normes supplémentaires sur la façon de travailler
« Créer des équipes multidisciplinaires aux perspectives, compétences et approches diverses qui travaillent ensemble pour innover et fournir des produits ou services d’IA. Etablir l’appropriation et les attentes dès le début afin que les praticiens de l’IA comprennent précisément ce qu’ils doivent fournir et ce dont ils sont responsables. »
2. Demander une formation pour créer la confiance dans l’IA, avec des qualifications et des normes claires pour les praticiens
« Mettre en place des points d’évaluation réguliers tout au long de la carrière des employés pour tester leurs connaissances et maintenir leur éducation technique. Etablir des parcours de carrière clairs pour les praticiens de l’IA, avec des pré-requis comme des cours et des formations pour aider à développer les compétences et les aptitudes nécessaires. »
3. Etablir des processus définis qui formalisent le développement, le déploiement et la gestion des solutions d’IA
« Créer une approche standard de test et d’analyse comparative lors de la création (ou de l’optimisation) des produits et services d’IA. »
4. Définir le niveau minimum de connaissances en IA requis des employés – qu’ils travaillent ou non avec des données – dans le cadre de leurs tâches quotidiennes
Elaborer un programme de formation qui aidera les employés à mieux connaître et comprendre les données et l’IA et la manière dont elles s’appliquent à leurs rôles.
