Comment le monde met à jour la législation face aux avancées persistantes de l'IA
Publié: 2021-05-30Avec la possibilité de créer des dispositifs et des systèmes capables de décisions autonomes, se pose le besoin d'une législation pour surveiller l'intelligence artificielle
L'outil de recrutement d'IA désormais abandonné d'Amazon est un excellent exemple où il a été découvert que l'outil d'IA avait un parti pris envers les hommes
Récemment, 13 États des États-Unis ont interdit l'utilisation de la technologie de reconnaissance faciale basée sur l'IA par la police.
Aujourd'hui, l'intelligence artificielle (IA) change rapidement le visage de la technologie. Mais avec la possibilité de créer des appareils et des systèmes capables de prendre des décisions autonomes, se pose le besoin d'une législation pour surveiller l'IA. L'outil de recrutement d'IA désormais abandonné d'Amazon est un excellent exemple où il a été découvert que l'outil d'IA avait un biais envers les hommes puisqu'il avait été formé sur 10 ans de données lorsque les hommes occupaient la plupart des postes techniques. Alors que nous nous dirigeons constamment vers un monde plus intégré à la technologie, la nécessité d'un juste équilibre dans la législation devient plus importante. Il doit protéger les droits des citoyens tout en veillant à ce qu'il ne soit pas un obstacle à la croissance de la technologie et des entreprises. Le monde fait face aux avancées de l'IA de multiples façons, celles-ci étant fortement influencées par la culture et la région. Pour comprendre cela, examinons certains cas aux États-Unis, dans l'Union européenne et en Chine afin de comprendre où se situe l'Inde au milieu du mouvement mondial pour introduire une nouvelle législation.
Tendances et législations dans le monde
Récemment, 13 États américains ont interdit l'utilisation de la technologie de reconnaissance faciale par la police. Fait intéressant, 12 de ces 13 villes étaient des élus démocrates, ce qui implique la différence culturelle au sein d'un pays lui-même.
L'Union européenne est la référence en matière de confidentialité des données et de lois régissant les différents aspects de la technologie. Afin de protéger les droits et la liberté des individus, l'article 22 du RGPD, « Prise de décision individuelle automatisée, y compris le profilage », a garanti la disponibilité d'une intervention manuelle dans la prise de décision automatisée dans les cas où les droits et libertés de l'individu sont affectés. Le premier alinéa, « La personne concernée a le droit de ne pas faire l'objet d'une décision fondée uniquement sur un traitement automatisé, y compris le profilage, qui produit des effets juridiques la concernant ou l'affecte de manière significative de manière similaire », et le troisième alinéa, « le responsable du traitement met en œuvre les mesures appropriées pour sauvegarder les droits et libertés et les intérêts légitimes de la personne concernée, au moins le droit d'obtenir une intervention humaine de la part du responsable du traitement, d'exprimer son point de vue et de contester la décision », accorde le droit d'intervention manuelle aux personnes. Ceci est essentiel dans les situations où les décisions prises par un système d'IA ont un impact sur un individu.
La Chine est un exemple où la technologie de l'IA est utilisée comme outil d'oppression. Le gouvernement chinois a un contrôle total sur les données à travers le pays et utilise la technologie de reconnaissance faciale comme outil de contrôle autoritaire pour surveiller et profiler une minorité.
La question qui se pose est la suivante : pourquoi devons-nous examiner ces différentes législations ?
Recommandé pour vous:
Comment le cadre d'agrégation de comptes de RBI est sur le point de transformer la Fintech en Inde
Les entrepreneurs ne peuvent pas créer de startups durables et évolutives via "Jugaad": Cit ...
Comment Metaverse va transformer l'industrie automobile indienne
Que signifie la disposition anti-profit pour les startups indiennes ?
Comment les startups Edtech aident la main-d'œuvre indienne à se perfectionner et à se préparer pour l'avenir...
Stocks technologiques de la nouvelle ère cette semaine : les problèmes de Zomato continuent, EaseMyTrip publie des...
Dans l'économie et le mode de vie mondialisés d'aujourd'hui, ces législations ont un impact direct sur les organisations et leur style de travail. Les start-ups et les PME ont beaucoup plus de mal à faire face aux changements régionaux en raison de l'absence d'une législation ou de normes mondiales uniformes. C'est pourquoi il est important pour l'Inde de s'assurer que nous avons une législation qui s'intègre bien dans le contexte mondial.
Législation en Inde
Le PDPB indien de 2019 est bloqué dans les procédures parlementaires. Les organisations attendent toujours le jour où il sera adopté pour qu'on leur donne un délai pour se conformer aux nouveaux règlements en vertu du PDPB.
Examinons quelques-unes des dispositions du projet de loi relatives aux données sur les consommateurs. Ces dispositions contribuent à protéger les droits des consommateurs. Ils ont également un impact sur la façon dont les organisations mènent leurs activités, en particulier les start-ups et les PME.
Le projet de loi donne aux consommateurs le droit d'accéder, de rectifier et d'effacer leurs données sous leur forme actuelle (voir : article 19 du PDPB « Droit à la portabilité des données » sous le chapitre 5 « Droits du titulaire des données »). C'est quelque chose que toutes les organisations devront respecter dans les délais stipulés par le gouvernement. D'un point de vue commercial, le transfert de données sera un défi majeur, son impact étant plus difficile pour les start-ups et les PME. Cela offre aux nouvelles entreprises la possibilité de fournir des services qui aident à se conformer aux lois PDPB, mais aura également un impact sur les start-ups et les PME qui s'appuient sur les données du consommateur et les déductions des données.
Il existe également une disposition permettant aux organisations d'être incluses dans une Sandbox créée par l'autorité. Les organisations incluses dans la Sandbox bénéficieront d'exemptions pendant 12 mois, avec des extensions possibles jusqu'à un total de 36 mois. Mais le fonctionnement exact, le processus de sélection des organisations ou les avantages qui seraient fournis aux PME, ne sont pas clairs.
Enfin, les dispositions relatives à la localisation et au stockage des données imposent aux organisations de stocker physiquement les données dans le pays. Cela a suscité beaucoup d'arguments des deux côtés. D'un point de vue organisationnel, cependant, cela pourrait conduire les entreprises à mettre en place de nouveaux centres de données pour le stockage local des données, ce qui pourrait entraîner une augmentation des prix des services proposés, impactant les start-ups et les PME.
Toutes ces discussions se résument au fait que la technologie évolue rapidement et en tant que nation, il est crucial que la loi en tienne compte. Le PDPB est une étape monumentale pour l'Inde en matière de protection de la vie privée et des droits de ses citoyens. Cependant, l'impact que cela peut avoir sur les opportunités d'affaires a un impact direct sur le développement de notre pays.