Reviewing algorithmic decision making in administrative law
Abstract
L’intelligence artificielle est peut-être le changement technologique le plus important depuis la popularisation de l’Internet dans les années de déclin du XXe siècle. L’intelligence artificielle promet d'affecter la plupart des secteurs de l'économie moderne, du camionnage et du transport aux soins médicaux et à la recherche. Notre système juridique a déjà commencé à envisager comment des systèmes de prise de décision artificiellement intelligents sont susceptibles d'affecter l’équité des procédures et l'accès à la justice. Ces effets ont été sous-évalués dans le domaine du droit administratif, dans lequel des systèmes artificiellement intelligents pourraient être utilisés pour accélérer la prise de décision, assurer un traitement relativement égal de cas similaires et lutter contre la discrimination. Mais l’adoption de systèmes artificiellement intelligents par les décideurs administratifs soulève également de graves questions. Cet essai se concentre sur une de ces questions : les décisions administratives prises par des systèmes artificiellement intelligents sont-elles capables de répondre au devoir d'équité procédurale dû aux sujets de ces décisions ? L’essai est divisé en trois parties. Dans la première, j’expose brièvement l’utilisation croissante des systèmes artificiellement intelligents dans le contexte administratif. Nous étudierons principalement les algorithmes d'apprentissage machine en décrivant le défi technique d’inexplicabilité qu’ils posent. Dans la deuxième section, j’expose le devoir des décideurs administratifs d'expliquer leur raisonnement dans certains contextes. Dans la troisième section, je soutiens que les processus administratifs qui utilisent des systèmes
artificiellement intelligents compliqueront l’accomplissement efficace de cette tâche. Les personnes soumises à certains types de décisions administratives peuvent être privées des motifs auxquels elles ont droit. Je soutiens que l’intelligence artificielle pourrait nous amener à repenser la justification des décisions en droit administratif.