Criteria for a theory of functional responsibility for AI as sociotechnical systems

Establishing criteria for assigning responsibility within sociotechnical systems involving AI technology is currently one of the fundamental tasks and problems of critical and formal reflection on technology. This article proposes a definition of functional responsibility that combines tracing and faultless responsibility in an ontology of sociotechnical systems structured on user levels. On this basis, four fundamental criteria are defined. First, responsibility must be assignable to artificial agents without moral implications, and only conscious users must be considered morally responsible. Second, responsibility for a system functionality must be distributable across multiple users. Third, it must be possible to quantify each user's contribution to each function of interest. Fourth, the responsibility function is surjective, meaning there are no outputs of actions without responsible users, and compositional, meaning the output of one responsibility function can be the input of another responsibility function. This work is preliminary to the formulation of a formal system for automatic responsibility verification.

Stabilire criteri per l'assegnazione di responsabilità all'interno dei sistemi sociotecnici che coinvolgono tecnologia di IA è attualmente uno dei compiti e problemi fondamentali della riflessione critica e formale sulla tecnologia. In questo articolo si propone una definizione di \textit{responsabilità funzionale} che combina \textit{tracing} e \textit{faultless responsibility} in una ontologia dei sistemi sociotecnici strutturata su livelli di utenza. Su questa base si definiscono quattro criteri fondamentali. Primo: la responsabilità deve poter essere assegnata ad agenti artificiali senza implicazioni morali, e solo utenti coscienti devono essere considerati moralmente responsabili. Secondo, la responsabilità di una funzionalità del sistema deve poter essere distribuibile su più utenti. Terzo, deve poter essere possibile quantificare il contributo di ciascun utente a ciascuna funzione di interesse. Quarto, la funzione di responsabilità è suriettiva, ovvero non esistono output di azioni senza utenti responsabili, e composizionale, ovvero l'output di una funzione di responsabilità può essere l'input di un'altra funzione di responsabilità. Questo lavoro è preliminare alla formulazione di un sistema formale per la verifica automatica di responsabilità.