Search

This article examines ethical implications of the growing AI carbon footprint, focusing on the fair distribution of prospective responsibilities among groups of involved actors. First, major groups of involved actors are identified, including AI scientists, AI industry, and AI infrastructure providers, from datacenters to electrical energy suppliers. Second, responsibilities of AI scientists concerning climate warming mitigation actions are disentangled from responsibilities of other involved actors. Third, to implement these responsibilities nudging interventions are suggested, leveraging on AI competitive games which would prize research combining better system accuracy with greater computational and energy efficiency. Finally, in addition to the AI carbon footprint, it is argued that another ethical issue with a genuinely global dimension is now emerging in the AI ethics agenda. This issue concerns the threats that AI-powered cyberweapons pose to the digital command, control, and communication infrastructure of nuclear weapons systems.

INDICE Introduzione 1. REGOLE MORALI PER VEICOLI AUTONOMI L’ingegnere e l’etica delle conseguenze/Sicurezza stradale e veicoli autonomi/Libertà personale ed etica delle conseguenze/Dilemmi morali nelle collisioni inevitabili/Tensioni nell’etica delle conseguenze/Tensioni tra doveri, conseguenze e ruoli 2. POLITICHE ETICHE PER VEICOLI AUTONOMI L’etica delle conseguenze e il divieto di tortura/Priorità e soluzione di conflitti morali/Preferenze culturali e politiche etiche/Politiche libertarie e segregazioniste/Supererogazione, libertà di scelta e paternalismo morale/Guida autonoma e crisi climatica 3. AUTONOMIA DELL'ARTIFICIALE ED ETICA APPLICATA Autoveicoli ad autonomia crescente/Autonomia operativa: dal termostato ai robot calciatori/Etica delle macchine autonome: scopi e strumenti/Etica delle macchine autonome: aspettative e problemi di fondo/Lo studio algoritmico dei giochi e le sue applicazioni inattese 4. METTERE AL BANDO LE ARMI AUTONOME? Il ricercatore come vedetta etica/Dai droni alle armi autonome: problematiche etiche/Dai droni alle armi autonome: sviluppi tecnologici/Etica dei doveri: principi di distinzione e proporzionalità in guerra/Etica dei doveri: responsabilità e dignità dell’uomo/Etica delle conseguenze e armi autonome 5. POLITICHE ETICHE PER LE ARMI AUTONOME Non tutto è permesso in guerra/La definizione di arma autonoma nel dibattito internazionale/Dalle definizioni al problema del controllo umano/La “condizione Petrov” nel contesto dell’intelligenza artificiale/Politiche etiche uniformi per il controllo umano/Politiche etiche differenziate e prudenziali 6. LA FORESTA DELLE MACCHINE AUTONOME E L'ETICA Alan Turing sul futuro del lavoro/Norbert Wiener su automazione, etica e diritti dei lavoratori/Sorvegliare, educare e punire al tempo dell’intelligenza artificiale/Sorvegliare al tempo dei droni/Il chirurgo e il suo robot ad autonomia crescente/Scelte morali in cerca d’autore

Turing machines are abstract computing devices, named after Alan Mathison Turing. A Turing machine operates on a potentially infinite tape uniformly divided into squares, and is capable of entering only a finite number of distinct internal configurations. Each square may contain a symbol from a finite alphabet. The machine can scan one square at a time and perform, depending on the content of the scanned square and its own internal configuration, one of the following operations: print or erase a symbol on the scanned square or move on to scan either one of the immediately adjacent squares. These elementary operations are possibly accompanied by a change of internal configuration. Turing argued that the class of functions calculable by means of an algorithmic procedure (a mechanical, stepwise, deterministic procedure) is to be identified with the class of functions computable by Turing machines. The epistemological significance of Turing machines and related mathematical results hinges upon this identification, which later became known as Turing’s thesis; an equivalent claim, Church’s thesis, had been advanced independently by Alonzo Church. Most crucially, mathematical results stating that certain functions cannot be computed by any Turing machine are interpreted, by Turing’s thesis, as establishing absolute limitations of computing agents.

To be counted as operationally autonomous relative to the execution of some given task, a robotic system must be capable of performing that task without any human intervention after its activation. Recent progress in the fields of robotics and AI has paved the way to robots autonomously performing tasks that may signif-icantly affect individual and collective interests, which are deemed as worthy of pro-tection from both ethical and legal perspectives. The present contribution provides an overview of ensuing normative problems and identifies some ethically and legal-ly grounded solutions to them. To this end, three case studies will be more closely scrutinized, i.e. increasingly autonomous weapons systems, vehicles, and surgical robots. These case studies are used to illustrate, respectively, the preliminary prob-lem of whether we want to grant certain forms of autonomy to robotic systems, the problem of selecting appropriate ethical policies to control the behavior of autono-mous robotic systems, and the problem of how to retain responsibility for mis-doings of autonomous robotic systems. The analysis of these case studies brings out the key role played by human control in ethical and legal problem-solving strat-egies concerning the operational autonomy of robotic and AI systems., BioLaw Journal - Rivista di BioDiritto, N. 1 (2019)

ispartof: Dagstuhl Reports status: accepted

Philosophical motives of interest for AI and robotic autonomous systems prominently stem from distinctive ethical concerns: in which circumstances are autonomous systems ought to be permitted or prohibited to perform tasks which have significant implications in the way of human responsibilities, moral duties or fundamental rights? Deontological and consequentialist approaches to ethical theorizing are brought to bear on these ethical issues in the context afforded by the case studies of autonomous vehicles and autonomous weapons. Local solutions to intertheoretic conflicts concerning these case studies are advanced towards the development of a more comprehensive ethical platform guiding the design and use of autonomous machinery.

Herbert Simon ha condotto ricerche simulative sui processi cognitivi degli esseri umani per quasi un cinquantennio, a partire dalla metà degli anni ’50 del secolo scorso e fino alla sua scomparsa nel 2001. Insieme ad Allen Newell, a John Clifford Shaw e altri collaboratori, Simon ha contribuito da protagonista alla rivoluzione cognitivista in psicologia (Miller 2003), alla nascita di quella componente teorica dell’intelligenza artificiale che indaga con strumenti algoritmici i comportamenti intelligenti dei sistemi biologici (Cordeschi 1984) e al consolidamento di quel settore di ricerca interdisciplinare che ha preso il nome di scienza cognitiva (Simon 1980; Cordeschi 2002). In questo vasto e importante panorama di contributi innovativi, ci concentreremo qui sulle idee che Simon, insieme a Newell, ha espresso a proposito dello statuto epistemologico dei programmi simulativi sviluppati nell’ambito della cosiddetta Information Processing Psychology (IPP). In particolare, si analizzerà la loro visione di un programma simulativo come una teoria del sistema simulato (d’ora in avanti tesi P ⊑T ). La tesi P ⊑T di Newell e Simon si colloca storicamente nell’ambito di quella tradizione di ricerca che ha perseguito, utilizzando varie tipologie di macchine, indagini simulative sui comportamenti adattivi e intelligenti dei sistemi biologici. Nel seguito, faremo riferimento a questa tradizione di ricerca con l’espressione scienze dell’artificiale, richiamando così il titolo del celebre libro di Herbert Simon The Sciences of the Artificial (Simon 1996), ma soprattutto i contenuti del libro di Roberto Cordeschi The Discovery of the Artificial, che delle scienze dell’artificiale rintraccia le origini e delinea i confini, ripercorrendone gli sviluppi metodologici ed epistemologici lungo tutto il corso del XX secolo (Cordeschi 2002). La tesi P ⊑T marca un punto di discontinuità rispetto alle indagini che si sono sviluppate nelle scienze dell’artificiale prima della nascita dell’IPP. Oltre a offrire una testimonianza significativa del cambiamento epocale derivante dall’irruzione della teoria e della tecnologia dei calcolatori nelle scienze dell’artificiale, la tesi introduce una novità metodologica di grande rilievo, assegnando a un programma per calcolatore il ruolo congiunto di teoria del sistema simulato e di sistema simulativo da far girare su una macchina appropriata per ottenere previsioni sul sistema simulato. In altri termini, con la tesi P ⊑T si fa a meno di un modello teorico del sistema simulato che sia chiaramente distinto dal sistema simulativo e si introduce una semplificazione dell’impianto metodologico delle scienze dell’artificiale e della “triangolazione” tra sistema simulato, sistema simulativo e modello teorico di entrambi. L’opzione metodologica di semplificare con i programmi-teoria la triangolazione caratteristica delle scienze dell’artificiale, ha delle conseguenze problematiche ben note che saranno richiamate nel prossimo paragrafo. Esse riguardano (a) la difficoltà di identificare le proprietà di un programma simulativo che hanno reale valenza teorica, distinguendole dai cosiddetti dettagli implementativi del medesimo programma; (b) alcune limitazioni che riguardano le previsioni sul sistema simulato che si possono ottenere dalle tracce di esecuzione del programma simulativo. Nei paragrafi successivi (3 e 4), si illustrerà come siano stati affrontati i problemi (a) e (b) in un altro settore delle scienze dell’artificiale. Il caso di studio che sarà utilizzato a questi fini è quello della cosiddetta biologia cellulare eseguibile (BCE d’ora in poi ed executable cell biology in inglese). Senza aderire alla tesi P ⊑T, nell’ambito della BCE si continua a perseguire l’idea di Newell e Simon di sviluppare i modelli teorici come procedure eseguibili, senza però identificare i modelli teorici con i programmi simulativi. Un modello teorico della BCE prende la forma di sistema a transizione di stati. Esso costituisce una specifica di sistema per i programmi simulativi senza coincidere con nessuno di essi. Inoltre, l’esplorazione esaustiva dello spazio degli stati dei modelli teorici della BCE consente, in molti casi significativi, di estendere il potere predittivo dei programmi simulativi. Nella sua veste di sistema eseguibile, un modello teorico della BCE funge da sostituto o, come diremo d’ora in poi, proxy del programma simulativo. Come tale, esso consente di analizzare in modo esaustivo i comportamenti del sistema biologico oggetto d’indagine senza fare ricorso a un programma simulativo. In definitiva, la BCE persegue anch’essa una semplificazione della triangolazione metodologica che ha caratterizzato le scienze dell’artificiale prima della nascita dell’informatica. Si tratta però di una semplificazione di segno significativamente diverso da quella che Newell e Simon hanno indicato con la tesi P ⊑T.

BCI (brain-computer interface) systems for motor control process patterns of brain activity and translate them into signals which enable one to replace, restore, or improve impaired motor capabilities. BCI operation involves sustained interactions of the central nervous system with computational and robotic systems that are themselves capable of adaptive behaviors. This fact molds distinctively BCI ethical issues. Indeed, experimental BCI therapies for motor rehabilitation target directly brain areas and raise special informed consent and medical beneficence issues in view of the fact that the functional implications of brain plasticity are not fully understood and are difficult to predict. Similarly, epistemic limitations concerning the future behaviors of adaptive BCI systems shape ethical reflection on retrospective distribution of responsibilities and liabilities for damages caused by BCI-actuated devices. Novel ethical issues arise in connection with more distant prospects for BCI enhancement of unimpaired motor capabilities. Ethical policy formation about BCI-enabled enhancements appears to be premature in view of technological lack of imminence. Nevertheless, watchful monitoring of BCI research is presently called for, in order to anticipate prospective ethical tensions between the claims of personal freedom to enhancement and the claims deriving from social justice, fairness, and mental and physical integrity considerations. On the whole, BCI systems afford unique potential solutions for protecting the autonomy, the action, and even the thinking capabilities of people affected by severe motor impairments. However, trust building between BCI researchers and various groups of stakeholders requires the development of communication strategies which enable one to appreciate the rapid advancements in BCI research without underestimating at the same time the formidable challenges one has to meet before various forms of BCI-enabled communication and motor control become more widely available.