Io sono notoriamente un “positivista”, un amante del progresso e della tecnologia e ho una fede incrollabile nella scienza.
Vi sono situazioni, però, nelle quali esprimo delle riserve.
Certamente il software guida un aereo meglio di un uomo: lo vediamo negli aerei militari che, ipercritici, senza l’ausilio dei computer di bordo, forse non si sarebbe neppure in grado di farli alzare in volo. Il software guida l’aereo meglio dell’uomo 999.998,65 su 1.000.000 ma in quell’ 1,35 volte in cui lo fa peggio l’aereo cade e uccide qualche centinaio di persone. Addirittura, con un atto di presunzione senza parti, impedisce al pilota di prendere il controllo e si ostina a voler uccidere passeggeri ed equipaggio.
E questo è male.
La mia preoccupazione, a questo punto, si estende alla spinta che viene data alla guida autonoma delle autovetture e, se vogliamo, all’internet delle cose.
Posso pensare che sia mio diritto impedire al mio frigorifero di cuocere le cose che vi sono all’interno perché pensa che vi sia troppo freddo e continui ad aumentare la temperatura, magari impedendomi anche di staccare la spina?
Posso pensare che la mia vettura possa decidere di uccidermi perché pensa che sia meglio uccidere me invece che un gregge di pecore scambiato per una scolaresca, supponendo che neppure io, guidando personalmente l’auto in emergenza, potrei evitarla? E’ giusto che l’auto mi impedisca addirittura di intervenire?
No, penso di no.
Gli ausili al volo, gli ausili alla guida: sì; la sostituzione della discrezionalità dell’uomo: no.
1 Commento. Nuovo commento
La discrezionalità dell’umano è fondamentale. Con gli umani si può ragionare, con le macchine no. Ci sono molte cose che le macchine sanno fare meglio degli umani, ma queste capacità vanno sfruttate, non subite.