Qualora i programmatori di svolgere un lavoro immorale o illegale?

La scorsa settimana, la rete ha un post scritto da un programmatore e insegnante Bill Sourorom. Si chiama "codice, che mi vergogno."

Mentre la discussione è iniziata tra i programmatori

Nel post Souror racconta la terribile storia di un giovane programmatore che ha ottenuto un posto di lavoro ed è stato dato il compito di creare un sito web per le aziende farmaceutiche. L'intero post è la pena di leggere, ma il punto è che il programmatore ha dovuto aiutare l'azienda a creare annunci sulla base di inganno, che avrebbe dovuto convincere i giovani donne che assumono un particolare farmaco.

Più tardi venne a sapere che il farmaco è stato conosciuto per le sue proprietà ad aggravare la depressione e almeno una giovane donna si suicidò per prenderlo. Ha anche imparato che sua sorella prende questo farmaco, e la sua ha avvertito delle conseguenze.

Tuttavia, anche dopo molti anni, si sente ancora in colpa a causa di questo lavoro. Scrivo questo post è stato ispirato da una conversazione Roberta Martina, dal titolo "Il futuro della programmazione." Martin è una figura popolare nel mondo dei programmatori, anche se qui è più conosciuto come "zio Bob."

Gli sviluppatori di software "uccidono la gente"

In questa intervista, Martin sostiene che gli sviluppatori di software hanno bisogno di capire cosa assumono la responsabilità, e deve essere fatto in fretta. "Decidiamo cosa significa essere un programmatore – Martin dice nel video. – La civiltà dipende da noi, ma se ne accorge fino ad ora ".

Il fatto che tutti nel mondo di oggi, quello che facciamo, compreso l'acquisto di cose, telefonate, guida di automobili, volare in aereo, non può fare a meno del software. Decine di persone sono già state uccise da un software difettoso in auto, mentre centinaia sono morti per la stessa ragione durante i viaggi aerei.

"Uccidiamo la gente, – dice Martin. – Siamo venuti in questo business non farlo. Ma la situazione sta solo peggiorando. "

nuovi problemi

Martin ha osservato che, a suo parere, ci sono segni che gli sviluppatori nei prossimi anni saranno sempre più confrontati con alcuni problemi reali. Ha citato l'esempio del direttore generale di Volkswagen in America, Michael Horn, che per primo ha accusato gli ingegneri del software nelle emissioni che sono prodotte dalla società. Durante lo scandalo, scoppiato nel corso di un'udienza del Congresso, Horn ha detto che i programmatori hanno agito da soli "per una ragione o per l'altro." Più tardi Horn si è dimesso dopo che i magistrati ci ha accusato la società nel prendere questa decisione al più alto livello e cercando di nasconderlo.

Ma Martin ha detto: "La cosa più strana era il comportamento degli sviluppatori di software che ha scritto il codice. Alcuni programmatori di scrivere codice che ha aiutato l'azienda a infrangere la legge. Pensi che potrebbero sapere su di esso? Penso che siano in grado di conoscere. "

Call to Action

Martin ha terminato il suo discorso con un invito all'azione, in cui ha avvertito che un giorno qualche sviluppatore di software che farà porterà ad una catastrofe, che uccidono decine di migliaia di persone.

Ma Souror indica che non è solo un omicidio casuale o intenzionale l'inquinamento atmosferico. Le imprese di Wall Street stanno già utilizzando il software per manipolare le quotazioni di borsa. "Non poteva succedere senza alcun programmatore che crea un falso ordini", – dice Souror.

il riconoscimento di programmatori

Sourora messaggio apparso su Hacker News e Reddit e ha causato la pubblicazione di una lunga lista di riconoscimenti dai programmatori di cose non etiche e talvolta illegali che sono stati chiamati a svolgere.

Uno ha scritto sul suo lavoro in azienda che ha firmato le persone per le loro newsletter via email, anche dopo che rinunciarvi (che può essere una violazione della legge federale). I programmatori poi scrivere script per aiutare i venditori a determinare pubblico mirato della società. Quando questo ragazzo ha dichiarato il direttore tecnico opinione su immorale tale lavoro, gli fu ordinato di scrivere una lettera di dimissioni. E ora, secondo lui, questi stessi programmatori che lavorano sulle start-up per determinare una vasta gamma di dati sulla posizione delle persone.

Un altro programmatore stato assunto da software di scrittura per la radio. Gli è stato chiesto di usare i canali riservati per i servizi di emergenza, perché sarebbe accelerare il funzionamento del dispositivo. "E 'più veloce, ma illegalmente, e per di più, è pericoloso in caso di emergenze," – ha detto. Si è rifiutato di conformarsi alla presente ordine, ma dice che c'è sempre un programmatore che è disposto a seguire gli ordini senza discutere.

Un altro programmatore mi ha detto che durante l'allenamento è stato trasferito in un codice che è stato copiato dal sito della concorrenza. L'uomo ha chiesto di creare sulla sua base una demo per gli investitori. Si rese conto che la leadership era necessario per ingannarli.

Inoltre ha pubblicato una storia su come un altro programmatore è stato chiesto di cambiare il backup di alcuni dati finanziari e lanciare la relazione annuale di nuovo ripristinando la copia di backup della versione modificata. Questo programmatore ha rifiutato il lavoro. Pochi anni dopo venne a sapere che i suoi ex clienti sono stati arrestati per evasione fiscale.

Un programmatore ha anche detto che di recente gli è stato chiesto di creare un gioco d'azzardo per i bambini con il pretesto di uno la cui direzione per la gestione. Secondo lui, non lavora più per l'azienda.

mancanza di etica

Il tema comune tra tutte queste storie è che se lo sviluppatore si rifiuta di ottemperare a tale lavoro, l'azienda sarà semplicemente trovare qualcun altro che potrebbe farlo. Forse questo è vero oggi, ma potrebbe presto cambiare.

"Abbiamo governare il mondo, – ha detto Martin. – Altre persone credono di governare il mondo. Ma in realtà essi sono scritti solo regole, e li trasmette a noi. E poi scriviamo le regole che facilitano l'uso delle macchine e fare tutto ciò che è necessario per l'umanità. "

Martin ha avvertito, se i programmatori non iniziano ad assumersi la responsabilità delle loro azioni ora, dopo accadere un evento apocalittico che potrebbe uccidere migliaia di persone, i legislatori lo farà per loro, dettando le regole di funzionamento, fino al linguaggio che saranno autorizzati ad utilizzare.

indirizzamento

La soluzione più ovvia è quella di insegnare le basi dell'etica. E sono praticamente obbligatorio per ogni studente di informatica che si è laureato da un programma di formazione di quattro anni. Bibbia questo corso dovrebbe essere un lavoro dell'autore Sarah Baas "dono del fuoco: I problemi sociali, legali ed etici per i computer."

Purtroppo, molti di sviluppatori di software di oggi sono autodidatta o imparare attraverso i cosiddetti Bootcamp di codifica.

In questo caso, la loro formazione comprende raramente qualsiasi tipo di etica insegnamento. Particolare attenzione deve essere prestata alle persone che possono rapidamente scrivere il codice per soddisfare il mercato in crescita e vorace.

Souror incoraggia tutti gli sviluppatori che utilizzano Bootcamp e centri di formazione on-line, per iniziare a parlare delle responsabilità etiche che vengono con la scrittura di codice.

controllo del funzionamento

Ma ciò che i programmatori veramente bisogno un'organizzazione che gestirà e regolare la loro professione. Altre industrie, come sappiamo, hanno avuto per lungo tempo tale controllo. Attualmente, non v'è nulla di simile per gli sviluppatori, anche se l'Association for Computing Machinery ha già iniziato a creare documenti etici per i programmatori.