Robbert Jan Beun Informatiekunde Universiteit Utrecht Scareware Spam Ethiek en ICT Virus Trackingcookies Shredder Worm Rootkit Botnet Trojan horse Cyberporn Spyware Opt-Out Hackerwatch Ethisch hacker digitale recherche security manager Robbert Jan Beun Informatiekunde Universiteit Utrecht Pedofielennetwerk Cyberterror Firewall

Ethiek in de informatiemaatschappij Ethische theorieën Wat is ethiek? Ethiek in onze samenleving/ons leven. Ethiek in de informatiemaatschappij Ethische theorieën

Wat is ethiek?

Journals Slideshare Ethics and Information Technology The ETHICOMP Journal Jrn. of Inf., Comm. and Ethics in Society Int. Rev. of Inf. Ethics Int. Jrn. of Internet Ethics Int. Jrn. of Techn. and Human Interaction Jrn. of Hum. Mediated Communication Slideshare

Een greep uit de boeken op dit gebied.

Stel het is verboden reclamemateriaal in colleges te verstoppen. Stel ik heb de intentie een vriendje te steunen. Stel jullie worden allemaal gelukkig van nieuwe sportschoenen.

Ik word gevraagd een programmaatje te schrijven die iedere email in Nederland of in de wereld onderschept en dat levert me een cent per email op. Ik moet die email dan doorgeven aan de staat der Nederlanden (of Korea/Iran?).

Ethiek zit diepgeworteld in ons leven

Hallo!

Het cijfer 10

We houden er allemaal andere normen en waarden op na

We houden er allemaal andere normen en waarden op na en toch ook weer niet

Ethiek in wetenschap

Ethiek in wetenschap Nauwkeurigheid van resultaten. Het interpreteren van data. Het kopiëren van andermans werk. Het veranderen van data. Het zelf verzinnen van data. …

Ethiek in wetenschap Mag ik iemand uitlachen voor een experiment? Mag ik iemand pijn doen voor een experiment? Mag ik veiligheidsrisico’s nemen? Mag ik …

Wat is ethiek?

Ethiek is de studie van morele principes

Moraal Geheel van normen en waarden in een samenleving of maatschappij

Moraal Zedelijke waardering van specifiek menselijk handelen (hele Dikke van Dale) Niveaus: individueel, groep, organisatie, maatschappij

Soort uitspraken: Je mag x Je moet x X is belangrijk X is goed X is slecht

De tien geboden Ik ben de Heer, de enige God Misbruik niet de naam van de Heer Heilig de dag des Heren Eert uw vader moeder Gij zult niet doden Gij zult niet echtbreken Gij zult niet stelen Leg geen valse getuigenis tegen je naasten (en 10) Begeer nooit iemands goed (huis, vrouw, knecht, …)

Moraal in de taal Piet pakt de fiets Piet steelt de fiets liegen, bedriegen, vermoorden, beledigen, roddelen, terrorist, …

Ethiek en waarheid In de ethiek draait het dus niet om ‘waarheid’ … … maar om ‘goedheid’. Dat is een andere dimensie.

Ethiek is de rationele analyse van het gedrag dat kan leiden tot voordeel of schade aan mensen

Welke rol speelt rationaliteit? Wat is een morele uitspraak? Wat is de oorsprong van onze moraal? Welke verschillende moraalstelsels bestaan er? Wat is goed? Wat is kwaad? Wat is vrijwillig? Wat is schuld? Wat is straf?

Moraal en voeding Wat mogen we wel/niet eten? Hoe moeten we het eten klaarmaken? Hoe gaan we met dieren om? Hoe gaan we met de aarde om? Hoe verdelen we het voedsel?

Moraal, informatie en communicatie Gij zult: geen onware informatie verspreiden alleen betrouwbare informatie verspreiden geen informatie stelen geen vertrouwelijke informatie doorgeven geen mening opdringen niet spieken niet beledigen niet roddelen een vraag beantwoorden een belofte nakomen …

Onze moraal verandert

Moraal is dynamisch Globalisering (religie, cultuur, economie) Belangrijke gebeurtenissen Digitale tijdperk Concurrentie Overnames, fusies, schaling, … Stakeholders ‘The urgent organisation’ (24/7) Diversiteit Dus ook verschuiving van waarden en normen.

Loyaliteit

Vooruitgang

Achteruitgang

Keuzestress

Natuurlijke grenzen vervagen

We maken allemaal deel uit van dit krachtenspel en moeten ons bewust zijn van onze keuzes

Ethiek in de informatie- maatschappij ICT zorgt voor nieuwe (morele) vraagstukken waarvoor geen pasklare antwoorden bestaan. Ethiek in de informatie- maatschappij

De invloed van ICT op ons leven Werkeloosheid Criminaliteit Onveiligheid Verlies van privacy waardigheid reputatie autonomie Fouten Intellectueel eigendom Vrijheid van meningsuiting Geweld …

Vragen Wat is het belang van ethiek bij het ontwerpen van ICT? Welke ICT-ontwikkelingen vind je ethisch onaanvaardbaar? In hoeverre heeft internet het denken over ethiek veranderd? Wat vind je van het inbouwen van rfid-chips? Mogen software ontwikkelaars zonder toestemming software updaten? Wat zijn de gevaren van online of virtuele therapieën?

Een greep Gebruik van facebookgegevens voor reclamedoeleinden Postcodes van pedofielen op internet Publiceren van de foto’s van de dief van je mobiele telefoon op internet Een greep

UU gaat na welke websites studenten op Universiteitspc’s bekijken ICT-Speelgoed ‘My secret Pal’ om geheimen bij kinderen te ontfutselen Het inbouwen van persuasieve technieken in virtuele therapieën …

“Stroomrekeningen IT-industrie en internet rijzen de pan uit” Spits: Bedrijven besteden vaak al meer geld aan energie dan aan personeel Uitstoot CO2 al bijna net zo groot als die van de wereldwijde luchtvaart Hoeveelheid elektriciteit benodigd voor een individuele zoekopdracht is genoeg om een spaarlamp een uur te laten branden. Wat vind je van deze ontwikkeling?

Geweld in Games

Verslaving

‘How to commit suicide’ Handleidingen ‘How to commit suicide’ ‘How to make a bomb’ ‘How to make a virus’ ‘Thinspiration’

Echoscopie Verlengstuk van onze waarneming Belangrijke ethische vraagstukken Abortus? wel/niet?

Maar het gaat straks nog veel verder

RFID chips 22 november 2005, Computable: VS keuren implantatie rfid-chips in patiënten goed Producent schenkt scanners aan ziekenhuizen 31 augustus 2007, Los Angeles Times: Mag een werkgever zijn werknemers verplichten? Nee zegt de Amerikaanse senaat. Citywatcher.com doet dat voor medewerkers van secure data center. Wat vind jij van het gebruik van RFID-chips bij mensen?

e-Coaching effectiviteit en betrouwbaarheid kwaliteitsnormen aansprakelijkheid en verantwoordelijkheid gelijke toegang kwantificering lichaam privacy autonomie vs. beïnvloeding (Rathenau Instituut)

Cyborgs

1st int. Conference on Human-Robot Personal Relationships June 12-13, 2008 Maastricht University

Proefschrift David Levy: ‘Intieme relaties met artificiële partners’ Als robots meer menselijk worden, zullen meer mensen op robots verliefd worden of een intieme relatie opbouwen

Voorbeelden iCat Paro Aibo Yorisoi Kokoro Hiroshi Ishiguro

Kunnen we een relatie aangaan met robots? Mogen we met robots trouwen? Hebben robots wettelijke rechten? Hoe moeten we robots behandelen? Mogen we robots pijn doen? Mogen we robots verkrachten? Mogen we robots martelen? Wie is verantwoordelijk voor de handelingen van robots? Dienen robots als voorbeeld voor de manier waarop we mensen behandelen? Wat is hierbij de rol van bewustzijn?

Robots, ethiek en oorlog In welke situaties zijn autonome robots acceptabel? Zouden robots een bevel mogen weigeren van mensen? Wie is er verantwoordelijk voor dodelijke ongelukken? Robots, ethiek en oorlog

Asimovs moraal Een robot mag een mens geen letsel toebrengen of door niet te handelen toestaan dat een mens letsel oploopt. Een robot moet de bevelen uitvoeren die hem door mensen gegeven worden, behalve als die opdrachten in strijd zijn met de Eerste Wet. Een robot moet zijn eigen bestaan beschermen, voor zover die bescherming niet in strijd is met de Eerste of Tweede Wet.

Ethische theorieën

Subjectief relativisme Iedereen beslist voor zichzelf wat goed of fout is Er bestaat geen universele moraal Voordelen? Nadelen?

Subjectief relativisme Voor we komen toch nooit uit het abortusdebat Tegen iedereen kan doen wat hij wil Hitler vs. Theresa, maakt niet uit

Cultureel relativisme Verschillende morele opvattingen tussen culturen Wederom geen universele moraal Voordelen? Nadelen?

Cultureel relativisme Voor verschillende omstandigheden tolerant tegenover ander culturen wel afrekening Tegen er zijn toch kernwaarden wat zijn de regels? er kan nooit iets veranderen cultuurconflicten? traditie, niet redeneren

Cultuur en normen (Geert Hofstede) Waardendimensies: (on)gelijkheid collectief vs. individu man/vrouw verhouding onzekerheid korte/lange termijn gerichtheid

(On)gelijkheid Machtsafstandindex: Maleisië: 104 (1/2) Slowakije: 104 (1/2) Nederland: 38 (61) Zweden: 31 (67) Hoog: Aziatische landen, Oost-Europa, Zuid-Amerika Laag: Nederland, Noord-Europa, Noord-Amerika

Machtsafstand en de organisatie

Kleine machtsafstand Grote machtsafstand Hiërarchie om praktische redenen ingesteld Relatief kleine verschillen in inkomen Ideale chef is bekwame democraat Privileges en statussymbolen ongewenst … Hiërarchie weerspiegelt existentiële ongelijkheid Meer toezichthoudend personeel Ondergeschikten verwachten dat hun wordt verteld wat te doen Kantoorwerk hogere status …

Machtsafstand en de maatschappij

Kleine machtsafstand Grote machtsafstand Gebruik van macht legitiem en onderworpen aan normen van goed en kwaad Politiek systeem wordt veranderd door regels te veranderen Pluralistisch samengestelde regering op basis van verkiezingen Kleine inkomensverschillen Minder corruptie … Wie macht heeft, heeft gelijk Vooral armere landen met kleine middenklasse Macht gebaseerd op familie, vrienden, charisma of gebruik van geweld Minder discussie, meer geweld in binnenlandse politiek

Geïnteresseerd? Lees: Of ga naar: Geert en Gert Jan Hofstede ‘Allemaal andersdenkenden’ (uitgeverij Contact) Of ga naar: www.geert-hofstede.com/

Terug naar de Ethische Theorieën

Het goddelijke commando God als schepper van de wereld en de moraal Goed is volgens de wil van God, slecht juist niet Voordelen? Nadelen?

Het goddelijke commando Voor God weet het het beste God als ultieme autoriteit Tegen bestaat God wel? hoe kennen we Gods wil? is God wel zo goed? verschillende opvattingen? goed omdat God het wil of God gebiedt wat goed is Er is dus nog iets buiten God dat goed is

Immanuel Kant (1724-1804) Morele wetten zijn universeel en rationeel Mens bezit vrije wil Essentieel is de achterliggende intentie Cultiveren van onze goede wil ‘Dutifulness’ (plicht) Acties ‘gronden’ in goede morele regel Categorisch imperatief noodzakelijkheid, los van het doel

Immanuel Kant Categorisch imperatief: ‘Handel alleen volgens een regel waarvan u tegelijkertijd kunt verlangen dat ze tot algemene wet wordt verheven.’ Ook: ‘de mens is niet het middel, maar het doel’ ‘de mens is de maat’ usability, transparantie

Immanuel Kant Mag ik een belofte maken met de intentie die later te breken? Mag ik liegen?

Immanuel Kant Voor rationeel universeel iedereen gelijk Tegen immorele regels toch toelaatbaar conflicten bij regels waarom aan deze wet gehoorzamen?

Actie/regel-utilisme Jeremy Bentham Actie/regel-utilisme John Stuart Mill Een actie/regel is goed voor zover hij het totale geluk verhoogt (en andersom) Voordelen? Nadelen?

Hoeveel mensen zijn de maat? Stel 1 mens wordt gelukkig tegenover 10 mensen ongelukkig Stel 10 mensen tegenover 10 mensen Stel we moeten een nieuw systeem inbouwen, maar dat is veel werk voor bepaalde groep, maar een andere groep profiteert hiervan wat is de speelruimte? wat zijn de wettelijke kaders? wat zijn de kaders van het bedrijf? wat zijn de kaders van de afdeling? moet/mag ik ongehoorzaam zijn? (pocket veto) het geweten

Het sociale contract 1. Vaststellen van morele regels 2. Een overheid die deze regels handhaaft Acceptatie op basis van collectiviteit (niet imperatief) Thomas Hobbs Jean-Jacques Rousseau

Tit-for-tat

De Moraal is Prefrontaal (neuro-ethiek) Erst kommt das Fressen dann kommt die Moral Hersenbeschadigingen Lobotomie Dierengedrag Liefde voor de eigen soort Spiegelneuronen Empathie Aangeboren moraal

Conclusies ICT kan doordringen in alle facetten van ons dagelijks leven ICT is niet intrinsiek ‘goed’ of ‘slecht’ ICT kan daarom sturend werken op onze handelingen, intenties en onze moraal ICT kan zelf een moraal ‘bezitten’ (robots/agents) Ontwerpers dienen zich bewust te zijn van de ethische gevolgen van hun ontwerp