Robbert Jan Beun Informatiekunde Universiteit Utrecht

Presentatie over: "Robbert Jan Beun Informatiekunde Universiteit Utrecht"— Transcript van de presentatie:

1 Robbert Jan Beun Informatiekunde Universiteit Utrecht
Scareware Spam Ethiek en ICT Virus Trackingcookies Shredder Worm Rootkit Botnet Trojan horse Cyberporn Spyware Opt-Out Hackerwatch Ethisch hacker digitale recherche security manager Robbert Jan Beun Informatiekunde Universiteit Utrecht Pedofielennetwerk Cyberterror Firewall

2 Ethiek in de informatiemaatschappij Ethische theorieën
Wat is ethiek? Ethiek in onze samenleving/ons leven. Ethiek in de informatiemaatschappij Ethische theorieën

3 Wat is ethiek?

4 Journals Slideshare Ethics and Information Technology
The ETHICOMP Journal Jrn. of Inf., Comm. and Ethics in Society Int. Rev. of Inf. Ethics Int. Jrn. of Internet Ethics Int. Jrn. of Techn. and Human Interaction Jrn. of Hum. Mediated Communication Slideshare

5 Een greep uit de boeken op dit gebied.

6 Stel het is verboden reclamemateriaal in colleges te verstoppen.
Stel ik heb de intentie een vriendje te steunen. Stel jullie worden allemaal gelukkig van nieuwe sportschoenen.

7 Ik word gevraagd een programmaatje te schrijven die iedere in Nederland of in de wereld onderschept en dat levert me een cent per op. Ik moet die dan doorgeven aan de staat der Nederlanden (of Korea/Iran?).

8 Ethiek zit diepgeworteld in ons leven

9 Hallo!

10 Het cijfer 10

11 We houden er allemaal andere normen en waarden op na

12 We houden er allemaal andere normen en waarden op na en toch ook weer niet

13 Ethiek in wetenschap

14 Ethiek in wetenschap Nauwkeurigheid van resultaten.
Het interpreteren van data. Het kopiëren van andermans werk. Het veranderen van data. Het zelf verzinnen van data. …

15 Ethiek in wetenschap Mag ik iemand uitlachen voor een experiment?
Mag ik iemand pijn doen voor een experiment? Mag ik veiligheidsrisico’s nemen? Mag ik …

16 Wat is ethiek?

17 Ethiek is de studie van morele principes

18 Moraal Geheel van normen en waarden in een samenleving of maatschappij

19 Moraal Zedelijke waardering van specifiek menselijk handelen (hele Dikke van Dale) Niveaus: individueel, groep, organisatie, maatschappij

20 Soort uitspraken: Je mag x Je moet x X is belangrijk X is goed
X is slecht

21 De tien geboden Ik ben de Heer, de enige God
Misbruik niet de naam van de Heer Heilig de dag des Heren Eert uw vader moeder Gij zult niet doden Gij zult niet echtbreken Gij zult niet stelen Leg geen valse getuigenis tegen je naasten (en 10) Begeer nooit iemands goed (huis, vrouw, knecht, …)

22 Moraal in de taal Piet pakt de fiets Piet steelt de fiets
liegen, bedriegen, vermoorden, beledigen, roddelen, terrorist, …

23 Ethiek en waarheid In de ethiek draait het dus niet om ‘waarheid’ …
… maar om ‘goedheid’. Dat is een andere dimensie.

24 Ethiek is de rationele analyse van het gedrag dat kan leiden tot voordeel of schade aan mensen

25 Welke rol speelt rationaliteit?
Wat is een morele uitspraak? Wat is de oorsprong van onze moraal? Welke verschillende moraalstelsels bestaan er? Wat is goed? Wat is kwaad? Wat is vrijwillig? Wat is schuld? Wat is straf?

26 Moraal en voeding Wat mogen we wel/niet eten?
Hoe moeten we het eten klaarmaken? Hoe gaan we met dieren om? Hoe gaan we met de aarde om? Hoe verdelen we het voedsel?

27 Moraal, informatie en communicatie
Gij zult: geen onware informatie verspreiden alleen betrouwbare informatie verspreiden geen informatie stelen geen vertrouwelijke informatie doorgeven geen mening opdringen niet spieken niet beledigen niet roddelen een vraag beantwoorden een belofte nakomen …

28 Onze moraal verandert

29 Moraal is dynamisch Globalisering (religie, cultuur, economie)
Belangrijke gebeurtenissen Digitale tijdperk Concurrentie Overnames, fusies, schaling, … Stakeholders ‘The urgent organisation’ (24/7) Diversiteit Dus ook verschuiving van waarden en normen.

30 Loyaliteit

31 Vooruitgang

32 Achteruitgang

33 Keuzestress

34

35

36 Natuurlijke grenzen vervagen

37 We maken allemaal deel uit van dit krachtenspel en moeten ons bewust zijn van onze keuzes

38 Ethiek in de informatie- maatschappij
ICT zorgt voor nieuwe (morele) vraagstukken waarvoor geen pasklare antwoorden bestaan. Ethiek in de informatie- maatschappij

39 De invloed van ICT op ons leven
Werkeloosheid Criminaliteit Onveiligheid Verlies van privacy waardigheid reputatie autonomie Fouten Intellectueel eigendom Vrijheid van meningsuiting Geweld …

40 Vragen Wat is het belang van ethiek bij het ontwerpen van ICT?
Welke ICT-ontwikkelingen vind je ethisch onaanvaardbaar? In hoeverre heeft internet het denken over ethiek veranderd? Wat vind je van het inbouwen van rfid-chips? Mogen software ontwikkelaars zonder toestemming software updaten? Wat zijn de gevaren van online of virtuele therapieën?

41 Een greep Gebruik van facebookgegevens voor reclamedoeleinden
Postcodes van pedofielen op internet Publiceren van de foto’s van de dief van je mobiele telefoon op internet Een greep

42 UU gaat na welke websites studenten op Universiteitspc’s bekijken
ICT-Speelgoed ‘My secret Pal’ om geheimen bij kinderen te ontfutselen Het inbouwen van persuasieve technieken in virtuele therapieën …

43 “Stroomrekeningen IT-industrie en internet rijzen de pan uit”
Spits: Bedrijven besteden vaak al meer geld aan energie dan aan personeel Uitstoot CO2 al bijna net zo groot als die van de wereldwijde luchtvaart Hoeveelheid elektriciteit benodigd voor een individuele zoekopdracht is genoeg om een spaarlamp een uur te laten branden. Wat vind je van deze ontwikkeling?

44 Geweld in Games

45 Verslaving

46 ‘How to commit suicide’
Handleidingen ‘How to commit suicide’ ‘How to make a bomb’ ‘How to make a virus’ ‘Thinspiration’

47 Echoscopie Verlengstuk van onze waarneming
Belangrijke ethische vraagstukken Abortus? wel/niet?

48 Maar het gaat straks nog veel verder

49 RFID chips 22 november 2005, Computable:
VS keuren implantatie rfid-chips in patiënten goed Producent schenkt scanners aan ziekenhuizen 31 augustus 2007, Los Angeles Times: Mag een werkgever zijn werknemers verplichten? Nee zegt de Amerikaanse senaat. Citywatcher.com doet dat voor medewerkers van secure data center. Wat vind jij van het gebruik van RFID-chips bij mensen?

50 e-Coaching effectiviteit en betrouwbaarheid kwaliteitsnormen
aansprakelijkheid en verantwoordelijkheid gelijke toegang kwantificering lichaam privacy autonomie vs. beïnvloeding (Rathenau Instituut)

51 Cyborgs

52 1st int. Conference on Human-Robot Personal Relationships
June 12-13, 2008 Maastricht University

53 Proefschrift David Levy:
‘Intieme relaties met artificiële partners’ Als robots meer menselijk worden, zullen meer mensen op robots verliefd worden of een intieme relatie opbouwen

54 Voorbeelden iCat Paro Aibo Yorisoi Kokoro Hiroshi Ishiguro

55

56 Kunnen we een relatie aangaan met robots?
Mogen we met robots trouwen? Hebben robots wettelijke rechten? Hoe moeten we robots behandelen? Mogen we robots pijn doen? Mogen we robots verkrachten? Mogen we robots martelen? Wie is verantwoordelijk voor de handelingen van robots? Dienen robots als voorbeeld voor de manier waarop we mensen behandelen? Wat is hierbij de rol van bewustzijn?

57 Robots, ethiek en oorlog
In welke situaties zijn autonome robots acceptabel? Zouden robots een bevel mogen weigeren van mensen? Wie is er verantwoordelijk voor dodelijke ongelukken? Robots, ethiek en oorlog

58 Asimovs moraal Een robot mag een mens geen letsel toebrengen of door niet te handelen toestaan dat een mens letsel oploopt. Een robot moet de bevelen uitvoeren die hem door mensen gegeven worden, behalve als die opdrachten in strijd zijn met de Eerste Wet. Een robot moet zijn eigen bestaan beschermen, voor zover die bescherming niet in strijd is met de Eerste of Tweede Wet.

59 Ethische theorieën

60 Subjectief relativisme
Iedereen beslist voor zichzelf wat goed of fout is Er bestaat geen universele moraal Voordelen? Nadelen?

61 Subjectief relativisme
Voor we komen toch nooit uit het abortusdebat Tegen iedereen kan doen wat hij wil Hitler vs. Theresa, maakt niet uit

62 Cultureel relativisme
Verschillende morele opvattingen tussen culturen Wederom geen universele moraal Voordelen? Nadelen?

63 Cultureel relativisme
Voor verschillende omstandigheden tolerant tegenover ander culturen wel afrekening Tegen er zijn toch kernwaarden wat zijn de regels? er kan nooit iets veranderen cultuurconflicten? traditie, niet redeneren

64 Cultuur en normen (Geert Hofstede)
Waardendimensies: (on)gelijkheid collectief vs. individu man/vrouw verhouding onzekerheid korte/lange termijn gerichtheid

65 (On)gelijkheid Machtsafstandindex: Maleisië: 104 (1/2)
Slowakije: 104 (1/2) Nederland: 38 (61) Zweden: 31 (67) Hoog: Aziatische landen, Oost-Europa, Zuid-Amerika Laag: Nederland, Noord-Europa, Noord-Amerika

66 Machtsafstand en de organisatie

67 Kleine machtsafstand Grote machtsafstand
Hiërarchie om praktische redenen ingesteld Relatief kleine verschillen in inkomen Ideale chef is bekwame democraat Privileges en statussymbolen ongewenst … Hiërarchie weerspiegelt existentiële ongelijkheid Meer toezichthoudend personeel Ondergeschikten verwachten dat hun wordt verteld wat te doen Kantoorwerk hogere status …

68 Machtsafstand en de maatschappij

69 Kleine machtsafstand Grote machtsafstand
Gebruik van macht legitiem en onderworpen aan normen van goed en kwaad Politiek systeem wordt veranderd door regels te veranderen Pluralistisch samengestelde regering op basis van verkiezingen Kleine inkomensverschillen Minder corruptie … Wie macht heeft, heeft gelijk Vooral armere landen met kleine middenklasse Macht gebaseerd op familie, vrienden, charisma of gebruik van geweld Minder discussie, meer geweld in binnenlandse politiek

70 Geïnteresseerd? Lees: Of ga naar: Geert en Gert Jan Hofstede
‘Allemaal andersdenkenden’ (uitgeverij Contact) Of ga naar:

71 Terug naar de Ethische Theorieën

72 Het goddelijke commando
God als schepper van de wereld en de moraal Goed is volgens de wil van God, slecht juist niet Voordelen? Nadelen?

73 Het goddelijke commando
Voor God weet het het beste God als ultieme autoriteit Tegen bestaat God wel? hoe kennen we Gods wil? is God wel zo goed? verschillende opvattingen? goed omdat God het wil of God gebiedt wat goed is Er is dus nog iets buiten God dat goed is

74 Immanuel Kant (1724-1804) Morele wetten zijn universeel en rationeel
Mens bezit vrije wil Essentieel is de achterliggende intentie Cultiveren van onze goede wil ‘Dutifulness’ (plicht) Acties ‘gronden’ in goede morele regel Categorisch imperatief noodzakelijkheid, los van het doel

75 Immanuel Kant Categorisch imperatief:
‘Handel alleen volgens een regel waarvan u tegelijkertijd kunt verlangen dat ze tot algemene wet wordt verheven.’ Ook: ‘de mens is niet het middel, maar het doel’ ‘de mens is de maat’ usability, transparantie

76 Immanuel Kant Mag ik een belofte maken met de intentie die later te breken? Mag ik liegen?

77 Immanuel Kant Voor rationeel universeel iedereen gelijk Tegen
immorele regels toch toelaatbaar conflicten bij regels waarom aan deze wet gehoorzamen?

78 Actie/regel-utilisme
Jeremy Bentham Actie/regel-utilisme John Stuart Mill Een actie/regel is goed voor zover hij het totale geluk verhoogt (en andersom) Voordelen? Nadelen?

79 Hoeveel mensen zijn de maat?
Stel 1 mens wordt gelukkig tegenover 10 mensen ongelukkig Stel 10 mensen tegenover 10 mensen Stel we moeten een nieuw systeem inbouwen, maar dat is veel werk voor bepaalde groep, maar een andere groep profiteert hiervan wat is de speelruimte? wat zijn de wettelijke kaders? wat zijn de kaders van het bedrijf? wat zijn de kaders van de afdeling? moet/mag ik ongehoorzaam zijn? (pocket veto) het geweten

80 Het sociale contract 1. Vaststellen van morele regels 2. Een overheid die deze regels handhaaft Acceptatie op basis van collectiviteit (niet imperatief) Thomas Hobbs Jean-Jacques Rousseau

81 Tit-for-tat

82 De Moraal is Prefrontaal (neuro-ethiek)
Erst kommt das Fressen dann kommt die Moral Hersenbeschadigingen Lobotomie Dierengedrag Liefde voor de eigen soort Spiegelneuronen Empathie Aangeboren moraal

83 Conclusies ICT kan doordringen in alle facetten van ons dagelijks leven ICT is niet intrinsiek ‘goed’ of ‘slecht’ ICT kan daarom sturend werken op onze handelingen, intenties en onze moraal ICT kan zelf een moraal ‘bezitten’ (robots/agents) Ontwerpers dienen zich bewust te zijn van de ethische gevolgen van hun ontwerp