Het raadsel van de autonomie

Presentatie over: "Het raadsel van de autonomie"— Transcript van de presentatie:

1 Het raadsel van de autonomie
auto = zelf nomos = wet Autonoom (Grieks) “Vrij en onafhankelijk levend, volgens eigen wil handelend”. De essentie van autonomie is “vrije wil”. Is de mens autonoom? De machine is een artefact, door de mens gemaakt. Is de machine niet-autonoom? Autonomie is noodzakelijk om een plan te maken, iets te beloven, van mening te veranderen, te kunnen beslissen om iets wel of niet te doen.

2 Kun je de mens als machine begrijpen? De machine als model voor de mens?
Model - vereenvoudigde schematische voorstelling - structuur behoudende afbeelding (homomorfisme) tussen origineel en beeld Het beeld geeft informatie over het origineel In de afbeelding gaat ook informatie verloren Geen iso-morfisme (=beeld volstrekt gelijk aan origineel) Voorbeelden: * de landkaart is model van het landschap * de maquette is het model van het gebouw * de pomp is het model van het hart * het zonnestelsel is het model van het atoom * is de computer het model van de mens?

3 Transcedentale analyse
De computer is niet isomorf aan de mens. Via de computer als model kan men wel veel begrijpen over de mens: homomorfisme tussen mens en computer Transcedentale analyse in de zin van Kant: voorwaarden van de mogelijkheid van intelligentie

4 Is de mens autonoom? Is de machine niet autonoom?
Er zijn redenen om aan te nemen dat de mens niet autonoom is Evolutieleer Natuurwetenschap Medische wetenschap De mens is onderhevig aan natuurwetten Er zijn redenen om aan te nemen dat een computer wel autonoom is Voorbeelden: Computergestuurde systemen: kerncentrales vliegtuigen De computer kan nieuwe vaardig- heden leren en beslissingen nemen De computer maakt plannen Filosofische issues Determinisme versus nondeterminisme Rationaliteit: beargumenteren van keuzes Causaliteit: wetten van oorzaak en gevolg

5 Wat is een computer? Computer
De wiskundige Alan Turing ontwikkelde de notie van de Turing machine. De Turing machine manipuleert symbolen op dezelfde wijze als een wiskundige van achter zijn bureau ook zou doen de wiskundige een bakje IN, die de gegevens manipuleert en vervolgens een bakje UIT IN UIT Computer de Turing machine is een abstract model van een wiskundige INPUT OUTPUT

6 Principe van een Turing machine
Over een oneindige band gaat een lees/schrijfkop die (heen en weer) over de band kan bewegen. De Turing machine heeft een vast programma dat in het geheugen is opgeslagen en de computer kan zich in een eindig aantal toestanden bevinden (states) De band heeft allemaal vakjes, met de voor de Turing machine leesbare symbolen BLANCO, EEN of NUL lees/schrijfkop voorbeeld: (b=blanco) b b enzovoorts

7 Schematische voorstelling van de Turing machine
lees/schrijfkop State Program

8 b b 1 0 1 0 0 b b b De machine bevindt zich in state q0 de lees-/
Een voorbeeld state (lees 0) (lees 1) (lees b) van een simpel DTM programma q0 q0,0,+1 q0,1,+1 q1,b,-1 staat in de matrix q1 q2,b,-1 q3,b,-1 qN,b,-1 q2 qy,b,-1 qN,b,-1 qN,b,-1 q3 qN,b,-1 qN,b,-1 qN,b,-1 De machine bevindt zich in state q0 de lees-/ schrijfkop leest 0 schrijft een nul gaat (+1) een plaats naar rechts verandert de status in q0 +1 (state q0) b b b b b q0 program De computer lees/schrijfkop gaat heen en weer, accepteert binaire strings waarvan de laatste twee cijfers uit nullen bestaan.

9 q (lees) 0 (lees) 1 (lees) b
q0 q0,0,+1 q0,1,+1 q1,b,-1 q1 q2,b,-1 q3,b,-1 qN,b,-1 q2 qy,b,-1 qN,b,-1 qN,b,-1 q3 qN,b,-1 qN,b,-1 qN,b,-1 verandert de status in..... schrijft een gaat (+1) plaats naar rechts of (-1) plaats naar links +1 b b b b Stap 1 state q0 Stap 5 state q0 q0 program q0 program Stap 2 state q0 b b Stap 6 state q0 b b verandert de status in q1 schrijf b en ga een naar links program program q0 q1 Stap 3 state q0 b b Stap 7 state q1 b b b verandert de status in q2 schrijf b en ga een naar links program program q0 q2 Stap 4 state q0 b b Stap 8 state q2 b b b b verandert de status in qYES schrijf b en ga een naar links q0 program program qy yes! Het programma begint altijd in q0 en is klaar wanneer de state qy is.

10 Recursieve functies Kronecker: Die ganzen Zahlen hat der liebe Gott gemacht, alles andere ist Menschenwerk Alles wat wiskundig geconcipieerd kan worden kan uitgedrukt worden in elementaire bewerkingen (optellen, aftrekken, vermenigvuldigen, delen) op natuurlijke getallen (recursieve functies) In 1931 introduceerde de wiskundige Kurt Gödel een algemene definitie van het begrip berekenbaarheid: De notie van recursieve functies.

11 De Algoritme Het woord Algoritme is afgeleid van de naam van de Arabische wiskundige Al Khowarazmi. Zijn wiskundige werken werden in 1126 door Adelard of Bath naar het Westen gebracht. Programma’s voor Turing machines zijn algoritmen.

12 Church These In het jaar 1936 formuleerde de grote wiskundige Alonzo Church zijn beroemde these: De klasse van algoritmisch berekenbare numerieke functies valt samen met de klasse van partieel recursieve functies. Alles wat wiskundig geconcipieerd kan worden kan op een Turing machine berekend worden. Als denken ooit wetenschappelijk begrepen kan worden dan kan het op een computer geprogrammeerd worden. De Church these is een moderne vorm van metafysica

13 Wat de Turing machine op het eerste gezicht niet kan:
Leren, Emoties hebben, Zichzelf voortplanten Plan maken Van mening veranderen, Iets beloven Iemand overtuigen

14 Kritiek van Searle Chinese Kamer
Een waarnemer buiten de kamer zou kunnen denken dat er in de kamer iemand zit die het Chinees beheerst Dat is niet het geval Kritiek van Searle Chinese Kamer Bron illustratie Scientific American Jan. 1990

15 Van Turing machine naar bewustzijn
We maken de Turing machine universeel We laten de Turing machine zichzelf voortplanten We maken de Turing machine sneller en complexer We laten de Turing machine leren We begrijpen bewustzijn als een emergent aspect van een bepaalde architectuur van het systeem

16 Machines die zichzelf voortplanten
Men kan een universele Turing machine definieren die elke andere Turing machine kan emuleren Turing machines kunnen zo gemaakt worden dat zij zichzelf nabouwen (voortplanten). In 1953 beschreef John von Neumann een zichzelf reproducerende automaat, die uit 150 duizend onderdelen bestond.

17 De Turing machine kan complexer:
In principe moet de computer wanneer hij intelligent (complexer) wordt een aparte architectuur bezitten. * meer interne states * meer programma’s * meer tapes input Menselijke input is 5 zintuigen (horen, zien, tast, smaak en geur) Program State Program State State Program State Program State Program De fundamentele rekenkracht van de machine verandert niet. Alleen de snelheid verandert. De snelheid is ongelimiteerd.

18 Het modelleren van LEREN (1).
Het ontogenetisch model evolutie van de soort De mens kan een omgeving scheppen, (de voorwaarden scheppen) waar de machines kunnen “paren”. Wanneer er genoeg voorplantingen zijn: the survival of the fittest. Genetische algoritmen werken op die manier

19 Model van ontogenetisch leren met cross-over.
Computer1 Computer2 State1 Program 1 State2 Program 2 Computer3 State3 Program1 Program2 Genetische algeritmen

20 Het modelleren van LEREN (2).
Het filogenetisch model Het aanpassen van het individu, (van één computer). De computer gaat zichzelf programmeren.

21 Model van filogenetisch leren
Een computer kan in zijn geheugen een model maken van zijn tegenstander, waardoor hij het werkelijke gedrag van die andere computer kan voorspellen. De andere computer kan dit echter ook. De eerste computer moet daarna het nagemaakte model van de tegenstander zodanig aanpassen dat ook het model, dat de tweede computer van de eerste in het geheugen heeft in het nieuwe (= reflexieve) model is verwerkt. Het Droste effect, of “eindige reflexieve systemen”. lees/schrijfkop Computer1 Computer2 vol vol Program State State vol Program Het geheugens zijn voor een gedeelte vol, de rest is leeg.

22 Computer1 Computer2 Computer1 Computer2 Computer1 Computer2 vol vol
Program State State Program De geheugens zijn voor een gedeelte vol, de rest is leeg. De computer maakt in zijn geheugen een model van het geheugen van de tegenstander, waarin ook weer het model van de eerste computer zit Computer1 Computer2 Program Program State State De computer constateren en kopieren elkaars geheugen. Computer1 Computer2 Program Program State State De computer constateren en kopieren elkaars geheugen inclusief elkaars refelctie. Enzovoorts

23 Emergente verschijnselen
Een compleet systeem kan eigenschappen hebben die niet te herleiden zijn tot delen van het systeem. Wij noemen deze eigenschappen emergent. In een baksteen kun je niet wonen, in een huis van baksteen wel Eén hersencel kan niet denken, drie miljard kunnen dat wel Een simpele Turing machine is niet autonoom, een zeer complexe wel Bewoonbaarheid, autonomie en denken zijn emergente verschijnselen veel bakstenen en een aparte architectuur?.... Wat doe je met een enkele baksteen? Wat doe je met een paar bakstenen?

24 Zelfbewustzijn is een noodzakelijke component van intelligente systemen
Stelling: Complexe agenten die kunnen interacteren met hun omgeving zullen boven een bepaald complexiteitsnivo vanzelf een vorm van zelfbewustzijn ontwikkelen

25 Formele theorie van het bewustzijn 1
Systemen die hun interactie met de omgeving willen modelleren komen in een infiniete regress terecht (Droste effect) Deze interactie kan nooit volledig beschreven worden in termen van het systeem zelf. Toch is voor de bouw van intelligente (taalverwerkende) systemen een zekere mate van reflexieve modellering tot op enige nivo’s gewenst. Deze kan ook in eindige systemen gerealiseerd worden.

26 Formele theorie van het bewustzijn 2
In eindige systemen die reflexieve modellen van de omgeving hanteren treden op natuurlijk wijze emergente verschijnselen op die wij in ons eigen bewustzijn waarnemen, te weten: - autonomie: vrije wil - holisme: het opgesloten zitten in eigen bewustzijn - reflexiviteit: ik weet dat ik weet dat …..

27 Formele aspecten van eindige reflexieve systemen
Wij illustreren een aantal aspecten van reflexieve systemen aan de hand van voorbeelden uit de schilderkunst Zodra er een afbeeldingsrelatie bestaat (bijvoorbeeld tussen werkelijkheid en schilderij) kan men reflexiviteit modelleren

28 Afbeeldingsrelatie: de schilder beeldt de werkelijkheid af

29 Zodra de schilder zichzelf meemodelleert
ontstaat er een infinite regress (Droste effect)

30 Als een schilder een andere afbeeldingsrelatie
meemodelleert divergeert de infinite regress in een oneindig aantal subregressies.

31 Opbouw van eindige reflexieve systemen
Nivo 0: simpele afbeelding Insecten

32 Opbouw van eindige reflexieve systemen
Nivo 1: Eerste reflexieve loop Elementair begrip eigen en andermans model van de werkelijkheid (Kuddedieren)

33 Opbouw van eindige reflexieve systemen
Nivo 2 Tweede reflexieve loop. Elementair begrip van het afbeeldingskarakter van eigen en andermans model van de werkelijkheid (Primaten)

34 Opbouw van eindige reflexieve systemen
Nivo 3 Derde reflexieve loop Elementair begrip van tekensystemen: taal (Mens)

35 Opbouw van eindige reflexieve systemen
Verschillende modellen van de werkelijkheid hanteren

36 Opbouw van eindige reflexieve systemen
Begrijpen dat iemand anders verschillende modellen van de werkelijkheid hanteert

37 Opbouw van eindige reflexieve systemen
Plannen maken, beloven, van mening veranderen, overtuigen

38 Opbouw van eindige reflexieve systemen
De beslissing om het model reflexief te maken wordt in het roze vakje genomen

39 Opbouw van eindige reflexieve systemen
Pas in het roze vakje kan het systeem over zichzelf redeneren, het blauwe vakje is in zekere zin onbespreekbaar/onkenbaar

40 werkelijkheid model reflectie If our brain was so simple that we
Ook een deterministische computer met een reflexieve architectuur heeft intern de illusie van autonomie. werkelijkheid model reflectie Een loop waar je “in springt” voordat een werkelijk reflexief model van de omgeving hebt. De computer kan alleen het (roze) deel, de reflectie van het model van zichzelf kénnen en ter sprake brengen en over eigen interne operaties denken. If our brain was so simple that we could understand it, than we would be so simple that we couldn’t.

41 Formele theorie van het bewustzijn
Eindige reflexieve modellen zijn een noodzakelijke voorwaarde voor het bouwen van computers die over typisch menselijke vaardigheden beschikken. We hebben in het bovenstaande al een aantal aspecten van de menselijke natuur in de computer gemodelleerd: * Leren * Zich zelf voortplanten * Beloften doen * Plannen maken * Van mening veranderen * Iemand overtuigen

42 Formele theorie van het bewustzijn
Wat hebben we niet begrepen * Emoties * Honger * Pijn * Verveling * Vermoeidheid etc.

43 Filosofische consequenties
Dit model van het bewustzijn als een lerend eindig reflexief systeem kan op verschillende wijzen filosofisch worden uitgewerkt * Ethiek: transactionele modellen * Cultuurfilosofie (geschiedenis van het bewustzijn) * Kennis theorie (zelfkennis)

44 Conclusies 1 Computer kan dienen als model voor de mens (homomorfisme)
Maar de mens is niet isomorf aan de computer Beter begrip van intelligente conputersystemen draagt bij tot een beter begrip van de mens (en vice versa) Trancedentale analyse: voorwaarden van de mogelijkheid van intelligent gedrag

45 Conclusies 2 Intelligente systemen zijn in principe complexe eindige reflexieve systemen Dit geldt zowel voor de mens als voor de computer De noties van reflexiviteit en holisme, die wij als kenmerkend ervaren voor ons bewustzijn, zijn emergente verschijnselen binnen complexe eindige reflexieve systemen en als zodanig niet kenmerkend voor de mens De illusie van autonomie is een emergent verschijnsel

46 Conclusies 3 Geschiedenis van het menselijk bewustzijn is een geschiedenis van zich steeds verder ontvouwende reflexieve nivo’s. Belangrijke cesuren in de geschiedenis van het bewustzijn in het Westerse denken: * Oud Griekse denken * Hebreeuwse denken * Renaissance * Verlichting * 19e Eeuw Bewustzijnsfilosofie * 21e Eeuw The Networked Society