Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Inleiding Adaptieve Systemen Genetische Algoritmen.

Slides:



Advertisements
Verwante presentaties
KWALITEITSZORG november 2012
Advertisements

Sudoku puzzels: hoe los je ze op en hoe maak je ze?
Een getal met een komma noemen we een decimaalgetal.
‘SMS’ Studeren met Succes deel 1
Gelijkmatige toename en afname
H 22: Kosten van een duurzaam produktiemiddel (dpm)
Differentie vergelijkingen differentie vergelijkingen
Aflezen van analoge en digitale meetinstrumenten
Serieel naar parallel omzetting
NEDERLANDS WOORD BEELD IN & IN Klik met de muis
Beter afspelen.
H1 Basis Rekenvaardigheden
November 2013 Opinieonderzoek Vlaanderen – oktober 2013 Opiniepeiling Vlaanderen uitgevoerd op het iVOXpanel.
Uitgaven aan zorg per financieringsbron / /Hoofdstuk 2 Zorg in perspectief /pagina 1.
dia's bij lessenserie Pythagoras ± v Chr.
 Deel 1: Introductie / presentatie  DVD  Presentatie enquête  Ervaringen gemeente  Pauze  Deel 2 Discussie in kleinere groepen  Discussies in lokalen.
Ronde (Sport & Spel) Quiz Night !
Voorbereiding Clubbridge
Chromosomen en waarom je op je ouders lijkt.
Leiden University. The university to discover. ICLON, Interfacultair Centrum voor Lerarenopleiding, Onderwijsontwikkeling en Nascholing Denkgereedschap.
9 januari 2013 Bodegraven 1. 1Korinthe 11 1 Wordt mijn navolgers, gelijk ook ik Christus navolg. 2.
2 3 Natuurkunde ≥ 6 Wiskunde ≥
BZ voor de Klas 3 juni 2010.
Als de som en het verschil gegeven zijn.
FOD VOLKSGEZONDHEID, VEILIGHEID VAN DE VOEDSELKETEN EN LEEFMILIEU 1 Kwaliteit en Patiëntveiligheid in de Belgische ziekenhuizen anno 2008 Rapportage over.
Elke 7 seconden een nieuw getal
1 Datastructuren Sorteren: alleen of niet alleen vergelijkingen College 5.
1 Datastructuren Sorteren: alleen of niet alleen vergelijkingen (II) College 6.
Inleiding Adaptieve Systemen
Visibility-based Probabilistic Roadmaps for Motion Planning Tim Schlechter 13 februari 2003.
vwo B Samenvatting Hoofdstuk 1
Extra vragen voor Havo 3 WB
Regels voor het vermenigvuldigen
Rekenregels van machten
Lineaire functies Lineaire functie
Regelmaat in getallen … … …
De grafiek van een lineair verband is ALTIJD een rechte lijn.
Regelmaat in getallen (1).
1 het type x² = getal 2 ontbinden in factoren 3 de abc-formule
Parallelle Algoritmen String matching. 1 Beter algoritme patroonanalyse Bottleneck in eenvoudig algoritme: WITNESS(j) (j = kandidaat in eerste i-blok)
Oefeningen F-toetsen ANOVA.
Neurale Netwerken Kunstmatige Intelligentie Rijksuniversiteit Groningen April 2005.
Bewegen Hoofdstuk 3 Beweging Ing. J. van de Worp.
Bewegen Hoofdstuk 3 Beweging Ing. J. van de Worp.
In dit vakje zie je hoeveel je moet betalen. Uit de volgende drie vakjes kan je dan kiezen. Er is er telkens maar eentje juist. Ken je het juiste antwoord,
13 maart 2014 Bodegraven 1. 1Korinthe Want gelijk het lichaam één is en vele leden heeft, en al de leden van het lichaam, hoe vele ook, een lichaam.
Aristid Lindenmayer Hongaar, werkte in Utrecht studie naar de groei van algen en andere levende wezens: L-systemen kan ook mooie regelmatige.
Talstelsels, rekenen en rekenschakelingen
Ben Bruidegom 1 Sequentiële schakelingen Toestand uitgang bepaald door:  ingangen;  vorige toestand uitgang.
ribwis1 Toegepaste wiskunde – Differentieren Lesweek 7
havo A Samenvatting Hoofdstuk 3
Tweedegraadsfuncties
Standaard-bewerkingen
Statistiekbegrippen en hoe je ze berekent!!
1 Datastructuren Een informele inleiding tot Skiplists Onderwerp 13.
Lineaire formules Voorbeelden “non”-voorbeelden.
Enquête.
Hoofdstuk 7 de Multi (sterke variant, verdediging ertegen)
Informatica: Binair rekenen.
Hoofdstuk 9 havo KWADRATEN EN LETTERS
Fractale en Wavelet Beeldcompressie
STIMULANS KWALITEITSZORG juni 2014.
Hoeveelheidsaanpassing II
Samen-bouwen … over paneelbouw en de rest!
Vergelijkingen oplossen
13 november 2014 Bodegraven 1. 2 de vorige keer: 1Kor.15:29-34 indien er geen doden opgewekt worden...  vs 29: waarom dopen?  vs.30-32: waarom doodsgevaren.
Neurale Netwerken Genetische Algorithmen
Bits & bytes.
3 vmbo-KGT Samenvatting Hoofdstuk 10
Transcript van de presentatie:

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Inleiding Adaptieve Systemen Genetische Algoritmen

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Evolutie

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Evolutie (pun)

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Genetische Algoritmen

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Figuur uit: Evolutionaire algoritmen Genetische algoritmen Genetisch program- meren Grammatische evolutie Vandaag

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Genetische Algoritmen: motivatie Wat evolutie kan, dat kan ik ook met mijn PC, alleen dan 1 E 09 keer sneller. Even voor god spelen.

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Definitie (voor wat het waard is) Een Genetisch Algoritme is een probabilistisch zoekalgoritme … … dat door middel van iteratie een verzameling genotypen (bv. bitstrings), elk met een fitness- waarde, omzet in een nieuwe verzameling genotypen, … … gebruikmakend van het Darwinistische principe van natuurlijke selectie … … en gebruikmakend van operaties die zijn geïnspireerd op natuurlijk voorkomende genetische operaties, zoals kruising en mutatie.

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Mitose en meiose Mitose (kopieerdeling) is chromosoom-splitsing bij normale celdeling. (Duur: uur.) Meiose (reductiedeling) is chromosoom-splitsing bij geslachtelijke celdeling. Produceert zaad- of eicellen. Kruising vindt plaats in ouder. Zie filmpje meiose. filmpje meiose

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Chromosomen van de mens

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk

Evolutieproces Er is een populatie van organismen. Organismen zijn verschillend (genotype), en presteren ook verschillend (fenotype). Een organisme kan zichzelf (geslachtelijk dan wel ongeslachtelijk) voortplanten. Het vermogen zich voort te planten hangt samen met het succes, of prestatievermogen (fitness), van een organisme.

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Zelfreproductie in CS Cellulaire Automaat: Langton’s Loop Langton’s Loop is een zelf- reproducerende automaat. Overeenkomst met celdeling en mitose: zelf- reproductie. –Blauw (1) en rood (2) vormen een kanaal. –Signalen 3 t/m 7 doen allen iets anders als ze de pijp uitkomen. Zie Hiroki Sayama's applet, of GollyHiroki Sayama's appletGolly

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk

Voorbeeld Het vinden van een goede restaurant-formule

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Burger Restaurant Probleem Prijs / kwaliteit verhouding –0 = Hoge prijs / kwaliteit –1 = Lage prijs / kwaliteit Drank –0 = Wijn –1 = Cola Service –0 = Snel maar onpersoonlijk –1 = Met aandacht, maar niet al te snel

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Genetisch Algoritme Generatie 0Generatie 1 GenotypeFitnessGenotype 011$ $ $ $2010

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Zoekruimte Omvang van het alfabet: K = 2 Chromosoom-lengte: L = 3 Omvang van de zoekruimte: K L = 2 L = 2 3 = 8 restaurant-formules

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk De startgeneratie #Generatie 0Opbrengst 1011 € 3,= 1001 € 1,= 1110 € 6,= 1010 € 2,= Totaal € 12,= Slechtst € 1,= Gemiddeld € 3,= Best € 6,= Multi- pliciteit

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Fitness-proportionele selectie Probabilistisch roulettewiel: De kans dat een chromosoom gekozen wordt “om iets mee te doen” voor de volgende generatie ~ relatieve fitness

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Mating pool #Generatie 0Mating pool 1011€ € € € € € € € 2 Totaal€ 12€ 17 Slechtst€ 1€ 2 Gemiddeld€ 3€ 4.5 Best€ 6

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Principe van Evolutionaire Algoritmen Succesvolle individuen hebben een grotere kans om te paren met soortgenoten. Maar: “een grotere kans” is nog geen garantie. Slecht presterende individuen krijgen ook een kans om te paren―maar wel een kleinere kans. Niets is gegarandeerd. (“Stochastisch proces”) Selectie is een mix van exploitatie en exploratie. Probabilistische selectie gebaseerd op fitness

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Genereer initiële populatie P ter grootte N Bereken van elke chromosoom uit P de fitness Bepaal de meest fitte chromo- soom, W, uit P Tevreden? Creëer lege populatie Q en plaats W daar in Selecteer genetische operator Kies twee ouders uit P Kies één ouder uit P Plaats kopie in Q Plaats mutant in Q Plaats kinderen in Q |Q| = |P| ? P wordt Q Stop ja nee Flow (Koza, 1992) ja nee recombinatie reproductie mu- tatie Specifiek voor Koza

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Reproductie (met kans p r ) #Generatie 0Mating poolGeneratie € € € € 61110€ € 2.17 Totaal€ 12€ 17 Slechts€ 1€ 2 Gemiddeld€ 3€ 4.5 Best€ 6

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Mutatie (met kans p m ) Ouder wordt probabilistisch gekozen op basis van fitness. Punt van mutatie wordt willekeurig gekozen Eén kind. De kans op mutatie is in de natuur erg klein. Analoog wordt de kans op mutatie gezet op een klein getalletje ε > 0. Mutatie zorgt voor diversiteit. Ouder 010 Kind 011

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Na mutatie #Generatie 0Mating poolGeneratie € € € € € € € € 21011€ 3 Totaal€ 12€ 17 Slechtst€ 1€ 2 Gemiddeld€ 3€ 4.5 Best€ 6

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Crossover (met kans p c ) Twee ouders worden willekeurig gekozen, op basis van fitness. (Het is niet nodig om eerst de mating pool expliciet aan te leggen.) Ouder 1Ouder

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Kruising Kies een willekeurig snijpunt. Voor de andere ouder is het snijpunt daarmee ook vastgelegd. Dat levert: Twee prefixen: Prefix 1 en Prefix 2 Twee suffixen. Kruising Kind 1 = Prefix 1 + Suffix 2 Kind 2 = Prefix 2 + Suffix 1 Suffix 1Suffix Kind 1Kind Prefix 1Prefix Hoeveel mogelijke snijpunten zijn er in een chromosoom ter lengte 10? 10  1 = 9 reële (inwendige) snijpunten, + 2 oneigenlijke (uitwendige) snijpunten Hoeveel mogelijk verschillende kinderen (offsprings)? Voor Kind 1: 9 Voor Kind 2: 9 = samen 18 (Geen 2 x 9 x 9 = 162!)

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Na crossover (kruising) #Generatie 0Mating poolGeneratie € € 31111€ € € 61010€ € € € € 2 Totaal€ 12€ 17 Slechtst€ 1€ 2 Gemiddeld€ 3€ 4.5 Best€ 6

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Probabilistische elementen De nul-generatie wordt random opgezet. Probabilistische selectie voor paring gebaseerd op fitness. –“Winnaars” wordt niet noodzakelijk geselecteerd. –“Verliezers” worden niet noodzakelijk uitgesloten. Willekeurige snijpunten in kruising. Spaarzame momenten van mutatie. In dat geval willekeurige mutatiepunten. Invloed van exogeniteit: vaak hangt de prestatie (fitness) ook nog af van toevallige omstandigheden in de omgeving. Bijvoorbeeld, in Week 43 zal service-formule 110 waarschijnlijk niet hetzelfde opleveren als in Week 52.

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Generatie 1 Generatie 0Mating poolGeneratie € € 31111€ € € 61010€ € € 61110€ € € 21011€ 3 Totaal€ 12€ 17€ 18 Slechtst€ 1€ 2 Gemiddeld€ 3€ 4.3€ 4.5 Best€ 6 € 7

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Toepassing 1: antenne ontwerp Antenne is voor grond ↔ satelliet commu- nicatie in auto's en handsets

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Antenne ontwerp: het probleem Edward Altshuler en Derek Linden –1998. A Process for the Design of Antennas Using Genetic Algorithms. U.S. patent 5,719,794. Uitgegeven op 17 Feb –2001. Innovative antenna design using genetic algorithms. Creative evolutionary systems, pp Bepaal de X,Y,Z-coordinaten van zes kogelscharnieren (X 1, Y 1, Z 1 ), (X 2, Y 2, Z 2 ),..., (X 6, Y 6, Z 6 ) en een eindpunt (X 7, Y 7, Z 7 ) van een 7-delige antenne. Randvoorwaarden: 1.De antenne start in de oorsprong (0, 0, 0). 2.De antenne moet passen in de (0.5λ) 3 kubus.

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Antenne genoom Elk 3D-punt wordt gerepresenteerd door 5 bits. –Vier bits voor het getal zelf (dus coördinaat klimt op in 2 4 = 16 stukjes). –Eén bit voor het teken. Dimensie:3[ (X, Y, Z) ] Aantal punten:7[ scharnierpunt 1, scharnierpunt 2, etc. ] Aantal bits per punt:5[ vier voor getal, één voor + of – ] De totale chromosoom-lengte is dus 3 x 7 x 5 = 105 bits. X1X1 Y1Y1 Z1Z1 X2X2 Y2Y2 Z2Z2 … …

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Resultaten

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Toepassing 2: giek van hijskraan 100 KG

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Giek van een hijskraan Goldberg, D.E., Samtani, M.P. (1986), “Engineering optimization via genetic algorithm”, Proc. 9th Conf. on Electronic Computation, ASCE, pp Probleem: minimaliseer het gewicht van de stangen- constructie. De giek heeft tien stangen: zes van 30cm en vier van  2 x 30 = 41cm. Variabel: de diameter van elke stang: ( A 1,..., A 10 ) Voorgedefinieerd en niet variabel: de rest (= o.a. de constructie, het materiaal en de belasting).

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Genoom van een constructie We discretiseren de zoekruimte: –Continue waarden: alles van 2mm t/m 17mm –Discrete waarden: { 2mm, 3mm, 4mm, …, 16mm, 17mm } Diameters worden gerepresenteerd als bitstrings. –0000 = kleinste diameter –1111 = grootste diameter Lengte van het totale chromosoom is 10 x 4 = 40 bits A1A1 A2A2 A3A3 A4A4 A5A5 A6A6 A7A7 A8A8 A9A9 A

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Fitness van een constructie De fitness van een constructie wordt bepaald door som van twee onderdelen: 1.Het totale gewicht van de constructie (excl. belasting). 2.Een extra penalty (10% van het gewicht) voor als de constructie breekt. Hoe lager de fitness, hoe beter, in dit geval. Of een constructie breekt, wordt bepaald door proberen (kostbaar) of aan de hand van standaard werktuigbouwkundige berekeningen. Vraag: hadden we de constructie dan niet meteen kunnen doorrekenen? Antwoord: breekpunt wel, maar niet de verdeling van de diameters over de staven.

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Toepassing 3: de fouragerende mier Rooster van 32 x 32, als torus. Zwart is voedsel, grijs is pad (gelijk aan wit). Als voedsel uit een vakje opgegeten is, verwijnt het. De getallen geven bijzondere of interessante punten weer. Een mier wordt verwijderd in de volgende gevallen: –Voedsel op. –Doet er te lang over.

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk De mier! Vier atomaire acties Doe niets (de nul-actie). Draai 90 0 naar links. Draai 90 0 naar rechts. Doe een stap naar voren. Elke actie ~ bitstring ter lengte 2 Toestanden De mier kan zich in een aantal niet noodzakelijk betekenisvolle toestanden bevinden. Perceptie De mier ziet altijd en alleen het vakje vóór zich. Resultaat: VOER of GEEN-VOER. Hier staat hij op Dit ziet hij

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Voorbeeld van een geprogrammeerde mier met 4 toestanden 1.Kijk of er eten op de tegel voor je ligt, zo nee draai naar rechts 2.Kijk of er eten op de tegel voor je ligt, zo nee draai naar links 3.Kijk of er eten op de tegel voor je ligt, zo nee draai naar links 4.Kijk of er eten op de tegel voor je ligt, zo nee draai naar rechts In alle andere gevallen: loop naar het eten, eet het op, en ga terug naar Toestand 1 vier toestanden

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Een geprogrammeerde mier 00.Als VOER dan MOVE, eet en goto 00 Anders TURN-RIGHT en goto Als VOER dan MOVE, eet en goto 00 Anders TURN-LEFT en goto Als VOER dan MOVE, eet en goto 00 Anders TURN-LEFT en goto Als VOER dan MOVE, eet en goto 00 Anders TURN-RIGHT en goto 00

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk De mier als eindige automaat ? Move 0? Rechts 0? Links 0? Rechts 1? Move 0? Links 1? Move

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Transitietabel voor de EA ToestandInputNieuwe Toestand Actie = Rechts = Move = Links = Move = Links = Move = Rechts = Move

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Genoom Mier Toestand Input Actie en nieuwe toestand RechtsMoveLinksMoveLinksMoveRechtsMove Voor elke toestand vier bits: 2 voor de actie, en 2 voor de nieuwe toestand. Een chromosoom bestaat uit 8 x 4 = 32 bits + 2 bits als prefix om initiële toestand aan te geven. In totaal 34 bits. Enkelvoudige kruising op alle 31 snijpunten

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Eigenlijke experimenten Van een eindige automaat met vier toestanden mag je niet verwachten dat deze het probleem gaat oplossen. Jefferson, Collins en Cooper gebruikten chromosoom- representaties van eindige automaten tot aan 32 toestanden. 32 = 2 5. Dus bitstrings ter lengte 5 volstaan om 32 toestanden te representeren. Voor elke toestand heb je twee mogelijke inputs, dus je tabel wordt 64 rijen hoog. Voor elke rij moet je een actie (2 bits) en een nieuwe toestand (5 bits) geven 7 bits. Lengte chromosoom = 64 rijen x 7 bits + 5 bits als prefix voor de initiële toestand = 453 bits.

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Hercules: de winnaar van Generatie 0 Score: 58 pellets Er heeft geen evolutie plaats- gevonden: Hercules is gewoon de beste van 65,536 willekeurig in elkaar gezette machines

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Joyner: de winnaar van Generatie 200 Score: 89 pellets (perfect score) Groepjes van states hebben samen een functionaliteit die te duiden is als bijvoorbeeld: –follow straight trail (0 en 9) –exploratie bij een onderbreking –stepping stone van 78 t/m 89 food pallets

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Originele artikel Originele artikel: Jefferson, D., Collins, R., Cooper, C., Dyer, M., Flowers, M., Korf, R., Taylor, C., and Wang, A. (1992). Evolution as a theme in artificial life: The Genesys/Tracker system. In Langton, C. G., Taylor, C., Farmer, J. D., and Rasmussen, S., editors, Artificial Life II: Proceedings of the Workshop on Artificial Life, pp Addison-WesleyEvolution as a theme in artificial life: The Genesys/Tracker system

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Inleiding Adaptieve Systemen Schema’s

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Grootte van de zoekruimte Bekijk een probleem P (in planning, optimalisatie of combinatoriek) waar kandidaat-oplossingen bitstrings zijn met lengte 81. (bv. handelsreiziger-probleem) P is niet te hanteren met conventionele zoekalgoritmen: voor L = 81 is de zoekruimte 2 81 ~ individuen groot. Dat is (zegt men) het aantal nanoseconden sinds de oerknal 15 miljard jaar geleden. P is goed te hanteren door Genetische Algoritmen: bitstrings spelen de rol van chromosomen in een door ons te begrenzen populatie met grootte |P|.

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Terug naar de hamburgers Prijs / kwaliteit verhouding –0 = Hoge prijs / kwaliteit –1 = Lage prijs / kwaliteit Drank –0 = Wijn –1 = Cola Service –0 = Snel maar onpersoonlijk –1 = Met aandacht, maar niet al te snel

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Waarom is 010 goed? Ik heb geen flauw idee*** Het is de hoge kwaliteit0** Het is de cola*1* Het is de uitgebreide (maar trage) service**0 Het is de hoge kwaliteit in combinatie met de cola 01* Het is de hoge kwaliteit in combinatie met de uitgebreide service 0*0 Het is de cola in combinatie met de uitgebreide service *10 Het is de uitgekiende combinatie van service, kwaliteit en cola 010

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Schema = hypothese Een schema is een hypothese, i.e., een mogelijke verklaring. Sommige schema’s zijn specifiek ( bv. 10 * 10 ). Sommige schema’s zijn algemeen ( bv. * 0 * * * ). Bij een alfabet van K letters en chromosomen van lengte L zijn er (K+1) L schema’s. Elk chromosoom is lid van 2 L schema’s. (Immers voor elk bit in het chromosoom kunnen we dat bit, of een sterretje kiezen.)

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Schema’s waartoe 110 behoort Schema nummerSchema Gemiddelde opbrengst 1110€ 6€ 6 211*€ 6€ 6 31*0€ 6€ 6 41**€ 6€ 6 5*10€ 4€ 4 6*1*€ **0€ 4€ 4 8***€ 3€ 3

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Aantal voorkomens van Schema’s Generatie 0 Schemanr.Hm(H,0)f(H,0) * * *012 80*122 90** * *16 161* * **16 19* * *0*11 22* * *1* **024 26**122 27***43 Totaal3296 Gemiddeld3.00 Reëel voor- komend 20 Tabel verkorten …

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Aantal voorkomens van schema’s Generatie 0 Schemanr.Hm(H,0)f(H,0) *11 ………… 25**024 26**122 27***43 Totaal3296 Gemiddeld3.00 Reëel voor- komend 20

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Gemiddelde fitness van schema’s in Generatie 1 Generatie 0 Mating pool na reproductie Generatie 1 na crossover Hm(H,0)f(H,0)m(H,MP)f(H,MP)m(H,1)f(H,1) * * * * ** * * * * ** * * *0* * * *1* ** ** *** Totaal Gemiddeld Reël voor- komend 20 16

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Gemiddelde fitness van schema’s in Generatie 1 Generatie 0 Mating pool na reproductie Generatie 1 na crossover Hm(H,0)f(H,0)m(H,MP)f(H,MP)m(H,1)f(H,1) * …………………… 25** ** *** Totaal Gemiddeld Reël voor- komend 20 16

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Het “geheim” achter het succes van Genetische Algoritmen John Holland (1975): GA = competitie tussen exponentieel veel hypothesen (schema’s) in een populatie waarvan de grootte N door ons zelf wordt bepaald, maar zeker niet exponentieel in K (aantal genomen) is. Er zijn (K+1) L (in ons geval 3 3 = 27) schema’s, vertegenwoordigd door N representanten. Het getal N hebben we zelf in de hand, en kunnen we lineair laten variëren (niet midden in één experiment natuurlijk).

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Proportionele fitness van een schema Fitness proportional selectie voor individu: Er volgt: fitness proportional selectie voor schema: Gemiddelde fitness voor elementen in de verzameling X Gemiddelde fitness voor elementen in de verzameling H

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk John Holland’s Schema Stelling Kans op voorko- men van Schema H in de volgende generatie Relatieve frequen- tie van H in de huidige generatie Relatieve fitness van Schema H Kans op verlies van H als gevolg cross- over Kans op verlies van H als gevolg van mutati e

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Kanttekeningen bij schemastelling Fitness functie is niet uniek en beïnvloedt daarom bovenstaande ongelijkheid (Grefenstette en Baker, 1989) Populatie is geen representatieve sample van schema (Mühlenbein, 1991) Vgl. populatie 100. Misschien wordt schema ****1****** (met 1024 leden) daar slechts door, zeg, 45 exemplaren vertegenwoordigd. Formule ook al waar zonder mutatie en crossover! Ondergrens is weinig informatief (Vose, 1993). Twee onzuivere dobbelstenen: P( som even ) ≥ 0.47 P( som odd ) ≥ 0.42 Terwijl in werkelijkheid bijvoorbeeld: P( som even ) = 0.48 P( som odd ) = 0.52

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Kanttekeningen bij GA Nut van schemastelling is controversieel –M.D. Vose (1993). A critical examination of the schema theorem, Technical Report CS , University of Tennessee. –Gary J. Koehler (1997). “New directions in genetic algorithm theory” in Annals of Operations Research, Vol. 75, pp No free lunch –D.H. Wolpert and W.G. Macready (1995). “No Free Lunch theorems for optimization” in: IEEE Transactions on Evolutionary Computation, Vol. 1(1), pp Nut van crossover is controversieel –K. Chellapilla (1998). “Evolving Computer Programs without Subtree Crossover” in: IEEE Transactions on Evolutionary Computation, Vol. 1(3), pp

Inleiding Adaptieve Systemen, Opleiding CKI, Utrecht. Auteur: Gerard Vreeswijk Samenvatting Een Genetisch Algoritme is een probabilistisch zoekalgoritme … … dat door middel van iteratie een verzameling genotypen (bv. bitstrings), elk met een fitness-waarde, omzet in een nieuwe verzameling genotypen, … … gebruikmakend van het Darwinistische principe van natuurlijke selectie … … en gebruikmakend van operaties die zijn geïnspireerd op natuurlijk voorkomende genetische operaties, zoals kruising en mutatie.