Motoriek, Robotica en Neurale Netwerken prof. dr. L. Schomaker (2003) KI RuG

waarom Motoriek&Robotica&NN? Overzicht waarom Motoriek&Robotica&NN? perceptie, cognitie en motoriek motoriek bewegingssturing via neurale netwerken in de robotica ©2003 LRB Schomaker

Waarom? Computers worden steeds sneller: 2x in 18 mnd. Het menselijk brein ‘rekent’, vergelijkbaar met een centrale processor van 10-30 GHz Dus over vier jaar is de computer even intelligent als de mens? Vandaag al? Verbind 15 gewone PC’s met elkaar en we zijn klaar? ©2003 LRB Schomaker

Waarom? Computers worden steeds sneller: 2x in 18 mnd. Het menselijk brein ‘rekent’, vergelijkbaar met een centrale processor van 10-30 GHz Dus over vier jaar is de computer even intelligent als de mens? Vandaag al? Verbind 15 gewone PC’s met elkaar en we zijn klaar? ©2003 LRB Schomaker

“We weten nog te weinig over de architectuur Hoe…? “We weten nog te weinig over de architectuur van intelligente systemen” Vergeet computerschaak en kijk naar ‘embodied systems’ in een fysische omgeving. ©2003 LRB Schomaker

Traditioneel model voor (menselijke) informatieverwerking Cognitie Perceptie Motoriek

Specialisatie van wetenschapsgebieden psychonomie psychofysica patroonherkenning psychonomie bewegingswetenschappen AI, robotica Cognitie: beslissen leren taal Visuele Perceptie Voortbeweging Auditieve Perceptie Objectmanipulatie Tactiele Perceptie Spraak Geur-Perceptie Schrijven psychonomie cognitiewetenschap taalkunde kunstmatige intelligentie

Traditioneel model voor (menselijke) informatieverwerking Cognitie Perceptie Motoriek Tevredenstellend?

Traditioneel perceptie-onderzoek en computer vision

Traditioneel perceptie-onderzoek en computer vision

Waar komt de informatie vandaan? Waar gaat de informatie naartoe? Klopt dit model wel? Cognitie Perceptie Motoriek Waar komt de informatie vandaan? Waar gaat de informatie naartoe? ©2003 LRB Schomaker

Aangepast model voor informatieverwerking AGENT Cognitie Perceptie Motoriek zintuigen effectoren WERELD

Klopt dit aangepaste model wel? AGENT Cognitie Perceptie Motoriek zintuigen effectoren WERELD Stelling: Perceptie en Motoriek zijn onlosmakelijk verbonden ©2003 LRB Schomaker

Stelling: Perceptie en Motoriek zijn onlosmakelijk verbonden De sensoren hebben verandering in intensiteit nodig: (dS/dt) om te kunnen reageren ©2003 LRB Schomaker

Stelling: Perceptie en Motoriek zijn onlosmakelijk verbonden De sensoren hebben verandering in intensiteit nodig: (dS/dt) om te kunnen reageren Deze veranderingen in S worden grotendeels door motoriek bepaald! ©2003 LRB Schomaker

Stelling: Perceptie en Motoriek zijn onlosmakelijk verbonden De sensoren hebben verandering in intensiteit nodig: (dS/dt) om te kunnen reageren Deze veranderingen in S worden grotendeels door motoriek bepaald! De sensoren moeten worden gericht en geregeld: dit wordt gedaan door spieren ©2003 LRB Schomaker

Perceptie en Motoriek zijn onlosmakelijk verbonden Het zien Als de oogspieren worden ingespoten met een spierverlammend middel valt het beeld in enkele tientallen ms weg ©2003 LRB Schomaker

Perceptie en Motoriek zijn onlosmakelijk verbonden Het zien Als de oogspieren worden ingespoten met een spierverlammend middel valt het beeld in enkele tientallen ms weg ©2003 LRB Schomaker

Perceptie en Motoriek zijn onlosmakelijk verbonden Het zien Als de oogspieren worden ingespoten met een spierverlammend middel valt het beeld in enkele tientallen ms weg ©2003 LRB Schomaker

Perceptie en Motoriek zijn onlosmakelijk verbonden Het zien Als de oogspieren worden ingespoten met een spierverlammend middel valt het beeld in enkele tientallen ms weg Reeksen van oogfixaties en saccades (oogsprongen) worden verzorgd door de oogspieren. ©2003 LRB Schomaker

Perceptie en Motoriek zijn onlosmakelijk verbonden Het zien Als de oogspieren worden ingespoten met een spierverlammend middel valt het beeld in enkele tientallen ms weg Reeksen van oogfixaties en saccades (oogsprongen) worden verzorgd door de oogspieren. De indruk van het totaalbeeld wordt geconstrueerd in het brein. ©2003 LRB Schomaker

Perceptie en Motoriek zijn onlosmakelijk verbonden Het zien Als de oogspieren worden ingespoten met een spierverlammend middel valt het beeld in enkele tientallen ms weg Reeksen van oogfixaties en saccades (oogsprongen) worden verzorgd door de oogspieren. De indruk van het totaalbeeld wordt geconstrueerd in het brein. Scherpstellen (accomodatie en vergentie) worden gerealiseerd door de oogspieren ©2003 LRB Schomaker

Oogbewegingen: saccades en fixaties bij het kijken naar een gezicht Van de saccade- trajecten is slechts een deel afgebeeld. De fixaties zijn de verdichtingen Joyce (2000).

Resolutie van een biologisch oog: alleen centraal (fovea) is het beeld scherp. Perifeer is het beeld wazig maar de gevoeligheid voor beweging is daar groter. Gevolg: je mòèt wel actief rondkijken!

Perceptie en Motoriek zijn onlosmakelijk verbonden Het horen Bij het horen is dS/dt van luchtdruk ongelijk aan nul: gratis veranderingen in de tijd! Motoriek is dus niet nodig? ©2003 LRB Schomaker

Stelling: Perceptie en Motoriek zijn onlosmakelijk verbonden Het horen Bij het horen is dS/dt van luchtdruk ongelijk aan nul (gratis veranderingen in de tijd!) Motoriek is dus niet nodig? Om richting te bepalen moet je hoofd of oren richten ©2003 LRB Schomaker

Stelling: Perceptie en Motoriek zijn onlosmakelijk verbonden Het horen Bij het horen is dS/dt van luchtdrukvariaties ongelijk aan nul (gratis veranderingen in de tijd). Motoriek is dus niet nodig? Om richting te bepalen moet je hoofd of oren richten Verder wordt de gevoeligheid wordt door spiertjes bepaald, ook om het oor te beschermen (tensor stapedius) ©2003 LRB Schomaker

Stelling: Perceptie en Motoriek zijn onlosmakelijk verbonden De tast Als je de textuur van een voorwerp wil voelen moet je een tactiele ‘flow’ veroorzaken door je hand te bewegen. Bij stilstand vervaagt de tactiele indruk ©2003 LRB Schomaker

Stelling: Perceptie en Motoriek zijn onlosmakelijk verbonden De reuk werkt door een gerichte sturing van de ademhaling (intercostaalspiertjes, tussen de ribben) ©2003 LRB Schomaker

Stelling: Perceptie en Motoriek zijn onlosmakelijk verbonden De reuk werkt door een gerichte sturing van de ademhaling (intercostaalspiertjes, tussen de ribben) de neusgaten kunnen door spieren worden opengezet en bij sommige diersoorten ook worden gesloten ©2003 LRB Schomaker

Stelling: Perceptie en Motoriek zijn onlosmakelijk verbonden De reuk werkt door een gerichte sturing van de ademhaling (intercostaalspiertjes, tussen de ribben) de neusgaten kunnen door spieren worden opengezet en bij sommige diersoorten ook worden gesloten snuffelen: complexe motorische activiteit bestaande uit ego-motion en richten van de sensor ©2003 LRB Schomaker

Stelling: Perceptie en Motoriek zijn onlosmakelijk verbonden De propriocepsis Het waarnemen van je lichaamshouding gebeurt door sensoren in de spieren (spierspoeltjes) die reageren op spierlengteveranderingen ©2003 LRB Schomaker

Stelling: Perceptie en Motoriek zijn onlosmakelijk verbonden De propriocepsis Het waarnemen van je lichaamshouding gebeurt door sensoren in de spieren (spierspoeltjes) die reageren op spierlengteveranderingen De gevoeligheid van de spierspoeltjes wordt door het brein geregeld (de gamma-efferenten) gamma spierspoeltje dL/dt naar CZS alpha spiervezels (motor unit) ©2003 LRB Schomaker

Motor cortex (precentraal) en somatosensorische cortex (postcentraal)

Penfield Penfield & Rasmussen (1950). Twee plakjes brein. Rechts=Voor (pre-centraal): spieraansturing Links=Achter (post-centraal): waarneming van de de (toe)stand van de ledematen.

Stelling: Perceptie en Motoriek zijn onlosmakelijk verbonden Het evenwichtsorgaan semi-circulaire kanalen otholithische sensor …werken voor en door de motoriek ©2003 LRB Schomaker

Aangepast model voor informatieverwerking AGENT Cognitie Perceptie Motoriek zintuigen effectoren WERELD

Ontwikkelingen in AI en robotica Cognitie zintuigen effectoren Bewegen om waar te nemen Waarnemen om te bewegen ©2003 LRB Schomaker

Foto’s van Robot Hond, AI-lab Zurich Motoriek zorgt ook voor problemen: bewegend beeld bij lopen vergt “gaze stabilisation”: met oogbewegingen ervoor zorgen dat het beeld niet al te veel schudt gedurende lopen.

Ontwikkelingen in AI en robotica Cognitie zintuigen effectoren Bewegen om waar te nemen Waarnemen om te bewegen + afregeling van sensoren door motorische mechanismen ©2003 LRB Schomaker

Een architectuur voor cognitie aandacht&coordinatie reflexen zintuigen effectoren ©2003 LRB Schomaker

Een architectuur voor cognitie neocortex hypothalamus, basale ganglia, cerebellum aandacht coordinatie reflexen ruggemerg zintuigen effectoren ©2003 LRB Schomaker

Tussentijdse conclusie Perceptie en motoriek zijn sterk onderling afhankelijk Wat is het voordeel van deze architectuur? ©2003 LRB Schomaker

Ontwikkelingen in AI en robotica “embodied intelligence”: intelligentie is niet te begrijpen zonder inachtname van  lichaam & omgeving  closed-loop system ©2003 LRB Schomaker

Voordelen van een closed-loop system Closed-loop + non-lineariteit  zelforganisatie Neurale adaptiviteit is de truc! ©2003 LRB Schomaker

Voordelen van een closed-loop system Closed-loop + non-lineariteit  zelforganisatie Neurale adaptiviteit is de truc! Voorbeeld: het leren van motorische controle ©2003 LRB Schomaker

Inverse Kinematica Gegeven een kinematische keten (gewrichten en ledemaatsegmenten), en een gewenste doelpositie in de taakruimte, wat is de vector van gewrichtshoeken als functie van de tijd? ©2003 LRB Schomaker

Inverse Kinematica: hoe moeilijk is het? Doel (x,y,z) Opdracht: bedien de schuifregelaars en zorg dat de grijper vloeiend naar het doel beweegt ©2003 LRB Schomaker

Gegeven doel (x,y,z), gevraagd: vector φ Inverse Kinematica φ3 φ4 Doel (x,y,z) φ5 φ2 φ6 φ1 φ7 Gegeven doel (x,y,z), gevraagd: vector φ met gewrichtshoeken? ©2003 LRB Schomaker

Is dit mathematisch op te lossen? Inverse Kinematica… Van laag-dimensionaal (3 df) naar hoog-dimensionaal (7 degrees of freedom) Is dit mathematisch op te lossen? Nee: het is een “ill-posed problem” of slecht gesteld probleem. Definitie: een probleem waarvoor 1) géén of 2) meerdere oplossingen mogelijk zijn ©2003 LRB Schomaker

Inverse Kinematica, vervolg Er zijn meestal zeer veel oplossingen (gewrichtshoeken als functie van de tijd) voor een traject van een eindeffector van positie A naar B in de Cartesiaanse taakruimte Sommige configuraties hebben geen oplossing (singulariteit) ©2003 LRB Schomaker

2-d, twee segmenten ©2003 LRB Schomaker

Twee oplossingen voor deze arm! 2-d, twee segmenten Twee oplossingen voor deze arm! ©2003 LRB Schomaker

Gegeven massa m, inertie g, gevraagd: vector θ met draaimomenten? Inverse Kinetica (Inverse Dynamica): niet alleen een traject, maar ook krachten! θ3 θ4 Doel (m,g) θ5 θ2 θ6 θ1 θ7 Gegeven massa m, inertie g, gevraagd: vector θ met draaimomenten? ©2003 LRB Schomaker

Het probleem is dus onoplosbaar? Nee: wij bewegen nogal veel, bijvoorbeeld Oplossingen: inperkingen (constraints) maken berekening mogelijk De inperkingen kunnen structureel zijn (aantal vrijheidsgraden) of contextueel (taak- en systeemparameters) ©2003 LRB Schomaker

Constraints: natuurlijke bewegers Hoe komen de natuurlijke motorieksystemen aan de juiste parameterinstelling???? …terwijl het systeem ook nog eens aan allerlei veranderingen onderhevig is zoals Groei Veroudering (krachtsverlies) ???? Antwoord: neurale plasticiteit! ©2003 LRB Schomaker

Neurale plasticiteit Een analytische, beknopt wiskundige oplossing voor bewegingsturing van complexe effectorsystemen is beperkt toepasbaar in de echte wereld Het biologische bewegingsapparaat gebruikt “motor babbling” Dwz: willekeurig genereren van veel gewrichtshoek-combinaties en perceptueel vaststellen waar de eindeffector (hand) zich bevindt ©2003 LRB Schomaker

Motor babbling

Neurale plasticiteit: motor babbling Leren is een ‘error feedback’ proces Veel ‘trial & error’ De natuur geeft het foutsignaal vanzelf ©2003 LRB Schomaker

Neurale plasticiteit: motor babbling Voorbeelden: willekeurig trappelende baby in de buik leert eigen spiersysteem kennen door propriocepsis na de geboorte: willekeurige armbewegingen brengen de eigen hand binnen het visuele veld het pasgeboren veulen leert snel te staan op basis van signalen uit het evenwichtsorgaan ©2003 LRB Schomaker

Neurale plasticiteit: motor babbling In de jaren tachtig kwamen adaptieve technieken tot ontwikkeling: ‘neurale’ netwerkmodellen Hiermee werd het voor het eerst mogelijk om complexe robotsystemen ‘zichzelf te leren kennen’ ©2003 LRB Schomaker

Een neuron in een Neuraal Netwerkmodel Gewogen inputs Output Sigmoide overdrachtsfunctie ©2003 LRB Schomaker

Een neuron in een Neuraal Netwerkmodel Gewogen inputs: ai = Σ wij xj Output yi Uniti xj ai wij Sigmoide overdrachtsfunctie 1 / ( 1 + e-a) ©2003 LRB Schomaker

Leren in een neuraal net Een leeralgoritme (bv. Error Backpropagation) zorgt voor het vinden van de gewichten Wij op basis van de fout tussen doel en gerealiseerde output Output Target Input yi ti xj Wij ε = yi - ti Error ΔWij ©2003 LRB Schomaker

Cijferherkenning Gebruiker geeft voorbeelden van cijfers De cijfers worden aan het netwerk gepresenteerd Het netwerk berekent per cel de gewogen som van de inputs, en geeft output (sigmoide) Het verschil tussen gerealiseerde output van een cel in de laatste laag en de gewenste target (nl de Error) kan worden gebruikt om alle Wij aan te passen ©2003 LRB Schomaker

Een 3-laags perceptron voor cijferherkenning

©2003 LRB Schomaker

Een succesvol voorbeeld van NN NAVLAB: een autonoom navigerende bestelbus, Carnegie Mellon, 1989. Uitgerust met een Sun werkstation en een draadloze verbinding met mainframe computer om, op basis van traditionele technieken uit AI en computer vision, zelfstandig rond te rijden ©2003 LRB Schomaker

Touretzky & Pomerleau: dat moet eenvoudiger Gebruik de capaciteit om te leren in een eenvoudig neuraal netwerkmodel Menselijke chauffeur rijdt over de campus, neuraal netwerk kijkt ‘over de schouder’ naar: Input: 1) camerabeeld, 2) radarbeeld, Output: 3) de stand van het stuur als doel ©2003 LRB Schomaker

De ALVINN netwerkarchitectuur (Touretzky & Pomerleau, 1989)

Hidden units als zelflerende ‘feature detectors’ De waarden van de gewichten tussen inputbeeld en een hidden unit kunnen worden afgebeeld als grijstinten. Deze Hidden Unit let op “niet rechtdoorrijden”

Armbeweging is een zeer complex probleem Meer problemen…. Voortbeweging op basis van navigatie is perceptueel lastig maar motorisch eenvoudig (links, rechts, langzaam, snel) Armbeweging is een zeer complex probleem Kun je hier ook neurale netwerken gebruiken? ©2003 LRB Schomaker

‘Motor babbling’ als basis voor het aanleren van inverse kinematica voor een 2D arm. Willekeurig gegenereerde gewrichthoeken leiden tot gerealiseerde handposities in het werkveld. Zo kan een NN de inverse leren: van vereiste handpositie naar gewrichtshoeken.

Schouderhoek over het werkveld ©2003 LRB Schomaker

Ellebooghoek over het werkveld ©2003 LRB Schomaker

Steeds meer ingredienten voor cognitieve robotica! Samenvatting We hebben een architectuur (model) dat uitgaat van een nauwsluitende koppeling tussen perceptie en motoriek We hebben middelen om het leren (adapteren) te kunnen uitvoeren met machines Steeds meer ingredienten voor cognitieve robotica! ©2003 LRB Schomaker

Pionierswerk in de 50-er jaren: Grey Walter: simpele middelen, Oud robot-onderzoek Koppeling tussen sensor (lichtcel) en stuuras, en niet-lineaire regeling (radiobuis) leidden tot natuurlijke gedragingen: nadering en afstoting Pionierswerk in de 50-er jaren: Grey Walter: simpele middelen, complex effect. ©2003 LRB Schomaker

BabyBot: G. Sandini, LIRA Genua. Nieuw robot onderzoek ogen oren arm hand continu leren BabyBot: G. Sandini, LIRA Genua. ©2003 LRB Schomaker

Nieuw onderzoek op basis van deze visie 1. Continu lerende systemen, in plaats van een robotontwerp voor een specifieke oplossing 2. Lezende robots: niet met een ‘scan’ van een totaalbeeld, en dan alles doorrekenen, maar ‘oogsprongen’ met de camera(‘s), om de essentiele informatie op te sporen 3. Navigatie in robocup: leer het veld kennen door rondrijden, botsen en kijken ©2003 LRB Schomaker

Conclusies Perceptie en motoriek kunnen niet los van elkaar onderzocht en begrepen worden De bewegingsproblemen uit de robotica worden in de natuur opgelost met ‘motor babbling’ en neurale adaptatie/plasticiteit Uitgaande van deze visie op perceptie, cognitie en motoriek worden verschillende nieuwe onderzoeken gestart bij KI/RuG: lezende robots en robotvoetbal. ©2003 LRB Schomaker