Motoriek & Robotica prof. dr. L. Schomaker (2004) KI RuG

waarom Motoriek&Robotica? I. Overzicht waarom Motoriek&Robotica? perceptie, cognitie en motoriek motoriek bewegingssturing via neurale netwerken in de robotica ( II. Neurale Netwerken) ©2003 LRB Schomaker

Waarom? Computers worden steeds sneller: 2x in 18 mnd. Het menselijk brein ‘rekent’, vergelijkbaar met een centrale processor van 10-30 GHz Dus over vier jaar is de computer even intelligent als de mens? Vandaag al? Verbind 15 gewone PC’s met elkaar en we zijn klaar? ©2003 LRB Schomaker

Waarom? Computers worden steeds sneller: 2x in 18 mnd. Het menselijk brein ‘rekent’, vergelijkbaar met een centrale processor van 10-30 GHz Dus over vier jaar is de computer even intelligent als de mens? Vandaag al? Verbind 15 gewone PC’s met elkaar en we zijn klaar? ©2003 LRB Schomaker

“We weten nog te weinig over de architectuur Hoe…? “We weten nog te weinig over de architectuur van intelligente systemen” Vergeet computerschaak en kijk naar ‘embodied systems’ in een fysische omgeving. ©2003 LRB Schomaker

Voorbeeld: kijk naar biologie, de springspin Hoe…? “We weten nog te weinig over de architectuur van intelligente systemen” Vergeet computerschaak en kijk naar ‘embodied systems’ in een fysische omgeving. Voorbeeld: kijk naar biologie, de springspin ©2003 LRB Schomaker

Springspin: een “embodied system” Active vision Optic flow Predictive planning Timed jump ©2003 LRB Schomaker

phidipus princeps v(t) (Hill, 2001)

(Forster & Forster, 1999)

Kenmerken van de sprong van een springspin Bepaling van prooisnelheid op basis van optic flow en een volgende oogbeweging (tracking) Preparatie van de amplitude, richting en timing van de spiercontractie (van tevoren!) Sprong… Vlucht… (nauwelijks trajectaanpassing mogelijk) Vangen of missen van de prooi ©2003 LRB Schomaker

flight t1 t2 Spider jump

is in staat tot een aantal complexe gedragingen De springspin … is in staat tot een aantal complexe gedragingen die waarneming en bewegingscontrole vergen traditionele symbolische AI levert hier weinig begrip: andere concepten zijn nodig  cybernetica (bijv. “terugkoppeling”, “Kalman filtering”)  leren en adaptatie (neurale netwerken) ©2003 LRB Schomaker

Embodied & Situated Cognition Intelligentie kan alleen begrepen worden als functie van een belichaamd organisme dat zich moet handhaven in een fysische context … een functie die het organisme in staat stelt het gedrag aan te passen aan een grote verscheidenheid van variabele (beperkt voorspelbare) omstandigheden ©2003 LRB Schomaker

Embodied & Situated Cognition Intelligentie kan alleen begrepen worden als functie van een belichaamd organisme dat zich moet handhaven in een fysische context … een functie die het organisme in staat stelt het gedrag aan te passen aan een grote verscheidenheid van variabele (beperkt voorspelbare) omstandigheden  Dit vergt nieuwe theorievorming !!! ©2003 LRB Schomaker

Traditioneel model voor (menselijke) informatieverwerking Cognitie Perceptie Motoriek

Specialisatie van wetenschapsgebieden psychonomie psychofysica patroonherkenning psychonomie bewegingswetenschappen AI, robotica Cognitie: beslissen leren taal Visuele Perceptie Voortbeweging Auditieve Perceptie Objectmanipulatie Tactiele Perceptie Spraak Geur-Perceptie Schrijven psychonomie cognitiewetenschap taalkunde kunstmatige intelligentie

Traditioneel model voor (menselijke) informatieverwerking Cognitie Perceptie Motoriek Tevredenstellend?

Traditioneel perceptie-onderzoek en computer vision

Traditioneel perceptie-onderzoek en computer vision

Waar komt de informatie vandaan? Waar gaat de informatie naartoe? Klopt dit model wel? Cognitie Perceptie Motoriek Waar komt de informatie vandaan? Waar gaat de informatie naartoe? ©2003 LRB Schomaker

Aangepast model voor informatieverwerking AGENT Cognitie Perceptie Motoriek zintuigen effectoren WERELD

Klopt dit aangepaste model wel? AGENT Cognitie Perceptie Motoriek zintuigen effectoren WERELD Stelling: Perceptie en Motoriek zijn onlosmakelijk verbonden ©2003 LRB Schomaker

Stelling: Perceptie en Motoriek zijn onlosmakelijk verbonden De sensoren hebben verandering in intensiteit nodig: (dS/dt) om te kunnen reageren ©2003 LRB Schomaker

Stelling: Perceptie en Motoriek zijn onlosmakelijk verbonden De sensoren hebben verandering in intensiteit nodig: (dS/dt) om te kunnen reageren Deze veranderingen in S worden grotendeels door motoriek bepaald! ©2003 LRB Schomaker

Stelling: Perceptie en Motoriek zijn onlosmakelijk verbonden De sensoren hebben verandering in intensiteit nodig: (dS/dt) om te kunnen reageren Deze veranderingen in S worden grotendeels door motoriek bepaald! De sensoren moeten worden gericht en geregeld: dit wordt gedaan door spieren ©2003 LRB Schomaker

Perceptie en Motoriek zijn onlosmakelijk verbonden Het zien Als de oogspieren worden ingespoten met een spierverlammend middel valt het beeld in enkele tientallen ms weg ©2003 LRB Schomaker

Perceptie en Motoriek zijn onlosmakelijk verbonden Het zien Als de oogspieren worden ingespoten met een spierverlammend middel valt het beeld in enkele tientallen ms weg ©2003 LRB Schomaker

Perceptie en Motoriek zijn onlosmakelijk verbonden Het zien Als de oogspieren worden ingespoten met een spierverlammend middel valt het beeld in enkele tientallen ms weg ©2003 LRB Schomaker

Perceptie en Motoriek zijn onlosmakelijk verbonden Het zien Als de oogspieren worden ingespoten met een spierverlammend middel valt het beeld in enkele tientallen ms weg Reeksen van oogfixaties en saccades (oogsprongen) worden verzorgd door de oogspieren. ©2003 LRB Schomaker

Perceptie en Motoriek zijn onlosmakelijk verbonden Het zien Als de oogspieren worden ingespoten met een spierverlammend middel valt het beeld in enkele tientallen ms weg Reeksen van oogfixaties en saccades (oogsprongen) worden verzorgd door de oogspieren. De indruk van het totaalbeeld wordt geconstrueerd in het brein. ©2003 LRB Schomaker

Perceptie en Motoriek zijn onlosmakelijk verbonden Het zien Als de oogspieren worden ingespoten met een spierverlammend middel valt het beeld in enkele tientallen ms weg Reeksen van oogfixaties en saccades (oogsprongen) worden verzorgd door de oogspieren. De indruk van het totaalbeeld wordt geconstrueerd in het brein. Scherpstellen (accomodatie en vergentie) worden gerealiseerd door de oogspieren ©2003 LRB Schomaker

Oogbewegingen: saccades en fixaties bij het kijken naar een gezicht Van de saccade- trajecten is slechts een deel afgebeeld. De fixaties zijn de verdichtingen Joyce (2000).

Resolutie van een biologisch oog: alleen centraal (fovea) is het beeld scherp. Perifeer is het beeld wazig maar de gevoeligheid voor beweging is daar groter. Gevolg: je mòèt wel actief rondkijken!

Perceptie en Motoriek zijn onlosmakelijk verbonden Het horen Bij het horen is dS/dt van luchtdruk ongelijk aan nul: gratis veranderingen in de tijd! Motoriek is dus niet nodig? ©2003 LRB Schomaker

Stelling: Perceptie en Motoriek zijn onlosmakelijk verbonden Het horen Bij het horen is dS/dt van luchtdruk ongelijk aan nul (gratis veranderingen in de tijd!) Motoriek is dus niet nodig? Om richting te bepalen moet je hoofd of oren richten ©2003 LRB Schomaker

Stelling: Perceptie en Motoriek zijn onlosmakelijk verbonden Het horen Bij het horen is dS/dt van luchtdrukvariaties ongelijk aan nul (gratis veranderingen in de tijd). Motoriek is dus niet nodig? Om richting te bepalen moet je hoofd of oren richten Verder wordt de gevoeligheid wordt door spiertjes bepaald, ook om het oor te beschermen (tensor stapedius) ©2003 LRB Schomaker

Stelling: Perceptie en Motoriek zijn onlosmakelijk verbonden De tast Als je de textuur van een voorwerp wil voelen moet je een tactiele ‘flow’ veroorzaken door je hand te bewegen. Bij stilstand vervaagt de tactiele indruk ©2003 LRB Schomaker

Stelling: Perceptie en Motoriek zijn onlosmakelijk verbonden De reuk werkt door een gerichte sturing van de ademhaling (intercostaalspiertjes, tussen de ribben) ©2003 LRB Schomaker

Stelling: Perceptie en Motoriek zijn onlosmakelijk verbonden De reuk werkt door een gerichte sturing van de ademhaling (intercostaalspiertjes, tussen de ribben) de neusgaten kunnen door spieren worden opengezet en bij sommige diersoorten ook worden gesloten ©2003 LRB Schomaker

Stelling: Perceptie en Motoriek zijn onlosmakelijk verbonden De reuk werkt door een gerichte sturing van de ademhaling (intercostaalspiertjes, tussen de ribben) de neusgaten kunnen door spieren worden opengezet en bij sommige diersoorten ook worden gesloten snuffelen: complexe motorische activiteit bestaande uit ego-motion en richten van de sensor ©2003 LRB Schomaker

Stelling: Perceptie en Motoriek zijn onlosmakelijk verbonden De propriocepsis Het waarnemen van je lichaamshouding gebeurt door sensoren in de spieren (spierspoeltjes) die reageren op spierlengteveranderingen ©2003 LRB Schomaker

Stelling: Perceptie en Motoriek zijn onlosmakelijk verbonden De propriocepsis Het waarnemen van je lichaamshouding gebeurt door sensoren in de spieren (spierspoeltjes) die reageren op spierlengteveranderingen De gevoeligheid van de spierspoeltjes wordt door het brein geregeld (de gamma-efferenten) gamma spierspoeltje dL/dt naar CZS alpha spiervezels (motor unit) ©2003 LRB Schomaker

Motor cortex (precentraal) en somatosensorische cortex (postcentraal)

Penfield Penfield & Rasmussen (1950). Twee plakjes brein. Rechts=Voor (pre-centraal): spieraansturing Links=Achter (post-centraal): waarneming van de de (toe)stand van de ledematen.

Stelling: Perceptie en Motoriek zijn onlosmakelijk verbonden Het evenwichtsorgaan semi-circulaire kanalen otholithische sensor …werken voor en door de motoriek ©2003 LRB Schomaker

Aangepast model voor informatieverwerking AGENT Cognitie Perceptie Motoriek zintuigen effectoren WERELD

Ontwikkelingen in AI en robotica Cognitie zintuigen effectoren Bewegen om waar te nemen Waarnemen om te bewegen ©2003 LRB Schomaker

Foto’s van Robot Hond, AI-lab Zurich Motoriek zorgt ook voor problemen: bewegend beeld bij lopen vergt “gaze stabilisation”: met oogbewegingen ervoor zorgen dat het beeld niet al te veel schudt gedurende lopen.

Ontwikkelingen in AI en robotica Cognitie zintuigen effectoren Bewegen om waar te nemen Waarnemen om te bewegen + afregeling van sensoren door motorische mechanismen ©2003 LRB Schomaker

Een architectuur voor cognitie aandacht&coordinatie reflexen zintuigen effectoren ©2003 LRB Schomaker

Een architectuur voor cognitie (frontale) neocortex hypothalamus, basale ganglia, cerebellum aandacht coordinatie reflexen ruggemerg zintuigen effectoren ©2003 LRB Schomaker

Tussentijdse conclusie Perceptie en motoriek zijn sterk onderling afhankelijk Wat is het voordeel van deze architectuur? ©2003 LRB Schomaker

Ontwikkelingen in AI en robotica “embodied intelligence”: intelligentie is niet te begrijpen zonder inachtname van  lichaam & omgeving  closed-loop system ©2003 LRB Schomaker

Voordelen van een closed-loop system Closed-loop + non-lineariteit  zelforganisatie Neurale adaptiviteit is de truc! ©2003 LRB Schomaker

Voordelen van een closed-loop system Closed-loop + non-lineariteit  zelforganisatie Neurale adaptiviteit is de truc! Voorbeeld: het leren van motorische controle ©2003 LRB Schomaker

Inverse Kinematica Gegeven een kinematische keten (gewrichten en ledemaatsegmenten), en een gewenste doelpositie in de taakruimte, wat is de vector van gewrichtshoeken als functie van de tijd? ©2003 LRB Schomaker

Inverse Kinematica: hoe moeilijk is het? Doel (x,y,z) Opdracht: bedien de schuifregelaars en zorg dat de grijper vloeiend naar het doel beweegt ©2003 LRB Schomaker

Gegeven doel (x,y,z), gevraagd: vector φ Inverse Kinematica φ3 φ4 Doel (x,y,z) φ5 φ2 φ6 φ1 φ7 Gegeven doel (x,y,z), gevraagd: vector φ met gewrichtshoeken? ©2003 LRB Schomaker

Is dit mathematisch op te lossen? Inverse Kinematica… Van laag-dimensionaal (3 df) naar hoog-dimensionaal (7 degrees of freedom) Is dit mathematisch op te lossen? Nee: het is een “ill-posed problem” of slecht gesteld probleem. Definitie: een probleem waarvoor 1) géén of 2) meerdere oplossingen mogelijk zijn ©2003 LRB Schomaker

Inverse Kinematica, vervolg Er zijn meestal zeer veel oplossingen (gewrichtshoeken als functie van de tijd) voor een traject van een eindeffector van positie A naar B in de Cartesiaanse taakruimte Sommige configuraties hebben geen oplossing (singulariteit) ©2003 LRB Schomaker

2-d, twee segmenten ©2003 LRB Schomaker

Twee oplossingen voor deze arm! 2-d, twee segmenten Twee oplossingen voor deze arm! ©2003 LRB Schomaker

Gegeven massa m, inertie g, gevraagd: vector θ met draaimomenten? Inverse Kinetica (Inverse Dynamica): niet alleen een traject, maar ook krachten! θ3 θ4 Doel (m,g) θ5 θ2 θ6 θ1 θ7 Gegeven massa m, inertie g, gevraagd: vector θ met draaimomenten? ©2003 LRB Schomaker

Het probleem is dus onoplosbaar? Nee: wij bewegen nogal veel, bijvoorbeeld Oplossingen: inperkingen (constraints) maken berekening mogelijk De inperkingen kunnen structureel zijn (aantal vrijheidsgraden) of contextueel (taak- en systeemparameters) ©2003 LRB Schomaker

Constraints: natuurlijke bewegers Hoe komen de natuurlijke motorieksystemen aan de juiste parameterinstelling???? …terwijl het systeem ook nog eens aan allerlei veranderingen onderhevig is zoals Groei Veroudering (krachtsverlies) ???? Antwoord: neurale plasticiteit! ©2003 LRB Schomaker

Neurale plasticiteit Een analytische, beknopt wiskundige oplossing voor bewegingsturing van complexe effectorsystemen is beperkt toepasbaar in de echte wereld Het biologische bewegingsapparaat gebruikt “motor babbling” Dwz: willekeurig genereren van veel gewrichtshoek-combinaties en perceptueel vaststellen waar de eindeffector (hand) zich bevindt ©2003 LRB Schomaker

Motor babbling

Neurale plasticiteit: motor babbling Leren is een ‘error feedback’ proces Veel ‘trial & error’ De natuur geeft het foutsignaal vanzelf ©2003 LRB Schomaker

Neurale plasticiteit: motor babbling Voorbeelden: willekeurig trappelende baby in de buik leert eigen spiersysteem kennen door propriocepsis na de geboorte: willekeurige armbewegingen brengen de eigen hand binnen het visuele veld het pasgeboren veulen leert snel te staan op basis van signalen uit het evenwichtsorgaan ©2003 LRB Schomaker

Neurale plasticiteit: motor babbling In de jaren tachtig kwamen adaptieve technieken tot ontwikkeling: ‘neurale’ netwerkmodellen Hiermee werd het voor het eerst mogelijk om complexe robotsystemen ‘zichzelf te leren kennen’ ©2003 LRB Schomaker

‘Motor babbling’ als basis voor het aanleren van inverse kinematica voor een 2D arm. Willekeurig gegenereerde gewrichthoeken leiden tot gerealiseerde handposities in het werkveld. Zo kan een NN de inverse leren: van vereiste handpositie naar gewrichtshoeken.

Pionierswerk in de 50-er jaren: Grey Walter: simpele middelen, Oud robot-onderzoek Koppeling tussen sensor (lichtcel) en stuuras, en niet-lineaire regeling (radiobuis) leidden tot natuurlijke gedragingen: nadering en afstoting Pionierswerk in de 50-er jaren: Grey Walter: simpele middelen, complex effect. ©2003 LRB Schomaker

BabyBot: G. Sandini, LIRA Genua. Nieuw robot onderzoek ogen oren arm hand continu leren BabyBot: G. Sandini, LIRA Genua. ©2003 LRB Schomaker

Onderzoek bij KI/RuG op basis van deze visie Continu lerende systemen, in plaats van een robotontwerp voor een specifieke oplossing Active Vision: ‘oogsprongen’ met de robot- camera(‘s), om de essentiele informatie op te sporen Navigatie in robocup: leer het veld kennen door rondrijden, botsen en kijken ©2003 LRB Schomaker

Conclusies Perceptie en motoriek kunnen niet los van elkaar onderzocht en begrepen worden De bewegingsproblemen uit de robotica worden in de natuur opgelost met ‘motor babbling’ en neurale adaptatie/plasticiteit Uitgaande van deze visie op perceptie, cognitie en motoriek worden verschillende nieuwe onderzoeken gestart bij KI/RuG: lezende robots en robotvoetbal. ©2003 LRB Schomaker