Telecommunicatie en Informatieverwerking UNIVERSITEIT GENT Didactisch materiaal bij de cursus Academiejaar 2010-2011

Presentatie over: "Telecommunicatie en Informatieverwerking UNIVERSITEIT GENT Didactisch materiaal bij de cursus Academiejaar 2010-2011"— Transcript van de presentatie:

1 Telecommunicatie en Informatieverwerking UNIVERSITEIT GENT Didactisch materiaal bij de cursus Academiejaar 2010-2011 philips@telin.UGent.be http://telin.UGent.be/~philips/optimalisatie/ Tel: 09/264.33.85 Fax: 09/264.42.95 Prof. dr. ir. W. Philips Optimalisatietechnieken

2 © W. Philips, Universiteit Gent, 1998-2011versie: 9/5/2011 10b. 2 Copyright notice This powerpoint presentation was developed as an educational aid to the renewed course “Optimisation Techniques” (Optimalisatietechnieken), taught at the University of Gent, Belgium as of 1998. This presentation may be used, modified and copied free of charge for non-commercial purposes by individuals and non-for-profit organisations and distributed free of charge by individuals and non-for-profit organisations to individuals and non-for-profit organisations, either in electronic form on a physical storage medium such as a CD-rom, provided that the following conditions are observed: 1.If you use this presentation as a whole or in part either in original or modified form, you should include the copyright notice “© W. Philips, Universiteit Gent, 1998” in a font size of at least 10 point on each slide; 2.You should include this slide (with the copyright conditions) once in each document (by which is meant either a computer file or a reproduction derived from such a file); 3. If you modify the presentation, you should clearly state so in the presentation; 4.You may not charge a fee for presenting or distributing the presentation, except to cover your costs pertaining to distribution. In other words, you or your organisation should not intend to make or make a profit from the activity for which you use or distribute the presentation; 5. You may not distribute the presentations electronically through a network (e.g., an HTTP or FTP server) without express permission by the author. In case the presentation is modified these requirements apply to the modified work as a whole. If identifiable sections of that work are not derived from the presentation, and can be reasonably considered independent and separate works in themselves, then these requirements do not apply to those sections when you distribute them as separate works. But when you distribute the same sections as part of a whole which is a work based on the presentation, the distribution of the whole must be on the terms of this License, whose permissions for other licensees extend to the entire whole, and thus to each and every part regardless of who wrote it. In particular note that condition 4 also applies to the modified work (i.e., you may not charge for it). “Using and distributing the presentation” means using it for any purpose, including but not limited to viewing it, presenting it to an audience in a lecture, distributing it to students or employees for self-teaching purposes,... Use, modification, copying and distribution for commercial purposes or by commercial organisations is not covered by this licence and is not permitted without the author’s consent. A fee may be charged for such use. Disclaimer: Note that no warrantee is offered, neither for the correctness of the contents of this presentation, nor to the safety of its use. Electronic documents such as this one are inherently unsafe because they may become infected by macro viruses. The programs used to view and modify this software are also inherently unsafe and may contain bugs that might corrupt the data or the operating system on your computer. If you use this presentation, I would appreciate being notified of this by email. I would also like to be informed of any errors or omissions that you discover. Finally, if you have developed similar presentations I would be grateful if you allow me to use these in my course lectures. Prof. dr. ir. W. PhilipsE-mail: philips@telin.UGent.be Department of Telecommunications and Information ProcessingFax: 32-9-264.42.95 University of GentTel: 32-9-264.33.85 St.-Pietersnieuwstraat 41, B9000 Gent, Belgium

3 Kwadratische programma’s

4 © W. Philips, Universiteit Gent, 1998-2011versie: 9/5/2011 10b. 4 Markowitz probleem… Gegeven aantal aandelen waarin men kan beleggen gedurende 1 jaar elk aandeel j heeft een andere opbrengst: R j (b.v. 5% rendement  R j =1.05) opbrengst: R j is een random-variabele (niet volledig voorspelbaar), gekarakteriseerd door verwachtingswaarde en covariantie: Beleggen=portefeuille samenstellen=beslissen welke fractie x j van beschikbaar totaal budget te beleggen in aandeel j verwachte opbrengst van de portefeuille: verwachte variantie (maat voor risico) van de portefeuille:

5 © W. Philips, Universiteit Gent, 1998-2011versie: 9/5/2011 10b. 5 risico-aversiefactor Maximaliseer Risicopenalisatie …Markowitz probleem Verwachte winst optimaliseren is eenvoudig: beleg alles in aandeel met het hoogste verwachte opbrengst ( x j =1 voor de j met hoogste m j ; zoniet x j =0) Maar het is beter het risico te beperken, door te beleggen in aandelen met weinig risico  meestal lage opbrengst niet-gecorreleerde aandelen (b.v. diverse sectoren)  risico spreiden negatief-gecorreleerde aandelen (hedge funds)  nog beter  afweging nodig tussen verwachte opbrengst en verwacht risico verwachte opbrengst van de portefeuille: verwachte variantie (maat voor risico) van de portefeuille: mits en x j  0

6 © W. Philips, Universiteit Gent, 1998-2011versie: 9/5/2011 10b. 6 Risicospreiding Risicobeperking leidt meestal tot gespreide portefeuille: Voorbeeld: niet-gecorreleerde aandelen met gelijke m j en  j onafhankelijk van x j ! minimalisatie risico (met Lagrange-multiplicatoren)  x j =1/ n met verwacht risico   2 =  1 2 / n beleggen in één aandeel zou leiden tot x 1 =1; andere x j =0 met verwacht risico   2 =  1 2  beleggen in n verschillende aandelen leidt tot dezelfde opbrengst maar tot een n keer lagere variantie op het rendement Opmerking: dit is de centrale limietstelling: variantie van de gemiddelde opbrengst is veel kleiner dan variantie van individuele opbrengsten

7 © W. Philips, Universiteit Gent, 1998-2011versie: 9/5/2011 10b. 7 Hedge Funds Beleggen in negatief-gecorreleerde aandelen  risico zakt nog meer Voorbeeld: aandelen die stijgen met de dollarkoers en aandelen die zakken onderstel: gelijke opbrengst: m 1 = m 2 potentieel risico: wisselkoersschommelingen    i,j =  1 2 met  <0, b.v.  =-0.7 onafhankelijk van x j ! minimalisatie risico (met Lagrange-multiplicatoren)  x j =1/2 met verwacht risico   2 =  1 2 (1+  )/2 indien  =-1 dan wordt het risico zelfs 0 In de praktijk is het vinden van negatief gecorreleerde aandelen of sectoren niet eenvoudig

8 © W. Philips, Universiteit Gent, 1998-2011versie: 9/5/2011 10b. 8 Parameterschatting “Effectieve” opbrengst over T jaar geschat uit opbrengsten R j ( t ) uit verleden  Schatting, mits benadering E(ln(.))  ln(E(.)): Betere, gewogen schatting, met meer nadruk op recent verleden: met 0< p  1 Idem (maar moeilijker) voor de varianties… Veel gegevens nodig voor betrouwbare schatting b.v. voor 10 aandelen bevat de covariantiematix 60 elementen  een veelvoudig van 60 opbrengstmetingen nodig (vele jaren data) en oude gegevens zijn misschien niet meer representatief

9 © W. Philips, Universiteit Gent, 1998-2011versie: 9/5/2011 10b. 9 The efficient frontier De optimale portefeuille hangt af van de risicoaversie  De curve van optimale oplossingen (voor  ) heet “the efficient frontier” Nasdaq composite  =0  =0.1  =2  =4  =1  =8  =1024 EAFE Wilshire 5000 S&P 500 Long Bonds Corp. Bonds T-Bills Gold Expected return on investment Risk 1.07 1.081.091.10 1.11 1.121.13 24 16 20 12 8 4 Maximaliseer mits en x j  0 Elke andere portefeuille is niet optimaal (te hoog risico vooor gegeven rendement of omgekeerd)

10 © W. Philips, Universiteit Gent, 1998-2011versie: 9/5/2011 10b. 10 Convexe kwadratische programma’s Probleem van Markowitz is bijzonder geval van kwadratisch programma: Mimimaliseer mits Ax  b en x  0 We beschouwen enkel symmetrische positief-definiete Q  x t Q x  0 Convex probleem: convexe kostfunctie convex gebied (hier gebied van mogelijk oplossingen lineair programma) met bij Markowitz:  Gevolg: uniek optimum Oplossingsmethode: interne zoekmethode Ax  b converteren in stelsel: Ax-w  b en w  0 Niet-negatief voorwaarden vervangen door barrièretermen Methode van Lagrange toepassen Resulterend stelsel lineariseren en oplossen Stap zetten naar oplossing zonder  te verlaten Resultaat iteratief verbeteren met kleinere barrière hier:

11 © W. Philips, Universiteit Gent, 1998-2011versie: 9/5/2011 10b. 11 Oplossing via barrière Gegeven: Mimimaliseer mits A x-w  b en x  0 en w  0 Barrièremethode: Minimaliseer: mits Ax-w  b Barrière (voor de ongelijkheden) + methode Lagrange (voor de gelijkheden) : Minimaliseer: Oplossen van dit stelsel geeft exact optimum voor barrièreprobleem Afgeleiden naar alle veranderlijken ( x j, w i, y i ) nul stellen:  (notaties: zie interne zoekmethoden) Herschrijven met z =  X -1 e : Opmerking: speciaal geval Q= 0 geeft stelsel voor interne zoekmethode lineair programma

12 © W. Philips, Universiteit Gent, 1998-2011versie: 9/5/2011 10b. 12 Interne zoekmethode Oplossing van het stelsel via iteratieve lineaire benadering: gegeven benaderde oplossing ( x, w, y, z ), zoek een betere benadering ( x+  x, w+  w, y+  y, z+  z ) van de oplossing dichtbij de correcte oplossing mogen we stelsel lineariseren verwaarloosbaar indien we voldoende dicht bij de optimale oplossing zitten Wat overschiet is een lineair stelsel in (  x,  w,  y,  z ) waarin de andere termen (in het bijzonder x, w, y, z ) constant mogen worden beschouwd De gevonden stap (  x,  w,  y,  z ) wordt indien nodig ingekrompen om de nieuwe veranderlijken ( x+  x, w+  w, y+  y, z+  z )  0 te maken Vervolgens verkleint men  en herhaalt men de berekeningen (cfr. “interne zoekmethoden” voor lineaire programma’s)

13 © W. Philips, Universiteit Gent, 1998-2011versie: 9/5/2011 10b. 13 Duaal kwadratisch programma Primaal programma mimimaliseer mits Ax  b en x  0 L ( x, y ) minimaliseren naar x mits x  0  duale kostfunctie g ( y ) Let op: optimum met randvoorwaarden vermits x  0 niet gedualiseerd werd We weten dit is een convex probleem  uniek minimum x *( y ) Lagrangiaan: met y  0 en x *( y ) is moeilijk expliciet te bepalen; voldoet aan KKT (zie “hulpprobleem”) 

14 © W. Philips, Universiteit Gent, 1998-2011versie: 9/5/2011 10b. 14 Hulpprobleem Te maximaliseren over x  0 met y een onbelangrijke constante vector Lagrangiaan voor hulpprobleem (met Lagrangevermenigvuldigers ): KKT-voorwaarden: (complementary slackness) (enkel ongelijkheden, n.l. x j  0) 

15 © W. Philips, Universiteit Gent, 1998-2011versie: 9/5/2011 10b. 15 …Duaal kwadratisch programma We weten (zie vorige slide): x *( y ) voldoet aan KKT  en Let op: x heeft in principe niets te maken met x in primaal probleem Wel is de optimale waarde van x in primaal en duaal probleem gelijk Dit komt omdat x *( y *) optimaal is in primaal probleem duale kostfunctie:  Met andere notaties, duaal programma: maximaliseer mits enen x= x *( y ) Zonder bewijs: weglaten van deze voorwaarde (=relaxatie) leidt in dit probleem niet tot een beter optimum Niet kennen