Didactisch materiaal bij de cursus Academiejaar 2010-2011 Tel: 09/264.33.85 Fax: 09/264.42.95.

Presentatie over: "Didactisch materiaal bij de cursus Academiejaar 2010-2011 Tel: 09/264.33.85 Fax: 09/264.42.95."— Transcript van de presentatie:

1 Didactisch materiaal bij de cursus Academiejaar 2010-2011 philips@telin.UGent.be http://telin.UGent.be/~philips/optimalisatie/ Tel: 09/264.33.85 Fax: 09/264.42.95 Prof. dr. ir. W. Philips Optimalisatietechnieken

2 © W. Philips, Universiteit Gent, 1998-2011versie: 21/2/2011 02c. 2 Copyright notice This powerpoint presentation was developed as an educational aid to the renewed course “Optimisation Techniques” (Optimalisatietechnieken), taught at the University of Gent, Belgium as of 1998. This presentation may be used, modified and copied free of charge for non-commercial purposes by individuals and non-for-profit organisations and distributed free of charge by individuals and non-for-profit organisations to individuals and non-for-profit organisations, either in electronic form on a physical storage medium such as a CD-rom, provided that the following conditions are observed: 1.If you use this presentation as a whole or in part either in original or modified form, you should include the copyright notice “© W. Philips, Universiteit Gent, 1998” in a font size of at least 10 point on each slide; 2.You should include this slide (with the copyright conditions) once in each document (by which is meant either a computer file or a reproduction derived from such a file); 3. If you modify the presentation, you should clearly state so in the presentation; 4.You may not charge a fee for presenting or distributing the presentation, except to cover your costs pertaining to distribution. In other words, you or your organisation should not intend to make or make a profit from the activity for which you use or distribute the presentation; 5. You may not distribute the presentations electronically through a network (e.g., an HTTP or FTP server) without express permission by the author. In case the presentation is modified these requirements apply to the modified work as a whole. If identifiable sections of that work are not derived from the presentation, and can be reasonably considered independent and separate works in themselves, then these requirements do not apply to those sections when you distribute them as separate works. But when you distribute the same sections as part of a whole which is a work based on the presentation, the distribution of the whole must be on the terms of this License, whose permissions for other licensees extend to the entire whole, and thus to each and every part regardless of who wrote it. In particular note that condition 4 also applies to the modified work (i.e., you may not charge for it). “Using and distributing the presentation” means using it for any purpose, including but not limited to viewing it, presenting it to an audience in a lecture, distributing it to students or employees for self-teaching purposes,... Use, modification, copying and distribution for commercial purposes or by commercial organisations is not covered by this licence and is not permitted without the author’s consent. A fee may be charged for such use. Disclaimer: Note that no warrantee is offered, neither for the correctness of the contents of this presentation, nor to the safety of its use. Electronic documents such as this one are inherently unsafe because they may become infected by macro viruses. The programs used to view and modify this software are also inherently unsafe and may contain bugs that might corrupt the data or the operating system on your computer. If you use this presentation, I would appreciate being notified of this by email. I would also like to be informed of any errors or omissions that you discover. Finally, if you have developed similar presentations I would be grateful if you allow me to use these in my course lectures. Prof. dr. ir. W. PhilipsE-mail: philips@telin.UGent.be Department of Telecommunications and Information ProcessingFax: 32-9-264.42.95 University of GentTel: 32-9-264.33.85 St.-Pietersnieuwstraat 41, B9000 Gent, Belgium

3 Lineair programmeren Theorie en voorbeelden

4 © W. Philips, Universiteit Gent, 1998-2011versie: 21/2/2011 02c. 4 Grafische voorstelling De standaardvorm is 6-dimensionaal maar we kunnen nog steeds een 2-D voorstelling gebruiken: dit is dan een soort projectie 1000 2000 10002000 A B C D toenemende winst E F x1x1 x2x2 A: x 3  0B: x 4  0 … B: x 2  1500 A: x 1  1000 C: x 1 +x 2  1750 D: 4 x 1 + 2 x 2  4800 E: x 1  0F: x 2  0 Originele beperkingen: Standaardvorm: x 2 +x 4 = 1500 x 1 +x 3 = 1000 x 1 +x 2 +x 5 =1750 4 x 1 + 2 x 2 +x 6 = 4800 (S) x 4  0 en (S)

5 © W. Philips, Universiteit Gent, 1998-2011versie: 21/2/2011 02c. 5 alle m vergelijkingen van het stelsel (S), want vergelijkingen zijn overal actief (en lineair onafhankelijk) aangevuld met voldoende actieve “niet-negatief” voorwaarden ( n-m als er n variabelen zijn) Voorwaarde x j  0 actief  x j = 0 Besluit: elk extreem punt kan uniek worden bepaald door het opgeven van n-m variabelen die in dat punt nul zijn er zijn m.a.w. geen andere punten die aan (S) voldoen, en waarin de opgegeven coördinaten (variabelen) nul zijn het aantal op te geven nulvariabelen=het totaal aantal variabelen - het aantal vergelijkingen in (S) Niet elk stel van n-m nulvariabelen bepaalt echter een extreem punt (ze bepalen b.v. een punt dat niet voldoet aan alle “niet-negatief” voorwaarden) Belang van de standaardvorm Extreme punten kunnen nog steeds worden bepaald door een aantal actieve lineair onafhankelijke (on)gelijkheden, n.l. (zeer eenvoudig!)

6 © W. Philips, Universiteit Gent, 1998-2011versie: 21/2/2011 02c. 6 Extreme punten en standaardvorm 1000 2000 10002000 A B C D toenemende winst E F x1x1 x2x2 A: x 3  0B: x 4  0 … B: x 2  1500 A: x 1  1000 C: x 1 +x 2  1750 D: 4 x 1 + 2 x 2  4800 E: x 1  0F: x 2  0 Originele beperkingen: Standaardvorm: x 2 +x 4 = 1500 x 1 +x 3 = 1000 x 1 +x 2 +x 5 =1750 4 x 1 + 2 x 2 +x 6 = 4800 (S) x 4 = 0, (S) 1 1 x 4 =0, x 5 =0, (S) x 5 = 0, (S) 2 2 x 3 =0, x 6 =0, (S) extreme punten x 3 =0, x 5 =0, (S) x 4 =0, x 2 =0, (S) geen extreme punten 3 3 geen snijpunt (wel basisoplossing)

7 © W. Philips, Universiteit Gent, 1998-2011versie: 21/2/2011 02c. 7 Beschouw het stelsel van een probleem in standaardvorm Basisoplossingen... Kies n-m variabelen x j Los nu het stelsel op met als bijkomende voorwaarden dat deze n-m variabelen x j nul moeten zijn Als er een oplossing bestaat en als ze uniek is dan noemen we de oplossing een basisoplossing en dan noemen we de variabelen die men nul stelt: niet-basisvariabelen (NB) de andere variabelen: basisvariabelen (B) Opmerkingen Extreme punten zijn basisoplossingen maar niet omgekeerd niet elk stel van n-m variabelen zijn geldige NB-variabelen

8 © W. Philips, Universiteit Gent, 1998-2011versie: 21/2/2011 02c. 8 x nb A nb a 11 a 12 a 13 a 14 a 15 x 1 b 1 a 21 a 22 a 23 a 24 a 25 x 2 =b 2 a 31 a 32 a 33 a 34 a 35 x 3 b 3 x 4 x 5 Geldige basis A nb : kolommen van A corresponderend met NB-variabelen A b : kolommen van A corresponderend met B-variabelen x b, x nb : vector van de NB-variabelen AbAb Er is een unieke oplossing voor x nb =0  A b is inverteerbaar  de kolommen van A b vormen een basis  det( A b )  0 A b x b + A nb x nb = b  x b = A b -1 ( b-A nb x nb )  Nodige voorwaarde: evenveel B-variabelen als vergelijkingen enkel als det( A b )  0!

9 © W. Philips, Universiteit Gent, 1998-2011versie: 21/2/2011 02c. 9 Basisoplossingen en extreme punten Elk extreem punt is uniek bepaald door n lineair onafhankelijke actieve ongelijkheden en/of gelijkheden extreem punt A B C D E F Elk stelsel van n lineair onafhankelijke actieve ongelijkheden en/of gelijkheden bepaalt één punt; dit is een basisoplossing Niet elke basisoplossing is een extreem punt b.v.: C,D,F bepalen een basisoplossing maar geen extreem punt; reden: deze basisoplossing ligt buiten het gebied van mogelijke oplossingen n =3 n : aantal variabelen b.v.: het blauw punt is bepaald door A,B,C of A,B,D, of... gebied van mogelijke oplossingen x2x2 x1x1 x3x3

10 © W. Philips, Universiteit Gent, 1998-2011versie: 21/2/2011 02c. 10 Basisoplossingen en extreme punten Een basisoplossing is niet noodzakelijk een oplossing ze voldoen enkel aan de gelijkheden maar niet aan alle “niet-negatief” voorwaarden basisoplossingen extreme punten mogelijke oplossingen Ax=bx  0Ax=bx  0 Ax = b  x nb = 0 : x b uniek Ax = b  x nb = 0 :... x b  0 Een mogelijke basisoplossing (basic feasible solution) voldoet bovendien aan de niet-negativiteitsvoorwaarden en is dus wel een oplossing Ax = b x b  0 x nb  0 Een gegeven basisoplossing kan met meer dan 1 basis corresponderen (gedegenereerdheid; zie verder) Ax = b  x nb = 0 :... x b  0 De mogelijke basisoplossingen zijn de extreme punten

11 © W. Philips, Universiteit Gent, 1998-2011versie: 21/2/2011 02c. 11 Basissen: voorbeeld... x 1 +x 3 = 1000 x 2 +x 4 = 1500 x 1 +x 2 +x 5 = 1750 4 x 1 + 2 x 2 +x 6 = 4800 x 1, x 2, x 3, x 4, x 5, x 6  0 Trofeeprobleem: Maximaliseer 12 x 1 +9 x 2 waarbij 4 vergelijkingen, 6 onbekenden  2 NB-variabelen Probeer x 5 =x 6 =0  unieke oplossing (650,1100,350,400,0,0)  { x 5, x 6 } is een geldig stel NB-variabelen en { x 1, x 2, x 3, x 4 } is het bijbehorend stel B-variabelen Deze basisoplossing is ook een extreem punt want geen enkele variabele is negatief!

12 © W. Philips, Universiteit Gent, 1998-2011versie: 21/2/2011 02c. 12...Basissen: voorbeeld... x 1 +x 3 = 1000 x 2 +x 4 = 1500 x 1 +x 2 +x 5 = 1750 4 x 1 + 2 x 2 +x 6 = 4800 x 1, x 2, x 3, x 4, x 5, x 6  0 Trofeeprobleem: Maximaliseer 12 x 1 +9 x 2 waarbij 4 vergelijkingen, 6 onbekenden  2 NB-variabelen Probeer x 3 =x 5 =0  unieke oplossing (1000,750,0,750,0,-700)  { x 3, x 5 } is een geldig stel NB-variabelen en { x 1, x 2, x 4, x 6 } is het bijbehorend stel B-variabelen Deze basisoplossing is geen extreem punt!

13 © W. Philips, Universiteit Gent, 1998-2011versie: 21/2/2011 02c. 13...Basissen: voorbeeld... x 1 +x 3 = 1000 x 2 +x 4 = 1500 x 1 +x 2 +x 5 = 1750 4 x 1 + 2 x 2 +x 6 = 4800 x 1, x 2, x 3, x 4, x 5, x 6  0 Trofeeprobleem: Maximaliseer 12 x 1 +9 x 2 waarbij 4 vergelijkingen, 6 onbekenden  2 NB-variabelen NB={ x 4 }; B={ x 1, x 2, x 3, x 5, x 6 } (geen unieke oplossing) + (0) + 2(0) (0) NB={ x 2, x 4 }; B={ x 1, x 3, x 5, x 6 } (geen oplossing) Besluit: niet zomaar elk stel variabelen zijn NB-variabelen

14 © W. Philips, Universiteit Gent, 1998-2011versie: 21/2/2011 02c. 14...Basissen: voorbeeld x 1 +x 3 = 1000 x 2 +x 4 = 0 x 1 +x 2 +x 5 = 1750 4 x 1 + 2 x 2 +x 6 = 4800 x 1, x 2, x 3, x 4, x 5, x 6  0 Indien er een lichtjes verschillend stelsel had gestaan… 4 vergelijkingen, 6 onbekenden  2 NB-variabelen + (0) + 2(0) (0) NB={ x 2, x 4 }; B={ x 1, x 3, x 5, x 6 } (oneindig veel oplossingen)  { x 2, x 4 } nog steeds geen geldig stel NB-variabelen! De waarde van de rechterleden heeft geen belang voor wat betreft de geldigheid (controleer!)

15 © W. Philips, Universiteit Gent, 1998-2011versie: 21/2/2011 02c. 15 Simplexmethode: basisprincipe Vind een extreem punt x (0) (zie verder) Ga van een extreem punt x (i) naar een naburig extreem punt x (i+1) met een betere kost Beschouw hiervoor een ribbe uit x (i) (gekozen uit een beperkte set van zogenaamde simplexrichtingen) indien de kost langs deze ribbe verbetert, kies dan het eindpunt van die ribbe als volgend extreem punt x (i+1) ; indien er geen eindpunt is dan is de optimale kost  Zoniet, probeer een nieuwe ribbe Indien er geen verbeterende ribben zijn, dan is x (i) optimaal (Reden: zie verder )

16 © W. Philips, Universiteit Gent, 1998-2011versie: 21/2/2011 02c. 16 Extreme punten en standaardvorm 1000 2000 10002000 A B C D E F x1x1 x2x2 A: x 3  0B: x 4  0 … B: x 2  1500 A: x 1  1000 C: x 1 +x 2  1750 D: 4 x 1 + 2 x 2  4800 E: x 1  0F: x 2  0 Originele beperkingen: Standaardvorm: x 2 +x 4 = 1500 x 1 +x 3 = 1000 x 1 +x 2 +x 5 =1750 4 x 1 + 2 x 2 +x 6 = 4800 (S) x 4 = 0, (S) 1 1 x 4 =0, x 5 =0, (S) x 5 = 0, (S) extreem punt 2 2 x 4 >0, x 5 =0, (S) punt op simplexrichting 1

17 © W. Philips, Universiteit Gent, 1998-2011versie: 21/2/2011 02c. 17 Simplex-richtingen in standaardvorm Hoe vinden we enkele ribben uit een extreem punt x ? extreem punt x: Ax = b x b  0 x nb = 0 Als we een ongelijkheid inactief laten worden dan vormen de oplossingen een rechte door x die mogelijks een ribbe bevat  een dergelijke rechte heet een simplexrichting We bereiken een punt op de ribbe door 1 component van x nb strikt groter dan 0 te maken (=1 ongelijkheid deactiveren) x nb = 0 x b = A b -1 ( b-A nb x nb ) = A b -1 b Extreem punt: Richting j : r b ( )= A b -1 ( b-A nb r nb ( )) r nb ( )= (0…1…0) t j -de positie   [ 0, max ] max is de grootste waarde van  waarvoor r b ( )  0 xb  0xb  0 Altijd:  max  0 want r b (0)= x b  0 ; meestal:  max > 0   0 ribbe-gedeelte van de simplex- richting

18 © W. Philips, Universiteit Gent, 1998-2011versie: 21/2/2011 02c. 18 Simplexrichtingen en ribben extreem punt A B C D E F n =3 variabelen gebied van mogelijke oplossingen x2x2 x1x1 x3x3 In het blauw extreem punt zijn er 5 ribben De variabelen x a, x b, x c corresponderend met de ongelijkheden A,B en C zijn geldige NB-variabelen Ze definiëren 3 simplexrichtingen: x a  0, x b =0, x c =0  lijnstuk bepaald door B en C  ribbe R 1 x a =0, x b  0, x c =0  punt bepaald door A en C  max = 0 x a =0, x b =0, x c  0  lijnstuk bepaald door A en B  ribbe R 3 R1R1 R3R3  de simplexrichtingen geven maar 2 van de 5 echte ribben, plus nog een gedegenereerde ribbe (met max = 0)

19 © W. Philips, Universiteit Gent, 1998-2011versie: 21/2/2011 02c. 19...Simplexrichtingen en ribben extreem punt A B C D E F n =3 variabelen gebied van mogelijke oplossingen x2x2 x1x1 x3x3 Andere NB-variabelen geven andere simplexrichtingen en ribben b.v. x a, x e, x d definiëren 3 andere simplexrichtingen: x a  0, x e =0, x d =0  lijnstuk bepaald door E en D  ribbe R’ 1 x a =0, x e  0, x d =0  punt bepaald door A en D  max = 0 x a =0, x e =0, x d  0  lijnstuk bepaald door A en E  ribbe R’ 3 R’ 1 R’ 3 Besluit: als we om één of andere reden alle ribben nodig hebben dan zullen we verschillende basissen moeten beschouwen

20 © W. Philips, Universiteit Gent, 1998-2011versie: 21/2/2011 02c. 20 Definitie: Gedegenereerd extreem punt extreem punt A B C D E F n =3 variabelen gebied van mogelijke oplossingen x2x2 x1x1 x3x3 In het blauw extreem punt zijn 5 ongelijkheden actief  in standaardvorm zijn daar 5 variabelen nul Anderzijds zijn 3 actieve ongelijkheden (b.v. A,B,C) voldoende om het extreem punt vast te leggen  in standaardvorm zijn er 3 NB-variabelen Besluit: er zijn ook nog 5 - 3 = 2 B-variabelen nul  Gedegenereerd extreem punt: extreem punt waarin naast de NB-variabelen ook een aantal B-variabelen nul zijn

21 © W. Philips, Universiteit Gent, 1998-2011versie: 21/2/2011 02c. 21 mogelijke oplossingen...Gedegenereerde extreme punten Naast de NB-variabelen is ook x 3 nul x1x1 x2x2 0  x 1  1 0  x 2  1 x 1 +x 2  2 x 1 +x 3 = 1 x 2 +x 4 = 1 x 1 +x 2 +x 5 = 2 Probeer x 4 =x 5 =0  unieke oplossing (1,1,0,0,0)  NB={ x 4, x 5 } en B={ x 1, x 2, x 3 }  Gedegenereerd extreem punt: extreem punt waarin meer ongelijkheden dan nodig actief zijn (alternatieve definitie) gedegenereerd extreem punt B: x 5 = 0 A: x 4 = 0 De NB-variabelen bepalen 2 simplexrichtingen, waarvan 1 gedegenereerde ( max = 0)

22 © W. Philips, Universiteit Gent, 1998-2011versie: 21/2/2011 02c. 22 Extreme punten en simplexrichtingen Besluit: een basisoplossing x moet volledig vastliggen door de keuze x nb = 0 is dus uniek bepaald door de keuze van een basis A b de unieke x b is dan x b = A b -1 b Een extreem punt x moet bovendien mogelijk zijn: x  0 Elke simplexrichting uit zo een x is van de vorm r b ( ) = A b -1 ( b - A nb r nb ( )) met r nb ( ) = (0…1…0) t het naburig extreem punt x (i+1) op die ribbe is r b ( max ) met max de grootste waarde van  waarvoor r b ( )  0 Er zijn normaal minstens evenveel ribben als simplexrichtingen Sommige simplexrichtingen geven gedegenereerde ribben Verschillende simplexrichtingen geven verschillende ribben (althans als deze ribben niet gedegenereerd zijn)

23 © W. Philips, Universiteit Gent, 1998-2011versie: 21/2/2011 02c. 23 Aanpassing van de basis Bij  = max bereiken we het eindpunt x (i+1) van de gevolgde ribbe  daar wordt een basisvariabele nul (zoniet zouden we kunnen verhogen) Om vanuit de ribben uit x (i+1) te zoeken moeten we eerst een basis zoeken voor x (i+1) en NB- en B-variabelen De huidige keuze is niet goed want we hebben 1 NB-variabele positief gemaakt om de ribbe te volgen Kies als nieuwe NB-variabelen de NB-variabelen die nog steeds nul zijn in x (i+1) de (of een) B-variabele die nul werd in x (i+1)

24 © W. Philips, Universiteit Gent, 1998-2011versie: 21/2/2011 02c. 24 Opmerking In de les kwamen enkele slides uit deze presentatie niet aan bod; deze slides zijn bedoeld voor zelfstudie tenzij anders vermeld

25 Lineair programmeren Appendix

26 © W. Philips, Universiteit Gent, 1998-2011versie: 21/2/2011 02c. 26  A x = b en  x nb = 0 : x b uniek  x  0  x b  0  x ligt op een lijnstuk tussen twee mogelijke oplossingen y en z : x =  y+(1-  ) z met 0 <  < 1 A y = b, y  0, A z = b, z  0 y  0 en z  0  y nb, z nb  0 0 = x nb =  y nb +(1-  ) z nb Bewijs... 1. Een basisoplossing die mogelijk is, is een extreem punt  xb =yb xb =yb  x = y Idem voor z  x = y = z  geen lijnstuk maar een punt Bewijs: stel x is een basisoplossing en een mogelijke oplossing maar geen extreem punt  y nb = z nb = 0 x b = A b -1 ( b -A nb x nb )= A b -1 b y b = A b -1 ( b -A nb y nb )= A b -1 b

27 © W. Philips, Universiteit Gent, 1998-2011versie: 21/2/2011 02c. 27...Bewijs 2. Een extreem punt is een basisoplossing Triviaal