T U Delft Parallel and Distributed Systems group PGS Fundamentele Informatica IN 3120 College 7 Cees Witteveen

T U Delft Parallel and Distributed Systems group PGS Onderwerpen Probabilistische Turing Machines - Probabilistisch beslissen - de klasse BPP en PP Quantum Turing Machines - Quantum computing - Quantum complexiteit: de klasse BPQ

T U Delft Parallel and Distributed Systems group PGS Vb random algoritme input: eindige verzameling S output:schatting aantal el. van S begin k : = 1; Trekking := ∅ a:= random(S) while a ∉ Trekking do k := k+1 Trekking := trekking ∪ {a} a:= random(S)  return 2k 2 /π end E(loopptijd algoritme) = Θ(√n) schat grootte verzameling % random gekozen element van S % schatting aantal elems S % standaard algoritme heeft Θ(n) tijd nodig

T U Delft Parallel and Distributed Systems group PGS Vb random algoritme (ii) Korte uitleg: Pr( k verschillende elems uit verzameling met n elems) = n!/(n-k)!n k. Met Stirling’s formule voor n! is deze kans bij benadering gelijk aan e -k^2/2n. De kleinste waarde van k zodat de kans ≥ 0.5 is dat er tenminste 2 of meer identieke elementen uit een verzameling met n elementen getrokken worden is dan te bepalen uit: e -k^2/2n ≤ 0.5 => k =1.177√n. Hieruit volgt de verwachte looptijd van het algoritme. De verwachte waarde E[Y] van het aantal trekkingen voordat een element voor de tweede keer getrokken wordt is gelijk aan E[Y] = √π/2 x √n. Uit deze verwachte waarde is een schatting van n te verkrijgen als k bekend is: n = 2k 2 /π

T U Delft Parallel and Distributed Systems group PGS Vb: random satisfiability input: set atoms U, set van m clauses C, output:waarheidstoekenning  begin kies random waarheidstoekenning  : U  {0,1} return  end Stelling Het verwachte aantal clauses vervuld door  is ≥ 0.5 x m Bewijs De kans dat een clause met k literals niet vervuld wordt door  is gelijk aan 2 -k en de kans dat de clause wel vervuld wordt gelijk aan k ≥ 0.5. Zij Z i =1 als clause C i vervuld wordt door  anders 0. Dan geldt: E(aantal clauses vervuld door  ) = E(  z i )=  E[Z i ] ≥ m/2

T U Delft Parallel and Distributed Systems group PGS Probabilistische Tm (PrTm) probabilistische keuze stappen in iedere nondeterministische berekeningsstap keuze uit twee mogelijke instructies die ieder met kans 0.5 gekozen kunnen worden. probabilistische berekeningspaden de kans Pr(b) dat een berekeningspad b met k niet-deterministische keuzes wordt gevolgd is 0.5 k [keuzes zijn onafhankelijk] probabilistische acceptatie kans dat PrTm M input w accepteert: Pr[ M accepteert w ] =  b is accepterend pad voor w b = 1- Pr[ M verwerpt w] probabilistische herkenning taal L M herkent /beslist L met foutmarge  (< 0.5) als w  L impliceert Pr[ M accepteert w ] ≥ 1 -  w  L impliceert Pr[ M verwerpt w ] ≥ 1 - 

T U Delft Parallel and Distributed Systems group PGS BPP Bounded Probabilistic Probability (BPP) L  BPP alss er een polynomiale PrTm M bestaat die L herkent /beslist met foutmarge  < 0.5 ; bedenk dat er volgens deze definitie van BPP een vaste gap ter grootte van (1-  -  )=1-2  >0 tussen juiste en onjuiste beslissingen bestaat. Vaak tref je in de literatuur een waarde  = 1/3 aan. De klasse BPP is interessant omdat blijkt dat de klasse niet verandert als we de foutmarge willekeurig polynomiaal klein maken in de lengte van de invoer (zie volgende slide:)

T U Delft Parallel and Distributed Systems group PGS BPP Stelling L  BPP alss er een polynomiale PrTm M’ bestaat die L herkent met foutmarge 2 -p(n) voor een willekeurige polynoom p(n), waarbij n = | input | Bewijs: Het is voldoende om te laten zien dat een taal L volgens de eerste definitie bevat is in BPP volgens de tweede definitie. Neem daarom een taal L die door een machine M met foutmarge  geaccepteerd wordt. Construeer nu een machine M’ voor input w met |w| = n met foutmarge t = 2 -p(n) als volgt: M’: Pas M m = 2k-maal toe op input w en accepteer alleen als M de input w tenminste k-maal accepteert. We tonen aan dat m zo gekozen kan worden dat de foutmarge ≤ t = p(|w|) is: Veronderstel eerst dat x in L. Laat X i de random variable zijn met X i =1 als M accepteert in i-de trial anders 0. Laat X =  X i Dan geldt: E[X/m] = 1-  > 1/2 en Pr( M’ geeft foutief antwoord) = Pr( X/n < 0.5) ≤ Pr(X/m - (1-  )<  ) Pas nu Chernoff toe met Pr(X/m - (1-  ) < δ ) ≤ e -(δ^2)m/(2(1-  )  ). Bepaal nu m uit δ =  -0.5 e -(δ^2)m/(2(1-  )  ) ≤ t. Hieruit volgt dat m ≥ ln(1/t)x δ 2 /(2(1-  )  ) volstaat. Het bewijs gaat analoog voor het geval x niet in L. Het is duidelijk dat een waarde voor m gekozen kan worden die de foutmarge polynomiaal klein maakt. deze stelling zegt dat de klasse BPP niet verandert als de foutmarge polynomiaal klein wordt gemaakt.

T U Delft Parallel and Distributed Systems group PGS PP: probabilistic polynomial time PP L in PP als er een polynomiale PrTM M bestaat waarvoor geldt: x  L  Pr ( M(x) = accept] > 0.5 Stelling NP  PP Bewijs: Laat L in NP en M een NTM die L accepteert. Construeer de volgende machine M’ : voor iedere input w: - met kans 0.5 accepteer w ; - met kans 0.5 simuleer M voor w Als w  L dan is de kans op acceptatie > 0.5 Als w  L dan is de kans op acceptatie ≤ 0.5 PP probleem: MAJSAT: gegeven SAT probleem (U,C) wordt C vervuld door meer dan de helft van de waarheidstoekenningen ? Nb: merk op dat deze constructie niet gebruikt kan worden om aan te tonen dat NP  BPP: het aantal accepterende paden voor een non- deterministische berekening kan exponentieel klein zijn t.o.v. het totaal aantal berekeningspaden. De foutmarge bij acceptatie/verwerping kan dan nooit polynomiaal klein in |w| gemaakt worden.

T U Delft Parallel and Distributed Systems group PGS randomized complexity: relaties tussen klassen NP  PP en BPP  PP BPP   2   2 ( dwz alle BPP problemen zijn problemen op het tweede nivo van de polynomiale hierarchie) alle problemen in BPP hebben polynomiale circuits ( dwz het is onwaarschijnlijk dat BPP  NP )

T U Delft Parallel and Distributed Systems group PGS P, NP, BPP en PP Co-NPC NPC NPCo-NP P BPP PP

T U Delft Parallel and Distributed Systems group PGS Onderwerpen Probabilistische Turing Machines - Probabilistisch beslissen - de klasse BPP en PP Quantum Turing Machines - Quantum computing - Quantum complexiteit: de klasse BPQ

T U Delft Parallel and Distributed Systems group PGS Quantum Computing Conventionele machines opereren op 0 -1 bitrijtjes met logische poorten (AND, OR, NOR, NAND,... ) Quantum computers - opereren op quantum bits (qubit). Een qubit kent twee basistoestanden: spin-down ( |0  ) en spin-up ( |1> ). - Een qubit kan zich echter ook in een superpositie van toestanden bevinden: a |0  + b |1> met a 2 + b 2 = 1. - Meting van zo’n toestand resulteert in een basistoestand: toestand |0  met kans a 2 en toestand |1> met kans b 2 - Een k-qubit systeem kan bestaan in iedere superpositie van de 2 k basistoestanden: a 1 |000…0> + a 2 |000…1> a 2^k |111…1> met ∑ a 2 i = 1. Bij meting resulteert weer een basistoestand j met kans a j 2

T U Delft Parallel and Distributed Systems group PGS Quantum Computing een niet geobserveerd quantum systeem evolueert volgens een unitaire tranformatie T. Zo’n transformatie T opereert op een superpositie vector u T = (a 1, a 2, …, a 2^n ) en heeft de eigenschap dat ∑(u t T) i 2 = ∑ (u i t ) 2 = ∑ a i 2 = 1 (T bewaart de L2-norm) Vb 1/  2 1/  2 1/  2 1/  2 -1//  2 1/  2 -1//  2 1/  2 T = (a 1, a 2 ) = (a 1 -a 2 )/  2, (a 1 +a 2 )/  2 ) merk op dat voor unitaire transformaties geldt: T t T = I

T U Delft Parallel and Distributed Systems group PGS Quantum fenomenen Als een foton een halfdoorlaatbare spiegel passeert, wordt met p =.5 het foton gedetecteerd door d1 of d2 Plaatsen we twee halfdoorlaatbare en twee niet-doorlaatbare spiegels, dan zou je opnieuw met p =.5 het foton verwachten bij d1 of d2. Het foton verschijnt echter alleen bij d1! Plaatsen we nu een ondoorlaatbaar object op een pad, dan wordt opnieuw met p =.5 het foton gedetecteerd door d1 en d2.

T U Delft Parallel and Distributed Systems group PGS Quantum fenomenen: analyse blokkade reduceert superpositie (1/  2 1/  2 ) tot (1, 0) en dan volgt met A de resulterende toestand (1/  2 1/  2 ) bij de 2e spiegel. Door de halfdoorlaatbare spiegel wordt de toestand (1,0) getransformeerd in de toestand 1/  2 1/  2 -1//  2 1/  2 = (1/  2 1/  2 ) (1, 0) = (0, 1) Na 2e spiegel wordt de toestand (1/  2, 1/  2 ) getransformeerd in 1/  2 1/  2 -1//  2 1/  2 (1/  2, 1/  2 )

T U Delft Parallel and Distributed Systems group PGS Quantum Turing machines Doel: presentatie quantum complexiteits theorie zonder fysica-ballast Hoe: introductie Turingmachines en configuratie transitiematrices 1. deterministische Tm 2. nondeterministische Tm 3. probabilistische Tm 4. quantum Tm bron: Lance Fortnow: One Complexity Theorist’s view of Quantum Computing

T U Delft Parallel and Distributed Systems group PGS Configuratie overgangen Configuratie van een Tm M voor input x is een beschrijving van - input - inhoud van de werktapes, - huidige toestand - posities van de lees- en schrijfkoppen op de tapes. Transitiematrix T is aanpassing van transitiefunctie  van M voor configuraties Definitie Voor een DTM M met configuratieverzameling C en input x: T(c, c’) = 1  M in configuratie c voor input x, kan in één stap overgaan naar configuratie c’

T U Delft Parallel and Distributed Systems group PGS Tm : transitiematrix T T k (c a,c b ) =1  als M voor input x in c a start, is M na k stappen in configuratie c b T t(|x|) (c init,c acc ) =1  M accepteert x T(c a,c b ) =1  c b is in een stap vanuit c a te bereiken, anders T(c a,c b ) = 0 c init : beginconfiguratie c acc : accepterende configuratie P : klasse van problemen oplosbaar met polynomiale Tm efficient berekenbare klasse

T U Delft Parallel and Distributed Systems group PGS NTm: transitiematrix T T n (c a,c b ) = k  aantal berekeningpaden ter lengte van n vanuit c a naar c b is gelijk aan k T t(|x|) (c init,c acc ) > 0  M accepteert x T(c a,c b ) =1  c b is in één stap vanuit c a te bereiken, anders T(c a,c b ) = 0 NP : klasse van problemen oplosbaar met polynomiale NTm efficient berekenbare klasse

T U Delft Parallel and Distributed Systems group PGS PrTm : Transitie matrix T T n (c a,c b ) = p  Pr[ c b in n stappen vanuit c a te bereiken ] = k T t(|x|) (c init,c acc ) = p  Pr [ M accepteert x ] = p T(c a,c b ) = p  kans om c b in één stap vanuit ( 0 ≤ p ≤ 1) c a te bereiken is p.  c  c’  C T(c,c’) = 1 : T is een stochastische matrix Transitiematrix L  BPP   x  L T t(|x|) (c init,c acc ) > 0.75 (t(n) is polynoom in n)  x  L T t(|x|) (c init,c acc ) < 0.25 efficient berekenbare klasse

T U Delft Parallel and Distributed Systems group PGS Quantum TM: transities A  BQP   x  Yes A ( T t(|x|) (c init,c acc )) 2 > 0.75  x  Yes A ( T t(|x|) (c init,c acc )) 2 < 0.25 (t(n) is polynoom in n) BQP : klasse van efficient quantum-berekenbare problemen T is unitair : voor alle vectoren u geldt || u T T || 2 =  i=1..|C| u i 2 (T t(|x|) (c init,c acc )) 2 = p  Pr [ M accepteert x ] = p (T(c a,c b )) 2 = z 2  Pr [ c b vanuit c a in een stap] = z 2 z  Q arbitrair Transitiematrix voor configuraties

T U Delft Parallel and Distributed Systems group PGS Quantum complexity : BQP BPP  BQP  PP  PSPACE P BPP BQP PSPACE PP

T U Delft Parallel and Distributed Systems group PGS Opmerkingen Quantum Comp Quantum turing machine (qtm) zijn krachtiger dan standaard Tm’s Commentaar: Nee, iedere quantum computer kan gesimuleerd worden door een klassieke Tm. Voor een aantal problemen is mogelijkerwijs een speedup t.o.v. klassieke berekeningsmodellen te behalen. Reversibele operaties zijn een kenmerk van quantum berekeningen Commentaar: reversibiliteit is een consequentie van het feit dat T unitair is. Unitaire matrices zijn inverteerbaar: als Tu = v, dan is het mogelijk uit toestand v weer u te verkrijgen: T -1 v= u. Quantum computers zijn sneller dan klassieke computers Commentaar Teruggebracht tot de vraag geldt BPP  BQP ? luidt het antwoord: dat weten we niet. Dit zou namelijk impliceren P ≠ PSPACE en dit is nog open.

T U Delft Parallel and Distributed Systems group PGS QC: nog een paar resultaten Bennett et al 1997: er bestaat een random orakel zodat een qtm exponentiële tijd nodig heeft om een NPC probleem op te lossen. Varizani 2000 BQP is waarschijnlijk niet bevat in NP; BQP  BPP NP is open Grover (1996) : quantum computing algoritme voor vinden item in een ongesorteerde database van n items in O(  n)-tijd. (Bennet: Grover’s algoritme is optimaal) Schor (1994) factorizering : O(n 3 ) quantum computing algoritme

T U Delft Parallel and Distributed Systems group PGS BQP en NPC Onwaarschijnlijk dat NPC  BQP ≠  gegeven een blackbox programma dat op precies één n-bit string een 1 oplevert. Er is geen enkel quantum algoritme dat deze string kan vinden in minder dan 2 n/2 - tijd

T U Delft Parallel and Distributed Systems group PGS NP, BPP en BQP ? Co-NPC NPC NP Co-NP BQP BPP P

T U Delft Parallel and Distributed Systems group PGS Gegeven een verzameling van m planners P 1,..., P m. Iedere planner P i beschikt over n i alternatieve plannen p i 1,..., p i ni om zijn doel te verwezenlijken. Voor uitvoering van een plan zijn resources uit een verzameling R nodig. Van ieder plan p i j, i =1,  m, j = 1, , n i, is de verzameling R i j  R van resources bekend die benodigd zijn om het plan p i j te realiseren. De vraag is nu of er voor iedere planner P i een plan p i i0 bestaat zodanig dat voor elk tweetal planners P i en P j geldt R i i0  R j j0 = , m.a.w., kan iedere planner een van zijn plannen kiezen zodanig dat er tussen de gekozen plannen geen resource-conflicten ontstaan? 1.Toon aan dat dit probleem een NP-probleem is. 2.Toon aan dat dit probleem een NP-compleet probleem is. Hint: U kunt hierbij gebruikmaken van het volgende NP-complete EXACT 3-COVER probleem Instantie: een verzameling X van 3q elementen en een verzameling C van subsets die ieder uit precies drie elementen van X bestaan. Vraag: bestaat er een deelcollectie C’ van C zodanig dat ieder element van X precies eenmaal voorkomt in een element van C’? Een open vraag

T U Delft Parallel and Distributed Systems group PGS Uitwerking Ad vraag 1 Laat p i i0 voor i =1,..., m een voorgestelde oplossing zijn. We controleren eerst of iedere planner precies 1 plan heeft gekozen: kosten O(m 2 ). Vervolgens gaan we per planner i na of er geen resource conflicten tussen R i i0 en de resources van de overige plannen bestaan. Dit kost per plan p i i0 O(|R i i0 | x  j≠i |R j j0 | ) –tijd en in totaal derhalve O( (  |R j j0 |) 2 )-tijd. Aangezien de grootte van de probleeminstantie minstens O(  |R j j0 | + m) bedraagt, is de check derhalve in kwadratische tijd uit te voeren.

T U Delft Parallel and Distributed Systems group PGS Uitwerking Ad 2 (Schets) Gegeven een instantie (X, q, C) van het EXACT 3-COVER probleem creeren we de volgende instantie van het planningsprobleem: 1.R = X 2.Er zijn q planners P i die ieder beschikken over eenzelfde verzameling van |C| plannen p i 1,..., p i |C| 3.Ieder plan p i j heeft een verzameling resources R i j = c j i.e. de j-de verzameling uit C. De correctheid is simpel in te zien: (X, q, C) is een yes-instantie  er bestaan q verzamelingen c j uit C die tezamen exact X overdekken en geen enkele x uit X komt meer dan een keer voor in deze selectie  er bestaat voor iedere planner een plan p j met resources c j die elkaar niet overlappen  (R, {P i }, {R i j } i=1,.. q j =1..|C| } is een yes-instantie van het planningsprobleem. De reductie is in een tijd kwadratisch in de probleem-instantie uit te voeren.

T U Delft Parallel and Distributed Systems group PGS Slotopmerkingen Probabilistische complexiteitsklassen worden behandeld in hfst De blz (tot primality) behoren tot de verplichte tentamenstof, evals de slides t/m de klasse PP. De eigenschappen van BPP en de relatie tot de polynomiale hierarchie behoeven niet gekend te worden. De slides over quantum computing behoren eveneens tot de verplichte tentamenstof, behalve de slides

T U Delft Parallel and Distributed Systems group PGS TOT ZIENS en succes !