Wie verhalten sich O und Ω zum schlechtesten und besten Fall?

Heute haben wir in einer Vorlesung einen sehr einfachen Algorithmus zum Finden eines Elements in einem sortierten Array unter Verwendung der binären Suche besprochen . Wir wurden gebeten, die asymptotische Komplexität für ein Array von Elementen zu bestimmen .$n$

Meine Idee war, dass es offensichtlich oder , um genauer zu sein, weil die Anzahl der Operationen im schlimmsten Fall ist. Aber ich kann es besser machen, zum Beispiel, wenn ich das gesuchte Element zum ersten Mal drücke - dann ist die untere Schranke .O ( log 2 n ) log 2 n Ω ( 1 $O(\log n)$$O(\log_2 n)$$\log_2 n$$\Omega(1)$

Der Dozent präsentierte die Lösung als da wir normalerweise nur Worst-Case-Eingaben für Algorithmen berücksichtigen.$\Theta(\log n)$

Aber wenn wir nur die schlimmsten Fälle betrachten, was ist der Sinn von und -Notation, wenn alle schlimmsten Fälle des gegebenen Problems die gleiche Komplexität haben ( wäre alles, was wir brauchen, oder?).Ω $O$$\Omega$$\Theta$

Was vermisse ich hier?

Die Landau-Notation bezeichnet asymptotische Funktionsgrenzen . Sehen Sie hier für eine Erklärung der Unterschiede zwischen , und .Ω $O$$\Omega$$\Theta$

Worst-, Best-, Average- oder You-Name-It-Case-Zeit beschreiben unterschiedliche Laufzeitfunktionen: eine für die Sequenz der höchsten Laufzeit von , eine für die der niedrigsten und so weiter.$n$

An sich haben die beiden nichts miteinander zu tun. Die Definitionen sind unabhängig. Jetzt können wir asymptotische Grenzen für Laufzeitfunktionen formulieren: obere ( ), untere ( ) oder beide ( ). Wir können entweder für den schlechtesten, besten oder jeden anderen Fall tun.Ω $O$$\Omega$$\Theta$

Beispielsweise erhalten wir bei der binären Suche eine Laufzeitasymptotik für den besten Fall von und eine Asymptotik für den schlechtesten Fall von .Θ ( log n $\Theta(1)$$\Theta(\log n)$

Betrachten Sie den folgenden Algorithmus (oder die Prozedur oder den Code oder was auch immer):

Contrive(n)
1. if n = 0 then do something Theta(n^3)
2. else if n is even then
3.    flip a coin
4.    if heads, do something Theta(n)
5.    else if tails, do something Theta(n^2)
6. else if n is odd then
7.    flip a coin
8.    if heads, do something Theta(n^4)
9.    else if tails, do something Theta(n^5)

Was ist das asymptotische Verhalten dieser Funktion?

Im besten Fall (wo ist) ist die Laufzeit Ω ( n ) und O ( n 2 ) , aber nicht Θ von irgendetwas.$n$$\Omega(n)$$O(n^2)$$\Theta$

Im schlimmsten Fall (wobei ungerade ist) beträgt die Laufzeit Ω ( n 4 ) und O ( n 5 ) , aber nicht Θ von irgendetwas.$n$$\Omega(n^4)$$O(n^5)$$\Theta$

Im Fall beträgt die Laufzeit Θ ( n 3 ) .$n = 0$$\Theta(n^3)$

Dies ist ein wenig ein ausgedachtes Beispiel, aber nur, um die Unterschiede zwischen der Grenze und dem Fall klar zu demonstrieren. Sie könnten den Unterschied mit vollständig deterministischen Verfahren sinnvoll werden müssen, wenn die Aktivitäten Sie ausführen , haben keine bekannten Grenzen.$\Theta$

Nicht unbedingt. In diesem Fall, nämlich der binären Suche in einem sortierten Array, können Sie Folgendes feststellen: (a) Die binäre Suche dauert höchstens Schritte; (b) Es gibt Eingaben, die tatsächlich so viele Schritte erzwingen. Wenn also die Laufzeit eines Eingangs im ungünstigsten Fall für die binäre Suche ist, können Sie sagen, dass .T ( n ) T ( n ) = Θ ( log n $[\log n + 1]$$T(n)$$T(n) = \Theta(\log n)$

Andererseits können Sie für andere Algorithmen möglicherweise genau berechnen. In diesem Fall besteht möglicherweise eine Lücke zwischen der Ober- und Untergrenze für die Laufzeit bei einer Worst-Case-Eingabe.$T(n)$

Für das Durchsuchen eines sortierten Arrays gilt jedoch noch etwas anderes: Jeder Algorithmus zum Durchsuchen eines sortierten Arrays muss überprüfen . Für diese Art von Untergrenze müssen Sie jedoch das Problem selbst analysieren. (Hier ist die Idee: Ein Suchalgorithmus hat zu keinem Zeitpunkt eine Menge von Positionen ausgeschlossen, an denen sich das gesuchte Element befinden kann. Eine sorgfältig ausgearbeitete Eingabe kann dann garantieren, dass ist höchstens um den Faktor reduziert .)S ⊂ [ n ] | S | $[\log n + 1]$$S\subset [n]$$|S|$$2$

Sie haben recht, viele Leute benutzen schlampig wenn sie benutzen sollten . Zum Beispiel kann ein Algorithmusanalytiker am Ende eine Zeitfunktion und sofort zu dem Schluss kommen, dass , was technisch richtig ist , aber eine schärfere Behauptung wäre . Ich schreibe dieses ahnungslose Verhalten zwei Gründen zu. Erstens sehen viele als populärer und akzeptabler an, möglicherweise aufgrund seiner langen Geschichte. Denken Sie daran, dass es vor mehr als einem Jahrhundert eingeführt wurde, während (und ) erst 1976 (von Donald Knuth) eingeführt wurden. Zweitens könnte es sein, weil$O$$\Theta$$% T(n)=n^{2}+n+2$$T(n)=O(n^{2})$$T(n)=\Theta (n^{2})$$O$$\Theta$$% \Omega$$O$ist leicht verfügbar auf der Tastatur, während nicht ist!$\Theta$

Aus technischer Sicht ist der Hauptgrund, warum vorsichtige Analysten gegenüber bevorzugen, dass ersteres "größeres Gebiet" abdeckt als letzteres. Wenn wir ein Beispiel für eine binäre Suche nehmen und möchten , müssen wir zwei Aussagen treffen: \ eine für den besten Fall, nämlich , und eine andere für den schlimmsten Fall, nämlich . Mit machen wir nur eine Aussage, nämlich . Mathematisch werden die von abgedeckten Funktionen auch von abgedeckt , wohingegen das Umgekehrte nicht unbedingt zutrifft.$O$$\Theta$$\Theta$$\Theta (1)$$% \Theta (\log n)$$O$$O(\log n)$$\Theta$$O$