Algorithmische Intuition für logarithmische Komplexität

Ich glaube, ich habe ein vernünftiges Verständnis für Komplexitäten wie , Θ ( n ) und Θ ( n 2 ) .$\mathcal{O}(1)$$\Theta(n)$$\Theta(n^2)$

In Bezug auf eine Liste ist eine konstante Suche, sodass es nur den Kopf der Liste erhält. Θ ( n ) ist die Stelle, an der ich die gesamte Liste durchlaufen würde, und Θ ( n 2 ) durchläuft die Liste für jedes Element in der Liste einmal.$\mathcal{O}(1)$$\Theta(n)$$\Theta(n^2)$

Gibt es eine ähnliche intuitive Möglichkeit, zu erfassen, außer zu wissen, dass es irgendwo zwischen O ( 1 ) und Θ ( n ) liegt ?$\Theta(\log n)$$\mathcal{O}(1)$$\Theta(n)$

Die -Komplexität ist normalerweise mit der Unterteilung verbunden. Stellen Sie sich am Beispiel von Listen eine Liste vor, deren Elemente sortiert sind. Sie können in dieser Liste in O ( log n ) -Zeit suchen. Aufgrund der Sortierung der Liste müssen Sie nicht jedes Element einzeln betrachten.$\Theta(\log n)$$\mathcal{O}(\log n)$

Wenn Sie sich das Element in der Mitte der Liste ansehen und es mit dem gesuchten Element vergleichen, können Sie sofort feststellen, ob es in der linken oder rechten Hälfte des Arrays liegt. Dann können Sie einfach diese eine Hälfte nehmen und den Vorgang wiederholen, bis Sie sie finden oder eine Liste mit 1 Element erreichen, die Sie trivial vergleichen.

Sie können sehen, dass die Liste jeden Schritt effektiv halbiert. Wenn Sie also eine Liste mit der Länge , müssen Sie maximal 5 Schritte ausführen, um eine Liste mit einem Element zu erreichen . Wenn Sie eine Liste von 128 = 2 7 Elementen haben, benötigen Sie nur 7 Schritte, für eine Liste von 1024 = 2 10 benötigen Sie nur 10 Schritte usw.$32$$5$$128 = 2^7$$7$$1024 = 2^{10}$$10$

Wie Sie sehen, gibt der Exponent in 2 n immer die Anzahl der erforderlichen Schritte an. Der Logarithmus wird verwendet, um genau diese Exponentenzahl zu "extrahieren", zum Beispiel log 2 2 10 = 10 . Es wird auch verallgemeinert, um Längen aufzulisten, die keine Zweierpotenzen sind.$n$$2^n$$\log_2 2^{10} = 10$

In Bezug auf (ausgeglichene) Bäume (z. B. Binärbaum, alle sind also Basis 2):$\log$

• bekommt die Wurzel des Baumes$\Theta(1)$
• ist ein Weg von der Wurzel zum Blatt$\Theta(\log n)$
• $\Theta(n)$
• $\Theta(n^2)$
• $\Theta(n^k)$$k$$k$
• $\Theta(2^n)$$k=1,2, \ldots, n$

$O(\log n)$$n$

Beispielsweise können Sie bei der binären Suche die Problemgröße bei jeder Vergleichsoperation um die Hälfte reduzieren.

$O(\log n)$$O(\log n)$$O(\log n)$$\log n$

Denken Sie an einen Algorithmus, um die Dezimalzahl umzuwandeln$n$

while n != 0:
   print n%2, 
   n = n/2

while$\log(n)$

$\log(n)$$1$$n$$1$$n$$\log(n)$

$100$$2^{100}$$2^{100}$$2$$100$$100$$2^{100}$$2^{100}$$2^{100}$

$100$$2^{100}$$100$$2^{100}$$2$$100$$2^{100}$$100$$2^{100}$$\log(n)$$n$

Woher kommen Exponentation und Logarithmen? Warum interessieren sie sich so sehr für Informatik? Sie werden es vielleicht nicht bemerken, aber Exponentation ist überall. Haben Sie die Kreditkarte verzinst? Sie haben gerade ein Universum für Ihr Zuhause bezahlt (nicht so schlecht, aber die Kurve passt). Ich denke gerne, dass die Exponentation von der Produktregel herrührt, aber andere können gerne weitere Beispiele nennen. Was ist die Produktregel, können Sie fragen; Und ich werde antworten.

$A$$B$$C$$B$$C$$A$$C$$D$$C$$A$$D$$2\cdot 3\cdot 4$$24$$2^{10}$$1024$$2^{10}$$10$$10$$2^{10}$$10$$1024$

$\log_2(n)$$n$$n$$2^n$$2$$\log_b(n)$$b$$b$$n$$\log(n)$$n$$n$

$\log(n)$$n$

$O(\log n)$$x$

Es basiert immer noch auf der Größe der Liste, aber Sie müssen nur einen Bruchteil der Elemente besuchen.

$\Theta(\lg^k n)$$\Theta(\lg^{k+1} n)$

$\Theta(1)$$\lg n$

Der binäre Suchalgorithmus ist das klassische Beispiel.

Die Intuition ist, wie oft Sie eine Zahl, sagen wir n, halbieren können, bevor sie auf 1 reduziert wird, ist O (lg n).

Zeichnen Sie es zur Visualisierung als Binärbaum und zählen Sie die Anzahl der Ebenen, indem Sie diesen geometrischen Verlauf lösen.

2^0+2^1+...+2^h = n