Sind die Funktionen immer asymptotisch vergleichbar?

15

Wenn wir die Komplexität zweier Algorithmen vergleichen, ist es normalerweise so, dass entweder oder (möglicherweise beide) gilt, wobei und sind die Laufzeiten (zum Beispiel) der beiden Algorithmen. $f(n) = O(g(n))$ $g(n) = O(f(n))$ $f$ $g$

Ist das immer so? Das heißt, gilt immer mindestens eine der Beziehungen und , dh für allgemeine Funktionen , ? Wenn nicht, welche Annahmen müssen wir treffen und (warum) ist es in Ordnung, wenn wir über die Laufzeit von Algorithmen sprechen? $f(n) = O(g(n))$ $g(n) = O(f(n))$ $f$ $g$

asymptotics mathematical-analysis

— Raphael
quelle

21

Nicht jedes Funktionspaar ist mit der Notation vergleichbar . Betrachte die Funktionen und Außerdem entstehen Funktionen wie tatsächlich als Laufzeiten von Algorithmen. Betrachten Sie den offensichtlichen Brute-Force-Algorithmus, um festzustellen, ob eine bestimmte Ganzzahl eine Primzahl ist: $O(\cdot)$ $f(n) = n$

g (n) = {\begin{cases} 1 & if n is odd, \\ n^{2} & if n is even . \end{cases}

$g(n) = \begin{cases} 1 & \text{if $n$ is odd}, \\\ n^2 & \text{if $n$ is even}. \end{cases}$

g (n)

$g(n)$

n

$n$

IsPrime(n):
  for i ← 2 to (n-1)
     if i·⌊n/i⌋ = n
        return False
  return True

Dieser Algorithmus erfordert arithmetische Operationen, wenn ist, $\Theta(1)$ $n$ Operationen, wennist, aberOperationen, wennPrimzahl ist. Daher ist dieser Algorithmus formalnichtmit einem Algorithmus zu vergleichen, der $O(\sqrt{n})$ $n$ $\Theta(n)$ $n$ arithmetische Operationen fürjedes. $\sqrt{n}$ $n$

Die meiste Zeit, wenn wir Algorithmen analysieren, wollen wir nur eine asymptotische Obergrenze der Form für eine relativ einfache Funktion . Zum Beispiel sind die meisten Lehrbücher würde einfach (und richtig) berichten , dass läuft in arithmetischen Operationen. Typische Funktionen der oberen Schranke sind Produkte von Exponentialen, Polynomen und Logarithmen (obwohl gelegentlich auch exotischere Tiere wie Fakultäten und iterierte Logarithmen auftauchen). Es ist nicht schwer zu beweisen, dass zwei solcher Funktionen vergleichbar sind. $O(f(n))$ $f$ IsPrime(n) $O(n)$

Siehe auch diese MathOverflow-Frage .

— JeffE
quelle

7

Aus Wikipedia, Definition der großen O-Notation:

wenn und nur wenn es eine positive Konstante M so ist , daß für alle hinreichend große Werte von , ist höchstens M multipliziert im absoluten Wert. Das heißt, genau dann, wenn es eine positive reelle Zahl und eine reelle Zahl so dass $x$ $f(x)$ $g(x)$ $f(x) \in O(g(x))$ $M$ $x_0$

$|f(x)|<= M |g(x)| \quad \text{for all} \; x > x_0$

Was passiert mit Funktionen, die nicht konvergieren (gegen eine Konstante oder gegen unendlich)?

$f(x) = |xsin(x)|$ $g(x) = 10$

$x_0$ $x > x0$ $x = k\pi$ $f(x) = 0$ $M$ $Mf(x) > g(x)$ $g(x) \; \not\in O(f(x))$

$|xsin(x)|$ $M$ $x_0$ $x > x_0$ $f(x) < Mg(x)$ $f(x) \not\in O(g(x))$

$Mf(x)$ $g(x)$ $g(x) = \log(x)$

— amit
quelle

6

Hier ist ein Paar monotone Funktionen, die nicht asymptotisch vergleichbar sind. Dies ist relevant, da die meisten in der Praxis auftretenden Komplexitäten tatsächlich monoton sind.

f (x) = Γ (⌊ x ⌋ + 1) = ⌊ x ⌋!

$f(x) = \Gamma( \lfloor x \rfloor + 1 ) = \lfloor x \rfloor !$

g (x) = Γ (⌊ x - 1 / 2 ⌋ + 3 / 2)

$g(x) = \Gamma( \lfloor x-1/2 \rfloor + 3/2 )$

$\Gamma$

— Ambroz Bizjak
quelle

4

$\mathcal{L}$ $\exp(2\sqrt{\log x + \log\log x})/x^2$ $f,g \in \mathcal{L}$ $f = o(g)$ $f = \omega(g)$ $f/g$

Das Ergebnis ist , dass zwei „einfachen“ Funktionen in der Analyse von Algorithmen auftretenden sind vergleichbar. Hier bedeutet "einfach", dass es keine Definition nach Fällen gibt (außer endlich vielen Basisfällen) und keine überraschenden Funktionen auftreten, wie die inverse Ackermann-Funktion, die manchmal in Laufzeiten angegeben wird.

— Yuval Filmus
quelle

Nett! Es ist jedoch bemerkenswert, dass periodische Elemente in der Durchschnittsfallanalyse (von D & C-Algorithmen) häufig vorkommen. Die eine, die ich kenne, ist auf beiden Seiten durch Konstanten gebunden, damit die asymptotische Vergleichbarkeit nicht beeinträchtigt wird.

— Raphael