Theoretische Informatik machine-learning

5

Welche Antwort möchte TCS auf die Frage "Warum funktionieren neuronale Netze so gut?"

Mein Ph.D. ist in reiner Mathematik, und ich gebe zu, ich weiß nicht viel (dh nichts) über theoretische CS. Ich habe jedoch begonnen, nicht-akademische Optionen für meine Karriere zu erkunden und mich mit maschinellem Lernen vertraut zu machen. Dabei stieß ich auf Aussagen wie "Niemand versteht, warum neuronale Netze gut …

52 machine-learning

10

Großartige Algorithmen, maschinelles Lernen und keine lineare Algebra

Ich unterrichte einen Kurs über fortgeschrittene Algorithmen und möchte einige Themen im Zusammenhang mit maschinellem Lernen behandeln, die für meine Studenten von Interesse sind. Infolgedessen würde ich gerne die Meinung der Leute zu den derzeit interessantesten / größten algorithmischen Ergebnissen beim maschinellen Lernen hören. Die potenziell knifflige Einschränkung besteht darin, …

30 ds.algorithms machine-learning teaching

1

Funktionen, die nicht effizient berechenbar, aber lernbar sind

Wir wissen, dass (siehe z. B. Theoreme 1 und 3 von [1]) unter geeigneten Bedingungen Funktionen, die von Turing-Maschinen in polynomieller Zeit effizient berechnet werden können ("effizient berechenbar"), durch polynomielle neuronale Netze ausgedrückt werden können mit vernünftigen Größen und kann somit mit polynomieller Abtastkomplexität ("lernbar") unter beliebigen Eingangsverteilungen gelernt werden. …

28 cc.complexity-theory np-hardness machine-learning turing-machines lg.learning

2

Welche Rolle spielt die Algorithmik in Zukunft, wenn sich die Techniken des maschinellen Lernens weiter verbessern?

Schauen wir uns die Zukunft in 30 Jahren an. Seien wir optimistisch und gehen wir davon aus, dass sich die Bereiche des maschinellen Lernens so schnell weiterentwickeln wie in den letzten 10 Jahren. Das wäre großartig, aber welche Rolle spielt dann die traditionelle Algorithmik in einer solchen Zukunft? Hier beziehe …

23 ds.algorithms soft-question machine-learning

1

Natürliche, nicht testbare Diagrammeigenschaften

In Graph Eigenschaft Tests fragt ein Algorithmus eine Zielgraphen für das Vorhandensein oder Fehlen von Kanten und Bedürfnissen zu bestimmen , ob entweder das Ziel eine bestimmte Eigenschaft aufweist oder von mit der Eigenschaft -Far. (Ein Algorithmus kann aufgefordert werden , mit 1-seitig oder 2-sided Fehler erfolgreich zu sein.) Ein …

22 cc.complexity-theory machine-learning query-complexity property-testing

1

Das Warren Buffett Problem

Hier ist eine Abstraktion eines Online-Lern- / Banditenproblems, an dem ich im Sommer gearbeitet habe. Ich habe so ein Problem noch nie gesehen und es sieht ziemlich interessant aus. Wenn Sie verwandte Arbeiten kennen, würde ich mich über Referenzen freuen. Das Problem Die Einstellung ist die von mehrarmigen Banditen. Du …

19 machine-learning lg.learning online-learning

5

Ist es möglich zu testen, ob eine berechenbare Zahl rational oder ganzzahlig ist?

Ist es möglich, algorithmisch zu testen, ob eine berechenbare Zahl rational oder ganzzahlig ist? Mit anderen Worten, könnte eine Bibliothek, die berechenbare Zahlen implementiert, die Funktionen bereitstellen, isIntegeroder isRational? Ich vermute, dass es nicht möglich ist und dass dies irgendwie damit zusammenhängt, dass es nicht möglich ist, zu testen, ob …

18 computability computing-over-reals lambda-calculus graph-theory co.combinatorics cc.complexity-theory reference-request graph-theory proofs np-complete cc.complexity-theory machine-learning boolean-functions combinatory-logic boolean-formulas reference-request approximation-algorithms optimization cc.complexity-theory co.combinatorics permutations cc.complexity-theory cc.complexity-theory ai.artificial-intel p-vs-np relativization co.combinatorics permutations ds.algorithms algebra automata-theory dfa lo.logic temporal-logic linear-temporal-logic circuit-complexity lower-bounds permanent arithmetic-circuits determinant dc.parallel-comp asymptotics ds.algorithms graph-theory planar-graphs physics max-flow max-flow-min-cut fl.formal-languages automata-theory finite-model-theory dfa language-design soft-question machine-learning linear-algebra db.databases arithmetic-circuits ds.algorithms machine-learning ds.data-structures tree soft-question security project-topic approximation-algorithms linear-programming primal-dual reference-request graph-theory graph-algorithms cr.crypto-security quantum-computing gr.group-theory graph-theory time-complexity lower-bounds matrices sorting asymptotics approximation-algorithms linear-algebra matrices max-cut graph-theory graph-algorithms time-complexity circuit-complexity regular-language graph-algorithms approximation-algorithms set-cover clique graph-theory graph-algorithms approximation-algorithms clustering partition-problem time-complexity turing-machines term-rewriting-systems cc.complexity-theory time-complexity nondeterminism

5

Inwieweit ist fortgeschrittene Mathematik in der KI-Forschung notwendig / nützlich?

Ich studiere zurzeit Mathematik. Ich glaube jedoch nicht, dass ich in Zukunft professioneller Mathematiker werden möchte. Ich denke darüber nach, meine mathematischen Kenntnisse in die Forschung mit künstlicher Intelligenz einzubringen. Ich bin mir jedoch nicht sicher, wie viele Mathematikkurse ich belegen soll. (Und welche Kurse zur CS-Theorie sollte ich besuchen?) …

18 soft-question machine-learning ai.artificial-intel

1

Ist BPP vs. P ein echtes Problem, nachdem wir wissen, dass BPP in P / poly liegt?

Wir wissen (seit nunmehr rund 40 Jahren, danke Adleman, Bennet und Gill), dass die Aufnahme BPP P / poly und eine noch stärkere BPP / poly P / poly hält. Das "/ poly" bedeutet, dass wir ungleichmäßig arbeiten (ein separater Schaltkreis für jede Eingangslänge ), während P ohne dieses "/ …

16 cc.complexity-theory circuit-complexity machine-learning derandomization

3

Kombinatorische Charakterisierung des exakten Lernens mit Mitgliedschaftsabfragen

Bearbeiten: Da ich seit einer Woche keine Antworten / Kommentare mehr erhalten habe, möchte ich hinzufügen, dass ich froh bin, etwas über das Problem zu hören. Ich arbeite nicht in der Gegend, auch wenn es eine einfache Beobachtung ist, weiß ich es vielleicht nicht. Sogar ein Kommentar wie "Ich arbeite …

15 reference-request machine-learning lg.learning

1

Universelle Funktionsapproximation

Über den universellen Approximationssatz ist bekannt, dass ein neuronales Netzwerk mit nur einer einzigen verborgenen Schicht und einer willkürlichen Aktivierungsfunktion jede kontinuierliche Funktion approximieren kann. Welche anderen Modelle gibt es, die auch universelle Funktionsapproximatoren sind

15 machine-learning function approximation

2

Quanten-PAC-Lernen

Hintergrund Funktionen in sind PAC, die in quasipolynomialer Zeit mit einem klassischen Algorithmus lernbar sind, der zufällig ausgewählte O ( 2 l o g ( n ) O ( d ) ) -Anfragen benötigt, um eine Schaltung mit der Tiefe d [1] zu lernen. Wenn es kein 2 n o …

15 quantum-computing lg.learning machine-learning open-problem ne.neural-evol

2

Theoretische Garantien für Laufzeiten von Glaubensvermittlungsmethoden?

Durch die Erforschung probabilistischer grafischer Modelle hat sich die Glaubensausbreitung als sehr leistungsfähige Methode erwiesen. Ich weiß jedoch nichts über BP, das mit MCMC-Methoden vergleichbar ist, bei denen wir für # P-vollständige Probleme vollständig polynomielle randomisierte Approximationsschemata (FPRAS) haben können. Könnte mich jemand auf einige Referenzen hinweisen?

14 cc.complexity-theory reference-request graph-algorithms machine-learning st.statistics

1

Gibt es eine Arbeit, die maschinelles Lernen und die exotischeren Formen der Komplexitätstheorie kombiniert?

Mir scheint, dass Experten für maschinelles Lernen / Data Mining mit P und NP vertraut sind, aber selten über einige der subtileren Komplexitätsklassen (z. B. NC, BPP oder IP) und deren Auswirkungen auf eine effektive Datenanalyse sprechen. Gibt es eine Arbeitserhebung dazu?

13 cc.complexity-theory reference-request machine-learning

1

Gibt es Verteilungseigenschaften, die „maximal“ schwer zu testen sind?

Ein Verteilungstestalgorithmus für eine Verteilungseigenschaft P (die nur eine Teilmenge aller Verteilungen über [n] ist) erlaubt den Zugriff auf Stichproben gemäß einer Verteilung D und muss entscheiden (whp), ob D∈PD∈PD\in P oder d(D,P)>ϵd(D,P)>ϵd(D,P)>\epsilon ( ddd hier normalerweise der Abstand ℓ1ℓ1\ell_1 ). Das häufigste Maß für die Komplexität ist die Anzahl …

13 cc.complexity-theory machine-learning query-complexity property-testing

Als «machine-learning» getaggte Fragen