Welche Szenarien würden die Verwendung des Algorithmus " Map and Reduce " rechtfertigen ?
Gibt es eine .NET-Implementierung dieses Algorithmus?
Welche Szenarien würden die Verwendung des Algorithmus " Map and Reduce " rechtfertigen ?
Gibt es eine .NET-Implementierung dieses Algorithmus?
Antworten:
Linq-Äquivalente von Map und Reduce: Wenn Sie das Glück haben, Linq zu haben, müssen Sie keine eigene Map schreiben und Funktionen reduzieren. C # 3.5 und Linq haben es bereits, wenn auch unter verschiedenen Namen.
Karte ist Select
:
Enumerable.Range(1, 10).Select(x => x + 2);
Reduzieren ist Aggregate
:
Enumerable.Range(1, 10).Aggregate(0, (acc, x) => acc + x);
Filter ist Where
:
Enumerable.Range(1, 10).Where(x => x % 2 == 0);
Reduce
statt Aggregate
... MS nervt nur gerne Programmierer
Die Problemklassen, die für eine Mapreduce-Lösung gut geeignet sind, sind Aggregationsprobleme. Daten aus einem Datensatz extrahieren. In C # könnte man LINQ nutzen, um in diesem Stil zu programmieren.
Aus dem folgenden Artikel: http://codecube.net/2009/02/mapreduce-in-c-using-linq/
Die GroupBy-Methode fungiert als Zuordnung, während die Select-Methode die Zwischenergebnisse in die endgültige Ergebnisliste reduziert.
var wordOccurrences = words
.GroupBy(w => w)
.Select(intermediate => new
{
Word = intermediate.Key,
Frequency = intermediate.Sum(w => 1)
})
.Where(w => w.Frequency > 10)
.OrderBy(w => w.Frequency);
Den verteilten Teil finden Sie unter DryadLINQ: http://research.microsoft.com/en-us/projects/dryadlinq/default.aspx
Da kann ich nie , dass LINQ nennt sie erinnern Where
, Select
und Aggregate
statt Filter
, Map
und Reduce
so habe ich ein paar Erweiterungsmethoden erstellt wurden, können Sie verwenden:
IEnumerable<string> myStrings = new List<string>() { "1", "2", "3", "4", "5" };
IEnumerable<int> convertedToInts = myStrings.Map(s => int.Parse(s));
IEnumerable<int> filteredInts = convertedToInts.Filter(i => i <= 3); // Keep 1,2,3
int sumOfAllInts = filteredInts.Reduce((sum, i) => sum + i); // Sum up all ints
Assert.Equal(6, sumOfAllInts); // 1+2+3 is 6
Hier sind die 3 Methoden (von https://github.com/cs-util-com/cscore/blob/master/CsCore/PlainNetClassLib/src/Plugins/CsCore/com/csutil/collections/IEnumerableExtensions.cs ):
public static IEnumerable<R> Map<T, R>(this IEnumerable<T> self, Func<T, R> selector) {
return self.Select(selector);
}
public static T Reduce<T>(this IEnumerable<T> self, Func<T, T, T> func) {
return self.Aggregate(func);
}
public static IEnumerable<T> Filter<T>(this IEnumerable<T> self, Func<T, bool> predicate) {
return self.Where(predicate);
}
Weitere Informationen finden Sie unter https://github.com/cs-util-com/cscore#ienumerable-extensions :