Technologie / Techniken, um anstößige Bilder auf einer Website zu verhindern

Ich plane eine Website zu erstellen, deren Hauptmerkmal die Verwendung von Bildern ist. Ich habe mich gefragt, welche vorhandenen Techniken verwendet werden, um zu verhindern, dass anstößige Bilder (z. B. Pornografie) von Benutzern geladen werden. dh was benutzt Facebook oder Pinterest?

Außerdem würde ich gerne wissen, was Ihre Empfehlungen wären, um anstößige Bilder zu kontrollieren, die auf die Website hochgeladen werden sollen (OpenSource-Tools möglicherweise ..). In Anbetracht dessen, dass dies ein persönliches Projekt ist und mit einem sehr kleinen Budget entwickelt wird.

Vielen Dank

Es gibt keine technologische Lösung, die Ihnen sagt, dass ein Bild "anstößig" ist.

Sie müssen bedenken, dass "beleidigend" kulturabhängig ist (und auch eine individuelle Sache) - das heißt, was Sie als beleidigend empfinden und was ich wahrscheinlich sehr unterschiedlich finde.

Dies ist ein soziales Problem und kann nur mit sozialen Lösungen gelöst werden - dies kann Moderation (oder Community-Moderation) bedeuten.

Lassen Sie also entweder Moderatoren jedes Bild genehmigen / ablehnen oder richten Sie ein System ein, mit dem Ihre Benutzer Bilder als anstößig kennzeichnen können und das solche Bilder entfernt, wenn ein bestimmter Schwellenwert erreicht wurde. Möglicherweise möchten Sie Benutzer verfolgen, die solche Bilder hochladen, um sie ebenfalls zu moderieren / zu sperren.

Es gibt Bildinhaltsfilter, die solche Dinge verhindern können. Sie drehen den Bildkontrast auf und zeichnen die Ränder nach und vergleichen ihn mit "bekannten" Erwachsenenbildern. Es gibt eine Menge Forschung zu diesem Thema. Und ich weiß, dass es mindestens einen Dienst gibt, der dies tut, für den es mir entgeht jetzt .. aber sie sind da draußen

Einige Versuche hierzu existieren als Konzept gegen bestimmte Arten von Offensiven, die auf Kantenerkennung basieren. Ich habe Forschungsarbeiten darüber gesehen, aber praktisch wäre alles, was Sie "entdecken" würden, leicht durch Abtönen oder irgendetwas, das die offensichtlichen Umrisse der Objekte aufbricht, spielbar.

Selbst wenn Sie eine funktionierende Implementierung davon bekommen könnten, würde das Internet Ihnen nur einen Schmutz mit Marinefarbe im Stil des Zweiten Weltkriegs auf die Darsteller oder Darsteller in Ghillie-Anzügen hochladen, nur um schwierig zu sein.

Wenn Sie nicht beleidigend als Schmutz, sondern als gewalttätig oder nicht farbig meinen, denke ich nicht einmal, dass Sie eine automatisierte Methode zur Bewertung finden könnten, selbst wenn Sie einen perfekten Bilderkennungsprozess hatten, nur weil niemand zustimmt wenn es die Linie überquert.

Es kommt alles auf die Mustererkennung zurück. Der Grund, warum wir eine Gesichtserkennungssoftware haben, ist, dass Gesichter größtenteils ähnliche Eigenschaften haben und dass die meisten Bilder, die wir von Menschen machen, sie vor der Kamera haben. Das war aber immer noch sehr schwer zu entwickeln. Betrachten wir für einen Moment ein Bild einer Bombe, die ein besiedeltes Ziel trifft. Wie würden Sie ein Muster dafür erstellen? Das Bild hätte eine Explosion, die für einen Menschen ziemlich einfach herauszufinden ist, aber ziemlich schwer zu programmieren ist. Eine Explosion kann verschiedene Größen, Formen und Farben haben. Angenommen, Sie erstellen eine Art regelbasiertes System. Was ist, wenn das Bild eine Explosion für die Lawinenbekämpfung in den Bergen ist? Das ist nicht gewalttätig oder beleidigend, aber es würde viele der gleichen Eigenschaften enthalten.

Wie viele andere Leute betont haben, ist es sehr schwer, obszön zu definieren. Der Oberste Gerichtshof der USA hat versucht, im Fall von Miller gegen Kalifornien, und als Ergebnis haben wir den sogenannten Miller-Test, der aus drei Teilen besteht:

• Ob "die durchschnittliche Person, die zeitgenössische Gemeinschaftsstandards anwendet", feststellen würde, dass die Arbeit als Ganzes das pruriente Interesse anspricht,
• Ob die Arbeit auf offenkundig beleidigende Weise sexuelles Verhalten darstellt / beschreibt, das speziell durch geltendes Staatsrecht definiert ist,
• Ob dem Werk insgesamt ein ernsthafter literarischer, künstlerischer, politischer oder wissenschaftlicher Wert fehlt

Schön und mehrdeutig, macht es ein wenig schwierig, Dinge zu programmieren. Die meisten Websites, auf denen Sie Bilder hochladen können, sind menschlich moderiert. Beispielsweise müssen alle Bilder, die auf Online-Dating-Websites veröffentlicht werden, einer Reihe von Regeln folgen und manuell genehmigt werden.

Wie andere bereits betont haben, gibt es einige technologische Lösungen, die Sie jedoch nur so weit bringen. In diesem Artikel der NY Times wird erläutert, wie große Websites (wie Facebook) Inhalte filtern.

Um Ihre Frage zu beantworten: "Was verwendet Facebook oder Pinterest?"

Menschen.

Vergessen Sie nicht, dass Sie sich nach der Ausstrahlung, in der Sie "anstößige" Bilder herausfiltern, für Klagen öffnen, wenn Sie eines verpassen. Sie können jeder Seite eine Flag-Schaltfläche hinzufügen und sich darauf einstellen, das betreffende Foto nach dem Überprüfen zu löschen.