Nous avons une configuration un système de gestion de produit où la tête du développement de produit peut télécharger des images de produits et ces images apparaîtra instantanément sur notre site Web.
La semaine dernière, quand une personne a quitté le travail, il a téléchargé une bande de photos de xxx-classées et les choses sont apparues immédiatement sur le site Web. Heureusement, nous avons remarqué et les avons supprimé en quelques minutes. Néanmoins, ce temps était suffisant pour choquer certains de nos clients.
Voici ma question: Comment analyser et bloquer efficacement ces images d'être téléchargées? Cela peut-il être fait en utilisant une bibliothèque à PHP? Est-il possible avec PHP en premier lieu?
Toute aide serait très appréciée.
Après quelques creux, j'ai trouvé ceci:
http://pikture.logikit.net/ (lien mort )
Quelqu'un l'a-t-il utilisé auparavant, ou de toute opinion à ce sujet?
12 Réponses :
C'est un problème difficile dans n'importe quelle langue, le problème de traitement d'image est extrêmement difficile.
Il y a des recherches sur le sujet:
C'est possible bien que vous obtiendrez de faux négatifs et de faux positifs.
Beaucoup plus simple seraient à mettre en œuvre une forme de système de modération qui nécessite une approbation d'une autre personne avant tout live.
Mettre en œuvre la prédécadrement de l'image. S'il y a une personne célibataire téléchargeant ceux qui (comme vous impliquent), ne devriez pas être trop difficile pour que quelqu'un d'autre ait un aspect bref et cliquez sur "Approuver" sur chacun.
Et c'est bien moins cher et plus fiable que d'utiliser une bibliothèque. Vous ne pouvez pas formaliser "adulte".
Justice Potter Stewart accepte! en.wikipedia.org/wiki/i_see_it_when_i_see_it
Deuxièmement cette approche! Savoir comme "quatre yeux" dans la banque, quelqu'un soumet une personne différente doit approuver avant que cela ne fasse affecter. N'arrêtez pas votre junior d'obtenir le mot de passe d'approbation aussi bien cependant.
Une solution sensible et pratique
Je suis d'accord c'est une solution sensible. Je devrais lui donner un coup. Merci beaucoup!
Il n'y a pas de moyen fiable de le faire. Quel que soit le processus automatisé que vous utilisez générera de faux négatifs positifs et faux. Si vous êtes prêt à accepter que vous puissiez regarder le Filtre de nudité d'image , qui analyse les images basées sur Skintone. Il aura tendance à signaler des images de gros plan de visages aussi.
Une telle méthode pourrait être efficace conjointement avec des informations sur l'historique d'un utilisateur. S'ils téléchargent soudain des centaines d'images (quand ils pourraient en moyenne deux fois par semaine avant cela) et la plupart d'entre eux sont marqués, il souhaite probablement suspendre ces téléchargements jusqu'à ce que quelqu'un les regarde.
Venez penser à cela, en téléchargeant simplement un grand nombre d'images dans une courte période de temps (et que l'attention des administrateurs du site) est probablement suffisante la plupart du temps.
Avec tout le sérieux, ne serait-il pas sage d'avoir un filtre chercher un saut grave de brun à la couleur de pêche (génital et mamelons et quoi non)?
Je ne pense pas que vous puissiez garantir que tout logiciel sera à 100% d'identifier avec précision des images comme celle-là.
Vous devez avoir un humain modifiant les téléchargements. Ne les rendez pas instantanément visibles sur votre site web.
Vous êtes sur le point de descendre la trajectoire "Skintone Detection" de prévenir le porno. C'est une erreur puisque toute solution, même si possible, sera hideusement coûteuse à avoir raison.
et ne travaillerait pas sur des images pornographiques du personnage de "avatar", par exemple: -)
Les deux approches que vous pourriez prendre (je préfère le premier).
La raison pour laquelle je préfère le premier est parce que la seconde permet toujours de voir les images par le grand public et cela endommagera presque certainement le représentant de la société.
Vous devriez prendre ce représentant au sérieux. Je me souviens d'un système que nous avons mis en place il y a de nombreuses années pour mesurer les longueurs de saut de ski nautiques.
Il y avait trois stations de part et d'autre de la rivière où les personnes chargées de mesurer dirigeraient leurs vues là où ils pensaient que le skieur atterri (hexangulation, je suppose).
Ces six emplacements ont été en moyenne moyennes (après avoir retiré des valeurs aberrantes) pour obtenir la position réelle (par conséquent), ce qui a été tout calculé par l'ordinateur et renvoyé à une station de base.
Cependant, les stations télévisées qui transmettaient l'événement avaient une personne qui a lu la longueur de l'écran puis de les saisir manuellement dans leurs propres ordinateurs. Lorsque nous avons dit que nous pouvions automatiser le processus, ils ont clairement indiqué qu'ils les pas n'autorisent pas les données non cochées à être envoyées à leurs téléspectateurs (au cas où nous avons inséré de blanchiment, je suppose).
Pendant que je pensais cela un peu paranoïaque, je pouvais le comprendre.
Il est vraiment facile d'ajouter de la modération, comme cela a été suggéré, mais j'imagine qu'il existe une hésitation en termes de limitation de la productivité et des développeurs frustrants qui doivent attendre sur une deuxième série d'yeux. Même si tous les participants comprennent et ne le prennent pas personnellement, cela peut toujours être ennuyeux pour:
a) Soyez la personne qui doit attendre une journée ou deux pour que le contenu soit en direct parce que leur modérateur est malade et que le modérateur de sauvegarde est en réunion.
ou
b) Soyez la personne qui se fait interrompue toutes les heures d'un projet pour cliquer sur "Approuver".
Parfois même la technologie appelle à une partie de la bureaucratie suggérée et doit accepter les maux de tête qu'il vient, et je pense qu'il existe des façons définitivement intelligemment de garder les ennuis comme ceux que j'ai mentionnés au minimum.
Après avoir dit tout cela, gardez à l'esprit que les actions de ce responsable reflètent probablement sa résiliation. Ou à tout le moins de la façon dont il a fallu. Une autre solution administrative non technique serait peut-être de supprimer les privilèges d'accès au système dès que vous savez que quelqu'un est dans une position compromise.
si la personne a tourné dans leur préavis de deux semaines ou venait de récupérer le sac ce matin-là, ils devraient avoir un accès modéré ou aucun accès au tout à tout ce qui se passe au public ou que la mission est critique.
La plupart des développeurs travaillent vraiment difficilement à gagner la confiance des supérieurs leur permettant de rendre les choses publiques ou d'écrire des données directement sur les systèmes critiques. Mais cette confiance devrait venir avec une clause de politique de sortie très immédiate.
Je ne l'ai jamais utilisé, mais je viens d'essayer leur démo. J'ai téléchargé ce qui suit (à la recherche de "gros plan" sur Google:
Et il a reculé ce qui suit:
évalué comme suit: porno complété en 25 sec.
Pour moi, c'est trop lent (pour une image) pour obtenir un faux positif, en particulier pour 50 dollars américains.
+1 hah! Merci pour le commentaire sur le logiciel. Je suis trop inquiet pour la situation, j'ai juste essayé de télécharger des images porno réelles pour tester ses fonctionnalités. Mais j'ai de l'espoir avec cela parce que nous ne traitons que des produits de meubles. Et je suppose que cela ne bloquerait pas un mobilier de couleur érable pour une tonalité de peau possible!
"Attendez une journée ou deux ... parce que ... le modérateur de secours est en réunion" - Vous devez avoir des réunions assez extrêmes sur votre lieu de travail :-)
Essayy API a un service Web de détection de nudité très rapide / rapide, mais il semble revenir un guichet automatique 502.
Utilisation de la technologie actuelle Il n'y a pas de solution complètement fiable à cela, alors ne vous soulevez pas en marketing qui implique qu'il y a.
Voir ce Question précédente sur Stackoverflow.
Vous pouvez combiner un algorithme de détection de la peau avec une pré-modération pour apporter des images problématiques suspectées à l'attention du modérateur humain. Je ne pense pas que vous puissiez sauter l'étape d'obtenir une personne pour regarder les images.
Au fait, les processus de sécurité de votre entreprise sonnent un peu faible. Comment un autre employé a-t-il téléchargé des images si seulement le responsable du développement de produits devrait être capable de le faire? Assurez-vous de stocker vos mots de passe hachés et de minimiser l'accès aux serveurs de production.
Les mots de passe sont sel et poivré et sont gérés de manière sécurisée. Le login a été communiqué verbalement par la tête dans certaines circonstances. Il est définitivement en difficulté.
Essayez ceci, j'espère que cela vous aidera
http://lab.yogeshsaroya.com / prévenir-uploads-Nude-ou-adult-images-utilisant-php /
Si vous recherchez une solution à base d'API, vous voudrez peut-être consulter la visibilité de la visualisation.com
C'est une solution automatisée pour détecter des choses comme le contenu adulte, la violence, les célébrités, etc. dans des images et des vidéos. P>
Voici un exemple en PHP, à l'aide du SDK: p> La sortie renvoie ensuite la classification: p> {
"status": "success",
"request": {
"id": "req_VjyxevVQYXQZ1HMbnwtn",
"timestamp": 1471762434.0244,
"operations": 1
},
"nudity": {
"raw": 0.000757,
"partial": 0.000763,
"safe": 0.999243
},
"media": {
"id": "med_KWmB2GQZ29N4MVpVdq5K",
"uri": "https://sightengine.com/assets/img/examples/example2.jpg"
}
}
J'ai trouvé mon auto besoin d'un système pour détecter le contenu adulte récemment. Heureusement, il peut être fait assez précisément.
J'ai fini par bâtir Ce projet , qui est une API qui peut être facilement déployée sur Herkou ( ou quoi que ce soit où vous pouvez exécuter un conteneur Docker) et vous permet de marquer des images pour le contenu adulte.
Il est basé sur Open_nsfw Un modèle de réseau de neurones open source qui a été formé pour détecter non pas adapté à images de travail. Le projet ci-dessus est fondamentalement une API Python sur Open_Nsfw, prêt à être déployée.
Je pensais que la tête du développement du produit peut télécharger des images? Parfois, il est parfois plus prudent de savoir qui vous donnez des autorisations est beaucoup plus facile que de mettre en œuvre une sorte de bibliothèque d'apprentissage de la machine.
Oui, seule la tête peut télécharger les images. Mais cet exécutif junior qui a laissé l'emploi a réussi à obtenir son patron de son patron du patron lui-même.
Ensuite, votre entreprise devrait investir davantage pour former leurs employés sur Infosec. La technologie est excellente et peut accomplir beaucoup de choses, mais le bon sens devrait prendre la précédente.
Hé au moins, vous ne l'avez pas fait estampé sur CD et expédié à 10 000 utilisateurs. Histoire vraie, mais dans ce cas, ils n'étaient pas des images xxx juste des innuendo. Le gars travaille toujours chez ma compagnie et j'y pense à chaque fois que je le transmettais dans la salle.
@Brian - qui doit être terrible. Au moins un contenu Web peut être retiré.
Je viens de donner ma réponse à ma question et j'ai donné une mise en œuvre PHP [ici] [1]. [1]: Stackoverflow.com/a/14187819/1585692