Διαδικτυακά φίλτρα προστασίας
«Κούρσα» για την ανάπτυξη λογισμικού που εντοπίζει τα βίντεο με ανεπιθύμητο υλικό στο Ίντερνετ

Εταιρείες από όλο τον κόσμο επιδίδονται σε μια «κούρσα» για την ανάπτυξη και βελτίωση συστημάτων τεχνητής νοημοσύνης που θα εντοπίζουν και θα μπλοκάρουν αυτόματα τα βίντεο που περιέχουν φόνους και γενικότερα βίαιο περιεχόμενο, πριν αυτά εξαπλωθούν μέσω social media.

Ωστόσο, όπως σημειώνει το Reuters, μέχρι τώρα καμία δεν έχει καταφέρει να λύσει απόλυτα το πρόβλημα.

Το πιο πρόσφατο παράδειγμα είναι αυτό ενός άνδρα στην Ταϊλάνδη που κατέγραψε τον εαυτό του να σκοτώνει την 11 μηνών κόρη του σε ζωντανό βίντεο στο Facebook. Το συγκεκριμένο συμβάν- του οποίου έχουν προηγηθεί αρκετά άλλα- θέτει ερωτήματα σχετικά με το πώς λειτουργεί το σύστημα αναφοράς του Facebook και το πώς θα γίνει δυνατόν να υποδεικνύεται ταχύτερα τέτοιου είδους υλικό.

Με το θέμα ασχολούνται ήδη κολοσσοί του χώρου, όπως το Facebook και η Google (που αντιμετωπίζει παρόμοια προβλήματα στο YouTube. Οι περισσότεροι επικεντρώνονται στο deep learning, που χρησιμοποιεί υπολογιστικά «νευρωνικά δίκτυα».

Κατά τον Ματ Ζάιλερ, ιδρυτή και διευθύνοντα σύμβουλο της Clarifai (Νέα Υόρκη), ο τομέας αυτός έχει «απογειωθεί» μόλις τα τελευταία χρόνια. Η μέθοδος αυτή περιλαμβάνει την παροχή εικόνων στα «στρώματα νευρώνων» του υπολογιστή, ο οποίος στη συνέχεια «μαθαίνει» να αναγνωρίζει σκηνές βίας, καθώς «εκπαιδεύεται» να καταλαβαίνει βίαιες κινήσεις, αίμα κλπ, όπως αναφέρει ο Αμπχιτζίτ Σάνμπχαγκ, διευθύνων σύμβουλος της Graymatics στη Σιγκαπούρη. Επίσης, σύμφωνα με τον Ζάιλερ, οι αλγόριθμοι της εταιρείας μπορούν επίσης να αναγνωρίζουν αντικείμενα που θα μπορούσαν να είναι «προάγγελοι» βίας, πχ μαχαίρια, όπλα κ.α.

Ωστόσο, υπάρχουν όρια: Για αρχή, το λογισμικό είναι τόσο αποτελεσματικό όσο τα παραδείγματα πάνω στα οποία εκπαιδεύεται. Εάν κάποιος πάει να κρεμάσει ένα παιδί από ένα κτίριο, αυτό δεν σημαίνει απαραίτητα ότι το πρόγραμμα έχει εκπαιδευτεί ήδη να αναγνωρίζει κάτι τέτοιο.

«Καθώς οι άνθρωποι γίνονται πιο εφευρετικοί πάνω σε σε τέτοιες απεχθείς δραστηριότητες, το σύστημα πρέπει να εκπαιδευτεί σε αυτό» λέει ο Σανμπχάγκ, η εταιρεία του οποίου φιλτράρει βίντεο και εικόνες για πελάτες στον χώρο των social media στην Ασία και αλλού.

Άλλο ένα πρόβλημα είναι ότι η βία μπορεί να μην είναι «αντικειμενική», πχ περιπτώσεις όπου ασκείται ψυχολογική βία, ενώ υπάρχουν και περιπτώσεις όπου μπορεί να υπάρχει αμφιλεγόμενο υλικό που δεν είναι από μόνο του «βίαιο», πχ μια σημαία του Ισλαμικού Κράτους.

Ένας άλλος περιορισμός είναι πως, όσο και αν βοηθούν οι αυτοματισμοί, απαιτούνται πάντα άνθρωποι στο «κύκλωμα», για να επιβεβαιώνουν αν το υλικό που έχει υποδειχθεί ως προσβλητικό, εξαιρετικά βίαιο ή επικίνδυνο, είναι όντως, όπως υποδεικνύει ο Μίκα Ραουτιάινεν, ιδρυτής και διευθύνων σύμβουλος της φινλανδικής Valossa, η οποία εντοπίζει ανεπιθύμητο υλικό για ΜΜΕ και διαφημιστικές εταιρείες.

Ωστόσο, ανεπιθύμητη δεν είναι μόνο η βία: Ο Μάικλ Πόγκρενμπιακ, διευθύνων σύμβουλος της Kuznech, υποστηρίζει πως η εταιρεία του έχει αναβαθμίσει το «οπλοστάσιό» της, με αλγορίθμους εντοπισμού πορνογραφικών εικόνων (που περιλαμβάνουν κυρίως εντοπισμό έκθεσης δέρματος και κίνησης), με προγράμματα που εντοπίζουν τα logos από στούντιο παραγωγής και προειδοποιητικά κείμενα. Αντίστοιχες μεθόδους χρησιμοποιεί και το Facebook, που χρησιμοποιεί παρόμοιες τεχνικές για να βρίσκει γυμνό, βία και άλλα θέματα που παραβιάζουν την πολιτική του.

Πηγή: naftemporiki

Send to Facebook

Μέσα Κοινωνικής Δικτύωσης

Το Facebook για πρώτη φορά αναγνώρισε δημοσίως ότι η χρήση του θα μπορούσε να αποβεί επιβλαβής για την υγεία των χρηστών του. Και η συμβουλή του είναι απλή: το φάρμακο για το κακό Facebook είναι το περισσότερο καλό Facebook. Ερευνητές του μεγαλύτερου μέσου κοινωνικής δικτύωσης παραδέχθηκαν σε ανάρτησή τους σε ένα εταιρικό ιστολόγιο ότι...

16/12/2017 15:30

Στατιστική Υπηρεσία

Κατά το 2017 συνεχίστηκε η αύξηση της πρόσβασης στο διαδίκτυο από τα νοικοκυριά, με το ποσοστό να φτάνει στο 79,4% σε σχέση με 74,4% το 2016, σύμφωνα με στοιχεία που δημοσιοποιεί η Στατιστική Υπηρεσία. Η έρευνα «Χρήση Τεχνολογιών και Πληροφορικής και Ηλεκτρονικό Εμπόριο στα Νοικοκυριά, 2017» κατέδειξε επίσης ότι το ποσοστό των νοικοκυριών...

16/12/2017 06:34

Διαδίκτυο

Εντυπωσιακά είναι τα νούμερα για τον αριθμό των μηνυμάτων που στέλνουν καθημερινά μέσω του Messenger οι 1,3 δισ. άνθρωποι που είναι συνδεδεμένοι από ολόκληρο τον κόσμο στη δημοφιλή πλατφόρμα επικοινωνίας του Facebook. Σύμφωνα με τα στοιχεία που δημοσιοποίησε το Facebook και αφορούν το χρονικό διάστημα Ιανουαρίου –...

15/12/2017 07:00

Ευρώπη

Τέσσερις ακόμη ευρωπαϊκοί δορυφόροι Galileo εκτοξεύθηκαν, το βράδυ της Τρίτης, ανεβάζοντας έτσι σε 22 πλέον τον συνολικό αριθμό τους στο διάστημα. Απομένει μία ακόμη εκτόξευση άλλων τεσσάρων δορυφόρων, στα μέσα του 2018, για να ολοκληρωθεί ο «αστερισμός» του Galileo στον ουρανό και το ευρωπαϊκό GPS να αποκτήσει παγκόσμια...

14/12/2017 06:59

Κόσμος

Ερευνητές στο Georgia Institute of Technology δημιούργησαν αισθητήρα υπερήχων που επιτρέπει στους ακρωτηριασμένους να ελέγχουν το κάθε δάχτυλό τους μεμονωμένα, παρέχοντάς τους τη δυνατότητα για ένα μεγάλο εύρος κινήσεων και χειρονομιών- μεγαλύτερο από αυτές που παρέχονται από τις σήμερα διαθέσιμες στο εμπόριο συσκευές. Ο πρώτος που...

13/12/2017 06:59

Κόσμος

Λίγους μήνες μετά την επίδειξη της ηγεμονίας του στο κινεζικό παιχνίδι Go, ο πανίσχυρος AlphaZero, ο αλγόριθμος της DeepMind του Κύπριου Ντέμη Χασάμπη, έδειξε για άλλη μια φορά τα δόντια του. Αυτή τη φορά έκανε σκόνη το Νο 1 πρόγραμμα σκακιού του κόσμου, το περιβόητο Stockfish 8, και το έκανε χωρίς να ξέρει καν το επιτραπέζιο παιχνίδι! Εκπαιδεύτηκε...

12/12/2017 07:00

Απολίθωμα οργανισμού

Επιστήμονες ανακοίνωσαν ότι ανακάλυψαν στην Εσθονία το απολίθωμα ίσως του αρχαιότερου ματιού που έχει ποτέ βρεθεί σε έμβιο οργανισμό και το οποίο χρονολογείται προ 530 εκατομμυρίων ετών περίπου. Το μάτι, που ανήκε σε ένα προ πολλού εξαφανισμένο θαλάσσιο οργανισμό, ένα είδος τριλοβίτη (εν ονόματι Schmidtiellus reetae), μοιάζει αρκετά...

11/12/2017 11:57

Διαδίκτυο

Πριν από λίγες μέρες έγινε γνωστό ότι το Facebook έχει περισσότερους από 2 δισεκατομμύρια ενεργούς, μηνιαίους χρήστες. Με λίγα λόγια, αυτό σημαίνει ότι μέσα σε ένα μήνα, το 25% του παγκόσμιου πληθυσμού κάνει log in στο Facebook τουλάχιστον μία φορά.Αν το διαιρέσουμε, προκύπτει ότι μέσα σε ένα λεπτό 900.000 άνθρωποι συνδέονται στο Facebook.

11/12/2017 07:00

Κόσμος

Το “κατέβασμα” ενός φακέλου 6 γίγαμπαϊτ σε χρόνο μικρότερο των δύο δευτερολέπτων με την χρήση τεχνολογίας 5G βρίσκεται κοντά στις τεχνολογικές εξελίξεις που συντελούνται στην Κίνα, καθώς γίνονται προετοιμασίες για την εμπορική αξιοποίηση της επόμενης γενιάς στην τεχνολογία των κινητών τηλεφώνων. Στην διάρκεια...

10/12/2017 08:02

Διαδίκτυο

Σε έναν μεγάλο αριθμό προσλήψεων προχωρά η Google στην προσπάθειά της να εξαλείψει τα προσβλητικά βίντεο και σχόλια στο YouTube. Η εταιρεία προσλαμβάνει χιλιάδες άτομα για να μειώσει την ποσότητα του «προβληματικού περιεχομένου» στην γνωστή πλατφόρμα. Επίσης, εισάγει αυστηρότερους περιορισμούς στη διαφήμιση και στην ευρύτερη...

09/12/2017 07:00

Στατιστική Υπηρεσία της Δημοκρατίας

Αύξηση στον αριθμό των επιχειρήσεων που συνδέονται στο διαδίκτυο με υψηλές ταχύτητες μεταφοράς δεδομένων καταδεικνύει έρευνα, τα αποτελέσματα της οποίας δημοσιοποίησε σήμερα η Στατιστική Υπηρεσία της Δημοκρατίας. Σύμφωνα με ανακοίνωση, το ποσοστό των επιχειρήσεων που συνδέονται με ταχύτητες μεταξύ 10Mbit/s και 30Mbit/s ανήλθε...

08/12/2017 06:42

Ίσως φταίει ο GABA

Το κινητό σας έχει εξελιχθεί σε προέκταση του χεριού σας και δεν ξεκολλάτε ούτε στιγμή από το Internet; Ισως γα’ αυτό φταίει η χημεία του εγκεφάλου σας. Επιστήμονες που εξέτασαν τον εγκέφαλο εφήβων είδαν ότι όσοι δήλωναν ότι είναι εξαρτημένοι από την τεχνολογία εμφάνιζαν μια συγκεκριμένη «χημική ανισορροπία»: είχαν αυξημένα...

07/12/2017 21:09

Back to Top