Τετάρτη, 16 Μαΐου 2018

Οι εργαζόμενοι της Google αντίθετοι στη συνεργασία με το Πεντάγωνο


To Project Maven είναι ένα πρόγραμμα νέας γενιάς για την εφαρμογή της τεχνητής νοημοσύνης σε στρατιωτικές επιχειρήσεις, το οποίο αυτοματοποιεί διοικητικές εργασίες. Στις αρχές του Μαρτίου αποκαλύφθηκε ότι η Google προσφέρει τους πόρους της στο αμερικανικό υπουργείο Άμυνας για το Project Maven, σε μια ερευνητική πρωτοβουλία για την ανάπτυξη αλγορίθμων ηλεκτρονικής όρασης, οι οποίοι μπορούν να αναλύουν βίντεο, αναγνωρίζοντας στόχους και πρόσωπα, και βελτιστοποιώντας τη στόχευση των στρατιωτικών drones. 
Σε απάντηση, περίπου 4.000 υπάλληλοι της Google υπέγραψαν το κείμενο που ξεκίνησε να κυκλοφορεί πριν τρεις μήνες με την οποία καλούν την εταιρεία να μην χρησιμοποιεί τα εργαλεία της τεχνητής νοημοσύνης για να βοηθά τον αμερικανικό στρατό, καθώς πιστεύουν ότι η Google δεν πρέπει να συμμετέχει σε καμία πολεμική επιχείρηση. Ο ιστότοπος Gizmodo μετέδωσε επίσης ότι «περίπου 12» εργαζόμενοι της Google παραιτήθηκαν για λόγους ηθικής. 
«Πιστεύουμε ότι η Google δεν θα πρέπει να συμμετέχει στο εμπόριο πολέμου», τονίζεται στο κείμενο της αίτησης που είναι διαθέσιμο στο Διαδίκτυο. «Κατά συνέπεια ζητάμε να ακυρωθεί το Project Maven και η Google να συντάξει, να δημοσιοποιήσει και να εφαρμόσει μια ξεκάθαρη πολιτική, η οποία θα προβλέπει ότι ούτε η ίδια ούτε οι υπεργολάβοι της θα κατασκευάσουν ποτέ τεχνολογία πολέμου», προσθέτει το κείμενο. 
Ο αμερικανικός στρατός, όπως και αυτός άλλων χωρών, χρησιμοποιεί μη επανδρωμένα αεροσκάφη τα οποία χειρίζονται από μακριά άνθρωποι, σε επιχειρήσεις αναγνώρισης, συλλογής πληροφοριών ή για βομβαρδισμούς, για παράδειγμα στο Αφγανιστάν.
Η Electronic Frontier Foundation, που προασπίζεται τα δικαιώματα στο Διαδίκτυο, όπως και η Διεθνής Επιτροπή Ελέγχου των Όπλων- Ρομπότ (ICRAC), στηρίζουν την αίτηση.
Οι εργασίες για το Project Maven ξεκίνησαν τον Απρίλιο του 2017 και ενώ οι λεπτομέρειες σχετικά με το τι προσφέρει η Google στο υπουργείο άμυνας δεν είναι σαφείς, είναι κατανοητό ότι πρόκειται για μια ερευνητική πρωτοβουλία του Πενταγώνου για τη βελτίωση της ανάλυσης τηλεοπτικού υλικού. Στις αρχές Μαρτίου, σε δήλωση Τύπου, ένας εκπρόσωπος της Google επιβεβαίωσε ότι η εταιρεία έδινε πρόσβαση στο υπουργείο άμυνας στο λογισμικό TensorFlow (ανοικτού κώδικα) που χρησιμοποιείται σε εφαρμογές μηχανικής μάθησης, οι οποίες είναι ικανές να κατανοούν το περιεχόμενο των φωτογραφιών. 
Η Google έχει περιγράψει το έργο της στο Project Maven ως «μη επιθετικό» και η Diane Greene, επικεφαλής του Cloud της Google και μέλος του διοικητικού συμβουλίου της Alphabet, έσπευσε να δηλώσει ότι η τεχνολογία δεν θα χρησιμοποιηθεί για να «οδηγήσει ή να πετάξει drones», ούτε θα χρησιμοποιηθεί «για την εκτόξευση όπλων»
Αλλά αυτό φαίνεται ότι δεν ήταν αρκετό για τους χιλιάδες υπαλλήλους που υπέγραψαν την επιστολή που απευθύνεται στον CEO της Google, Pichai. «Ανάμεσα σε ολοένα και αυξανόμενους φόβους μίας μεροληπτικής και οπλισμένης τεχνητής νοημοσύνης, η Google ήδη πασχίζει να διατηρήσει την εμπιστοσύνη του κοινού», γράφουν στην επιστολή. «Η δικαιολογία πως άλλες εταιρείες, όπως η Microsoft και η Amazon συμμετέχουν στο ίδιο project, δε το κάνει λιγότερο επικίνδυνο για την Google. Η ξεχωριστή ιστορία της Google, το μότο της "Don't Be Evil" και η σύνδεσή της με τις ζωές δισεκατομμυρίων χρηστών θα έπρεπε να την κάνουν να ξεχωρίζει». lifo, cnn
Όλη η επιστολή
Dear Sundar,
We believe that Google should not be in the business of war. Therefore we ask that Project Maven be cancelled, and that Google draft, publicize and enforce a clear policy stating that neither Google nor its contractors will ever build warfare technology.
Google is implementing Project Maven, a customized AI surveillance engine that uses “Wide Area Motion Imagery” data captured by US Government drones to detect vehicles and other objects, track their motions and provide results to the Department of Defense.
Recently, Googlers voiced concerns about Maven internally. Diane Greene responded, assuring them that the technology will not “operate or fly drones” and “will not be used to launch weapons.” While this eliminates a narrow set of direct applications, the technology is being built for the military, and once it’s delivered it could easily be used to assist in these tasks.
This plan will irreparably damage Google’s brand and its ability to compete for talent.
Amid growing fears of biased and weaponized AI, Google is already struggling to keep the public’s trust. By entering into this contract, Google will join the ranks of companies like Palantir, Raytheon, and General Dynamics. The argument that other firms, like Microsoft and Amazon, are also participating doesn’t make this any less risky for Google. Google’s unique history, its motto Don’t Be Evil, and its direct reach into the lives of billions of users set it apart.
We cannot outsource the moral responsibility of our technologies to third parties. Google’s stated values make this clear: Every one of our users is trusting us. Never jeopardize that. Ever. This contract puts Google’s reputation at risk and stands in direct opposition to our core values. Building this technology to assist the US Government in military surveillance – and potentially lethal outcomes – is not acceptable.
Recognizing Google’s moral and ethical responsibility, and the threat to Google’s reputation, we request that you:
1. Cancel this project immediately
2. Draft, publicize, and enforce a clear policy stating that neither Google nor its contractors will ever build warfare technology

Δεν υπάρχουν σχόλια:

Δημοσίευση σχολίου