Φόβοι για τους αλγορίθμους τεχνητής νοημοσύνης που αναπαράγουν τον ρατσισμό

Η τεχνητή νοημοσύνη μπορεί να έχει μπει για τα καλά στη ζωή μας τόσο με αυτοματοποιημένα προγράμματα όσο και με προσωπικούς βοηθούς, ενώ πρόσφατα η έφηβη Tay της Microsoft κατέκτησε χιλιάδες followers στο twitter καθώς αποτελεί ένα επίτευγμα της εταιρίας στην μαθησιακή εξέλιξη και την τεχνητή νοημοσύνη.

Παρ΄όλα αυτά φαίνεται πώς η εξελικτική μάθηση των ρομπότ μπορεί να είναι προβληματική καθώς ενδέχεται αναπαράγοντας σχόλια χρηστών ν’αποκτήσουν και ρατσιστικές συνήθειες γεγονός καθόλου ελπιδοφόρο για την ανθρωπότητα.

Αυτό συνέβη λοιπόν και με την Tay που κατέληξε να κάνει ρατσιστικά σχόλια, ενώ αντίστοιχα η μηχανή αναζήτησης Linkedin έδειχνε προτίμηση στα ανδρικά προφίλ αντί για τα γυναικεία δημιουργώντας προβλήματα στον αλγόριθμο και το τελικό αποτέλεσμα.

Επίσης είναι χαρακτηριστικό ότι η εφαρμογή διαχείρισης φωτογραφιών της Google άρχισε να βάζει την ετικέτα «γορίλας» σε σκουρόχρωμους απεικονιζόμενους.Τότε η εταιρεία έσπευσε να ζητήσει συγγνώμη και, καθώς δεν βρέθηκε άλλος τρόπος επίλυσης του προβλήματος, να καταργήσει οριστικά τη συγκεκριμένη ετικέτα.

Εκτός αυτού τα πράγματα είναι πιο σοβαρά στην περίπτωση των προγραμμάτων που χρησιμοποιούν ευρέως τα δικαστήρια των ΗΠΑ για να κρίνουν αν ένας κρατούμενος είναι πιθανό να απασχολήσει ξανά τις αρχές. Το 2016, ο οργανισμός ερευνητικής δημοσιογραφίας ProPublica μελέτησε τα προφίλ πάνω από 7.000 συλληφθέντων και συνέκρινε το «σκορ» (δηλαδή τις πιθανότητες υποτροπής μέσα στα επόμενα δύο χρόνια) που τους αναλογούσε σύμφωνα με τους υπολογισμούς των ειδικών αλγορίθμων, αποκαλύπτοντας πως ακόμη και εκείνοι είχαν την τάση να κατηγοριοποιούν τους μαύρους κατηγορουμένους ως μελλοντικούς εγκληματίες.

Πλέον  οι πολυεθνικοί κολοσσοί του Ιντερνετ έχουν υποσχεθεί ότι θα διερευνήσουν μεθόδους «φιλτραρίσματος» των δεδομένων, με τα οποία βομβαρδίζονται τα ανυποψίαστα συστήματα τεχνητής νοημοσύνης. Εντός του Ιουλίου, η Google λάνσαρε το πρότζεκτ PAIR (People + AI Research), που έχει ακριβώς αυτόν τον σκοπό, ενώ μια ομάδα προγραμματιστών και ερευνητών ίδρυσε το AI Now Initiative σε συνεργασία με την Αμερικανική Ενωση για τις Ελευθερίες των Πολιτών.