Ρατσιστική τεχνητή νοημοσύνη

Πρόκειται για μια από τις πιο χάι-τεκ δικαιολογίες που έχουμε ακούσει τελευταία, ειδικά σε σχέση με ένα θέμα που έχει προεκτάσεις κάθε άλλο παρά χάι-τεκ: “Είναι μια ατυχής παρενέργεια του νευρωνικού δικτύου που τρέχει στο παρασκήνιο και που προκλήθηκε από το training set bias του και όχι από εσκεμμένη συμπεριφορά. Προκειμένου να περιορίσουμε το πρόβλημα, μετονομάσαμε το εφέ ώστε να αποκλείσουμε κάθε θετικό συνειρμό που θα μπορούσε να σχετιστεί με αυτό.” Το εν λόγω εφέ λεγόταν “hot” (εξ ου και τα περί “θετικού συνειρμού”), βρισκόταν στην εφαρμογή μεταμόρφωσης φωτογραφιών προσώπων FaceApp και η “ατυχής παρενέργεια” ήταν ότι έκανε τα πρόσωπα πιο καυκάσια κυρίως από πλευράς χρώματος αλλά σε ορισμένες περιπτώσεις και από πλευράς άλλων χαρακτηριστικών όπως η μύτη. Η άμεση αντίδραση της εταιρείας στην (αναμενόμενη) κατακραυγή στα social media δείχνει ότι όντως πρόκειται για κάτι που προκάλεσε τυχαία η τεχνητή νοημοσύνη – μερικές φορές μπορείς να βρεθείς μπλεγμένος από το πουθενά!