Ο Κώστας Περήφανος είναι από αυτούς που θα λέγαμε βρίσκονται μέσα στην κοιλιά του θηρίου, με την έννοια ότι είναι από τους ανθρώπους που φτιάχνουν αυτό που λέμε machine learning και, κατ’επέκταση, τεχνητή νοημοσύνη. Αν τον ρωτήσεις τι κάνει θα σου απαντήσει, περιπαικτικά πως είναι…. πιανίστας και αυτό επανέλαβε στη μεταξύ μας συνάντηση στην αυλή ενός καφέ στους Αμπελοκήπους μεσημέρι μιας αναποφάσιστης Κυριακής που μέχρι εκείνη τη στιγμή δεν ήξερε αν θα ακολουθούσε το γνωστό τσιτσάνειο μοτίβο ή θα άφηνε τον χώρο για τον ήλιο (όπως και τελικά έπραξε με μια δόση απροθυμίας, είναι αλήθεια).
Το θέμα μας όμως δεν ήταν ο καιρός, αν και ο Κώστας μένει και εργάζεται τα τελευταία 5 χρόνια στο Λονδίνο, αλλά όλα αυτά τα μαγικά της τεχνητής νοημοσύνης.
Πρώτη ερώτηση, αν βλέπει πως η άνοδος Τραμπ οφείλεται έστω και εν μέρει στην τεχνολογική εξέλιξη και στο αίσθημα μιας μεγάλης μερίδας των Αμερικανών πως απειλούνται από αυτή. Ο Κώστας το βλέπει ευρύτερα. “Η επιστήμη κάνει το κορόιδο, περιμένουν τώρα που θα καθίσει η μπίλια για να τοποθετηθούν” λέει και σχεδόν αυτόματα γυρίζουμε στις ημέρες της ναζιστικής Γερμανίας και στον ρόλο των επιστημόνων είτε εκείνων που εργάστηκαν με ένα πιστόλι κολλημένο στον κρόταφο είτε εκείνων που προθύμως έσπευσαν να υπηρετήσουν εκείνο το καθεστώς. Μοιραία η επόμενη στάση της συζήτησης είναι αυτή της ηθικής.
Συζητάμε για το “πρόβλημα του τραμ”, όπου ένα τραμ κατευθύνεται προς 5 ανθρώπους που είναι δεμένοι στη γραμμή. Μόνο ένα πρόσωπο μπορεί να αλλάξει την πορεία γυρίζοντας το κλειδί της γραμμής, όμως σε αυτή την περίπτωση θα σκοτωθεί ένας άλλος άνθρωπος. Το πρόβλημα αυτό έχει περάσει και στην ηθική της τεχνητής νοημοσύνης, γνωστό κυρίως από τις εφαρμογές της αυτόνομης οδήγησης.
“Το πλεονέκτημα των μηχανών σε σύγκριση με τους ανθρώπους” λέει ο Κώστας “είναι πως μπορούν να αναλύσουν πάρα πολλά σενάρια σε πάρα πολύ λίγο χρόνο. Βλέπεις ένα αυτοκίνητο Tesla να ‘προβλέπει’ το ατύχημα πριν συμβεί γιατί έχει δεκάδες σενάρια στη διάθεσή του, τα ‘τρέχει’ και βγάζει τα πιθανότερα..”
Αν δεν θυμάσαι για ποια περίπτωση μιλάμε, δες το βίντεο:
Ο αστάθμητος παράγοντας της αγελάδας
- Και αν οι καιρικές συνθήκες δεν είναι καλές;
- Εχουμε δει βίντεο με αυτόνομα οχήματα να συμπεριφέρονται πολύ καλά όταν έχει ομίχλη για παράδειγμα, απαντάει ο Κώστας.
- Δεν έχω δει όμως βίντεο με Tesla σε καταιγίδα ας πούμε
- Πριν φτάσεις εκεί, σκέψου κάτι άλλο. Οδηγείς στην Αθήνα, πιο είναι το πιο πιθανό ζώο που θα πεταχτεί μπροστά σου;
- Τετράποδο; (γέλια) Ξέρω’ γω, σκύλος, γάτα…
- Και αν οδηγείς στην επαρχία;
- Από λαγό έως αγελάδα με κατσίκια και πρόβατα στο ενδιάμεσο;
- Όμως σε κάθε περίπτωση εσύ θα αντιδράσεις κάπως. Εννοώ, δεν χρειάζεται να οδηγήσεις και να σου πεταχτεί λαγός για να αναγνωρίσεις τον λαγό, θα έχεις διαβάσει ένα βιβλίο για λαγούς…(Σκέφτομαι να του πω πως συνήθως τα βιβλία που διαβάζω είναι για νεκρούς λαγούς συνοδεία πολλών κρεμμυδιών αλλά θέλω να δω πού το πάει) … ξέρεις πώς είναι, έχεις μια σειρά “what if” σεναρίων, “τι θα γίνει αν…” υποθέσεων για να διαχειριστείς το ζώο που δεν βλέπεις στην Αθήνα. Αν πετάξεις σε ένα αυτόνομο αυτοκίνητο μια αγελάδα…
- Θα κομπλάρει;
- Πες το και έτσι, αν δεν του πεις τι είναι η αγελάδα δεν θα ξέρει πώς να το διαχειριστεί
- Όμως αυτή η μάθηση η εκπαίδευση είναι λίγο μηχανική;
- Πρώτα πρώτα βλέπεις πως η τεχνητή νοημοσύνη έρχεται σε πράγματα που είναι, χμμμ, μηχανικά. Δεν σκέφτεσαι όταν οδηγάς, δεν λες δηλαδή “τώρα θα πατήσω συμπλέκτη, θα αλλάξω ταχύτητα για να πάω πιο γρήγορα… τώρα πέφτουν οι στροφές της μηχανής, πρέπει να κατεβάσω ταχύτητα” κ.τ.λ, αυτά τα κάνεις αυτόματα από ένα σημείο καιμετά. Τι κάναμε λοιπόν; Αντικαθιστούμε τη μηχανική οδήγηση των ανθρώπων από την…
- … τη μηχανική οδήγηση των μηχανών;
- Ακριβώς! Ξέρεις που μπορεί να δούμε πρώτα αυτόνομα οχήματα;
- Με εξαίρεση τα τρένα;
- Τα τρένα λειτουργούν σε λίγο πολύ αποστειρωμένο περιβάλλον. Το επάγγελμα που κινδυνεύει πριν από του φορτηγατζή που λέγαμε πριν για τους Αμερικανούς και τον Τραμπ είναι του καπετάνιου. Η θάλασσα δεν έχει απρόοπτα…
- Όπως ζώα που πετάγονται στον δρόμο
- Ακριβώς! Έχεις δορυφορους που βλέπουν τα πάντα, ρεύματα, καιρό, παραπλέοντα σκάφη, δεν χρειάζεσαι καπετάνιο και επειδή οι μηχανές κινούνται με βάση σενάρια οι διαδρομές θα είναι πιο ασφαλείς και οικονομικές.
- Όμως αυτό το “σενάρια” που λες σημαίνει πως ουσιαστικά “ταϊζουμε” τη μηχανή με διαφορετικές εναλλακτικές μιας κατάστασης.
- Μα ναι! Αυτή τη στιγμή κάνουμε behavioral cloning, μεταφέρουμε στη μηχανή τη δική μας συμπεριφορά. Λέμε στη μηχανή πώς οδηγούμε και αυτή μας αντιγράφει. Δεν είναι η μηχανή που αποφασίζει μόνη της, δες το παράδειγμα με την αγελάδα ή το ενδεχόμενο ένας άνθρωπος οδηγός σε ένα προπορευόμενο όχημα να κάνει κάτι πολύ εξωφρενικό, όπως αναστροφή σε μια έξοδο σε αυτοκινητόδρομο. Πώς αντιδρούν οι οδηγοί των οχημάτων που ακολουθούν και πώς η μηχανή; Αν της έχεις δώσει το σενάριο θα βρει τη βέλτιστη λύση, θα ρίξει το όχημα στις μπαριέρες π.χ. θα τρέξει πολλά διαφορετικά σενάρια, αρκεί όμως κάποιος να της το έχει δώσει.
- Οπότε το ποιος φτιάχνει το σενάριο ορίζει και την ηθική της μηχανής;
- Βεβαίως! Δες τι συνέβη σε μια περίπτωση που “΄τάισαν” έναν υπολογιστή με δεδομένα βάσει των οποίων θα μπορούσε να κατατάσσει ανθρώπους στη φυλή που ανήκουν με βάση τα χαρακτηριστικά τους. Ε, τους μαύρους του κατέτασσε ως χιμπατζήδες. Δεν θα ήθελα να ήμουν στη θέση αυτού που σχεδίασε το σύστημα, ξέρεις, ξεχνάμε πολλές φορές το παλιό καλό GIGO (Garbage In, Garbage Out). Αν δώσεις λάθος δεδομένα σε μια μηχανή δεν θα πάρεις σωστή πληροφορία. Αν λοιπόν βάλεις λευκούς να σχεδιάσουν ένα σύστημα κατηγοριοποίησης είναι πιθανό να μην λάβουν υπόψιν τους πως υπάρχουν και μαύροι άνθρωποι.
- Υπάρχει δηλαδή προκατάληψη στα δεδομένα που εισάγονται σε ένα σύστημα;
- Βέβαια. και μην ξεχνάς το εξής. Οι υπολογιστές δεν κάνουν αυτό που θέλουμε αλλά αυτό που τους λέμε να κάνουν. Αν η εντολή μας είναι λάθος, λάθος θα είναι και το αποτέλεσμα της εργασίας του υπολογιστή.
- Άρα η μηχανή έχει την ηθική του δημιουργού της;
- Σίγουρα δεν έχει τη δική της ηθική, μην ξεχνάς αυτό που είπα πιο πριν, είμαστε στη φάση του μιμητισμού. Αλήθεια όμως, ποια ηθική θα έχει ένα αυτόνομο όχημα; Την ηθική του κατασκευαστή του ή του ιδιοκτήτη του; Αλλη είναι η ηθική ενός π.χ. Γερμανού οδηγού και άλλη ενός Σαουδάραβα. Πώς συμπεριφέρεται το όχημα λοιπόν; Χρειαζόμαστε τις μηχανές γιατί κάνουν καλύτερα από εμάς συστηματοποιημένες δραστηριότητες…
Αλλο να "αντιγράφεις" πατσίτσια και άλλο να δημιουργείς μουσακάδες
- Μιμητισμός δεν είναι και το ρομπότ που “αντέγραψε” έναν διάσημο σεφ του BBC νομίζω…
- Ακριβώς! Δεν είναι τεχνητή νοημοσύνη αυτό. Πήραμε μια μηχανή και της δείξαμε πώς να φτιάξει, π.χ. πατσίτσιο. Θα είναι τέλειο κάθε φορά…
- Ομως με αυτή την ας πούμε γνώση του παστίτσιου δεν θα φτιάξει π.χ. μουσακά
- Οχι βέβαια! Δεν μπορεί να πάει από το σημείο “παστίτσιο” στο σημείο “μουσακάς”. Το ταλέντο του ρομπότ είναι να φτιάχνει παστίτσια ή όποιο άλλο σενάριο του βάλεις να εκτελέσει.
- Δεν σε πείθει λοιπόν η ρήση του Ρέι Κουρτζβάιλ πως οι μηχανές θα ξεπεράσουν την ανθρώπινη ευφυία μέχρι το 2029.
- Μα δεν έχουμε τεχνητή ευφυία σήμερα, πρέπει να γίνουν τεράστια άλματα για να φτάσουμε εκεί που λέει ο Κουρτζβάιλ τόσο σύντομα
'Ερχονται οι μηχανές και μας παίρνουν τις δουλειές
- Φοβάσαι κάτι;
- Ναι, ένα παγκόσμιο κίνημα εγώ το προσδιορίζω σε λίγα χρόνια από σήμερα, της μορφής “έρχονται οι μηχανές και μας παίρνουν τις δουλειές”.
- Και ποια είναι η λύση; Να γίνουμε όλοι developers δεν νομίζω πως είναι λύση, δεν χρειάζονται 5,6 ή 7 δισ. developers.
- Οχι, αλλά στα επαγγέλματα που δεν έχουν προβλέψιμη πορεία οι μηχανές δεν θα μπουν εύκολα.
- Όπως στη δημοσιογραφία π.χ. που μια μηχανή μπορεί να σου γράψει ένα κομμάτι για τον καιρό αλλά ίσως όχι κάτι για τις πολιτικές δυναμικές στην Ευρώπη…
- Η δημοσιογραφία κινδυνεύει περισσότερο από τους δημοσιογράφους (γέλια). Ναι, έχεις δίκιο, μια μηχανή δεν θα γράψει ποιήματα, μουσική, δεν θα ζωγραφίσει, θα κάνει επαναλαμβανόμενα πράγματα, θα χτίσει, θα οδηγήσει αλλά δεν θα δημιουργήσει κάτι που δεν έχει εκπαιδευτεί.
- Τουλάχιστον όχι ακόμα.
- Τουλάχιστον όχι ακόμα!
- Να κάνουμε τα παιδιά μας ποιητές και ζωγράφους λοιπόν;
- Να σου το πω όπως το είπε ένας από τους μεγάλους, ο Ντόναλντ Κνουθ, “επιστήμη είναι όλα όσα έχουμε κατανοήσει σε βαθμό που μπορούμε να το εξηγήσουμε σε έναν υπολογιστή. Τέχνη είναι ό,τι άλλο κάνουμε”.
Λίγο αργότερα σκεφτόμουν τις δουλειές που μπορεί να “πάρουν” οι μηχανές. Οδηγός τρένου, ξεναγός, σερβιτόρος… Στο Θησείο ,στον πεζόδρομο μπροστά από τον λόφο των Νυμφών -ίσως τον πρώτο επιστημονικό λόφο της πόλης αν σκεφτείς πως εδώ στήθηκε το πρώτο Αστεροσκοπείο της- μια παρέα νέων παιδιών έπαιζε μουσική. Μια τρομπέτα, δυο έγχορδα, ένα μπουκάλι νερό σε ρόλο κρουστών και μερικά κουτάκια μπίρας για τους διψασμένους μουσικούς. Σαν να έχει δίκιο ο Κώστας. Δεν θα δεις ποτέ σου μηχανές να περνάνε καλά μπροστά από το πρώτο Αστεροσκοπείο της Αθήνας, σκορπίζοντας νότες στον δρόμο.
Σχόλια