Οι μεγάλες αυτοκινητοβιομηχανίες αλλά και γίγαντες της βιομηχανίας της τεχνολογίας (π.χ Google) κατασκευάζουν αυτοκίνητα που θα διαθέτουν συστήματα αυτόνομης οδήγησης. Τα πρώτα τέτοια οχήματα έχουν ήδη κάνει την εμφάνιση τους αλλά οι μηχανικοί και οι ερευνητές εργάζονται πυρετωδώς για να βελτιώσουν, όσο το δυνατόν είναι εφικτό, τη νοημοσύνη αλλά και τις ικανότητες αυτών των συστημάτων, ώστε η οδήγηση που θα κάνουν να είναι κατά το δυνατόν πιο σωστή και πάνω από όλα ασφαλής για όλους. Τόσο για τους επιβάτες του αυτόνομου οχήματος και για τα άλλα οχήματα που κινούνται στον ίδιο δρόμο αλλά και τους πεζούς.
Εκτός από τα διάφορα τεχνικά ζητήματα που πρέπει να λυθούν για την δημιουργία και λειτουργία αυτόνομων οχημάτων έχει προκύψει και ένα θέμα που έχει ονομαστεί ως το «πρόβλημα του τρόλεϊ». Πρόκειται για ένα θέμα που κινείται στην σφαίρα της ηθικής.
Το «πρόβλημα του τρόλεϊ» διατυπώθηκε το 1978 και αποτελεί ένα ηθικό δίλημμα. Σύμφωνα με αυτό, πέντε άνθρωποι κινδυνεύουν να σκοτωθούν γιατί ένα τρόλεϊ κατευθύνεται επάνω τους. Οι άνθρωποι μπορούν να σωθούν εάν ο οδηγός τραβήξει χειρόφρενο και έτσι το τρόλεϊ να μπει στον παράδρομο. Στον παράδρομο όμως βρίσκεται ένας άνθρωπος – εάν το τρόλεϊ πάει προς τα εκεί, ο άνθρωπος θα σκοτωθεί. Το δίλημμα λοιπόν είναι εάν ο οδηγός θα επιλέξει να σκοτώσει ένα ή πέντε άτομα.
Ενα βίντεο για το πρόβλημα το τρόλεϊ:
Το πρόβλημα αυτό θα πρέπει να απαντηθεί και στην περίπτωση των αυτόνομων αυτοκινήτων που θα καλούνται να πάρουν κάποια στιγμή δύσκολες αποφάσεις. Ας δούμε μερικά παραδείγματα:
1) Ενα αυτόνομο αυτοκίνητο που μεταφέρει επιβάτες είναι σίγουρο ότι θα χτυπήσει πεζούς αν δεν αλλάξει αμέσως κατεύθυνση – αν όμως στρίψει είναι σίγουρο ότι θα πέσει πάνω σε κάποιο τοίχο ή σε μια κολόνα και πιθανώς θα τραυματίσει ή θα σκοτώσει τους επιβάτες του.
2) Ενα αυτόνομο αυτοκίνητο χωρίς επιβάτες βγαίνει από την πορεία του και είτε θα πέσει πάνω σε ένα ζευγάρι ηλικιωμένων ατόμων είτε πάνω σε ένα μικρό παιδί.
3) Ενα αυτόνομο αυτοκίνητο βγαίνει από την πορεία του και είτε θα στρίψει πέφτοντας πάνω σε ένα άλλο αυτοκίνητο ή σε μια μοτοσυκλέτα είτε θα πέσει σε γκρεμό.
Ποια απόφαση πρέπει να λάβει το αυτοκίνητο σε κάθε περίπτωση; Υπάρχει κάποια ηθική απάντηση στο ερώτημα του τι πρέπει να κάνει το όχημα όταν έρθει αντιμέτωπο με τις πιθανότητες ενός τροχαίου ατυχήματος;
H φιλοσοφική προσέγγιση
Η απάντηση, όπως λένε πολλοί, δεν μπορεί να έρθει μόνο από τους μηχανικούς ή τους ειδικούς στον τομέα της τεχνητής νοημοσύνης αλλά πρέπει να εμπλακούν και άλλες ειδικότητες, όπως αυτή των φιλοσόφων.
Οπως αναφέρει η ιστοσελίδα qz.com, μία ομάδα φιλοσόφων με επικεφαλής τον Νίκολας Εβανς, καθηγητή Φιλοσοφίας του αμερικανικού πανεπιστημίου Mass Lowell, αναπτύσσει αλγορίθμους. Η ομάδα πιστεύει ότι οι αλγόριθμοι αυτοί θα επιτρέψουν στο αυτόνομο όχημα να ανταποκριθεί σωστά σε μια σειρά από πιθανά σενάρια που μπορεί να αντιμετωπίσει στο δρόμο.
Η ομάδα έχει λάβει χρηματοδότηση 560 χιλιάδων δολαρίων από το Εθνικό Ιδρυμα Ερευνών των ΗΠΑ για να δημιουργήσει διαφόρων ειδών «προβλήματα του τρόλεϊ» και να δείξει ότι μπορεί να απαντήσει στα ηθικά διλήμματα που θα προκύπτουν κάθε φορά σε ένα αυτόνομο αυτοκίνητο.
Για να τα καταφέρουν οι ερευνητές προσπαθούν να μετατρέψουν ηθικές θεωρίες σε μια γλώσσα κατανοητή από τους ηλεκτρονικούς υπολογιστές. Οι φιλόσοφοι της λεγόμενης «ωφελιμιστικής σχολής» πιστεύουν ότι όλες οι ζωές έχουν ίδιο ηθικό βάρος και έτσι ένας αλγόριθμος βασισμένος σε αυτήν την θεωρία θα είναι προγραμματισμένος έτσι, ώστε να δίνει την ίδια αξία στη ζωή των επιβατών του αυτοκινήτου το οποίο ελέγχει αλλά και στη ζωή των πεζών.
Υπάρχουν αρκετοί που πιστεύουν ότι είναι υποχρέωση του κάθε ανθρώπου να προστατεύει τον εαυτό του και έτσι από τη στιγμή που ένα αυτόνομο αυτοκίνητο δεν είναι προγραμματισμένο να προκαλεί επίτηδες ζημιά σε άλλους ανθρώπους, είναι αποδεκτό να προσπαθήσει το όχημα να κάνει όποιες ενέργειες μπορεί, για να αποφύγει μια σύγκρουση με άλλο όχημα ή να βγει εκτός δρόμου για να προστατέψει τους επιβάτες του – ακόμη και αν οι ενέργειες που θα κάνει το όχημα θέσουν σε κίνδυνο άλλους ανθρώπους.
Η ομάδα των φιλοσόφων που αναπτύσσει τους αλγόριθμους προς το παρόν δεν παίρνει δημόσια θέση στο ποια θεωρία ηθικής είναι η σωστή. Ελπίζει ότι δεν θα χρειαστεί να αποφασίσει αυτή (η ομάδα δλδ.) ποιες επιλογές θα έχει το αυτοκίνητο αλλά θα δημιουργήσει ένα πλαίσιο λειτουργίας, όπου τις αποφάσεις για το τι θα κάνει το όχημα σε κάθε δύσκολη περίπτωση θα τις παίρνει είτε η κατασκευάστρια εταιρεία είτε ο ίδιος ο πελάτης.
Eνα βίντεο για τα αυτόνομα οχήματα:
Οι ερευνητές δεν συνεργάζονται ακόμη με κάποια αυτοκινητοβιομηχανία και σκοπεύουν πρώτα να ολοκληρώσουν μια σειρά δοκιμών πριν προσεγγίσουν μία εταιρεία. Ο Εβανς και η ομάδα του περιμένει να δουν τα αποτελέσματα που θα επιφέρουν οι αποφάσεις που θα πάρουν τα οχήματα στα διάφορα σενάρια που σχεδιάστηκαν. Οι ερευνητές περιμένουν να δουν αν μια θεωρία ηθικής θα οδηγήσει στο να σώζονται περισσότερες ζωές από κάποια άλλη ή αν τα αποτελέσματα θα είναι πιο περίπλοκα.
«Δεν είναι μόνο αριθμητικό το ζήτημα, δηλαδή πόσοι άνθρωποι έχουν πεθάνει αλλά και το ποιοι επιλέχθηκαν να πεθάνουν και ποιοι να ζήσουν. Είναι πιθανό δύο σενάρια να έχουν ως αποτέλεσμα τον ίδιο αριθμό θανάτων αλλά όχι των ίδιων ατόμων. Η διαφορά ανάμεσα στο σενάριο Α και σενάριο Β μπορεί να είναι ότι στο πρώτο να πεθάνουν άτομα ηλικίας άνω των 50 ετών ενώ στο δεύτερο σενάριο όσοι χάσουν την ζωή τους να είναι κάτω των 30 ετών. Πρέπει λοιπόν να ξεκινήσει μια συζήτηση στην κοινωνία όχι μόνο για το επίπεδο των κινδύνων που θα δεχτούμε να υπάρξουν από την χρήση των αυτόνομων οχημάτων αλλά και το ποιους ανθρώπους δεχόμαστε να εκθέσουμε σε κίνδυνο. Αν κάποιες θεωρίες ηθικής αναφέρουν ότι πρέπει να σωθούν οι επιβάτες ενός αυτόνομου οχήματος ενώ άλλες οι πεζοί, θα πρέπει να υπάρξει συζήτηση για το ποια επιλογή θα λαμβάνουν τα αυτόνομα οχήματα. Θα πρέπει, επίσης, να υπάρξει μια νέα συζήτηση για την δομή του οδικού δικτύου και να δούμε την πιθανότητα να υπάρχει μεγαλύτερη απόσταση των πεζών από τους δρόμους» αναφέρει ο Εβανς.
Απρόβλεπτοι κίνδυνοι και εφαρμογές
Ενα ακόμη σοβαρό ζήτημα που απασχολεί την ομάδα των φιλοσόφων είναι αν το λογισμικό των αυτόνομων οχημάτων θα είναι απόλυτα ασφαλές ή θα υπάρχει δυνατότητα να πάρουν τον έλεγχο αυτών των οχημάτων κάποιοι ικανοί χάκερ, οι οποίοι θα μπορούν να «πειράξουν» τους αλγορίθμους. Επίσης υπάρχουν τεχνικοί κίνδυνοι που πρέπει να συζητηθούν, όπως για παράδειγμα η περίπτωση ένα υπέρυθρο λέιζερ να χρησιμοποιηθεί για να μπερδέψει διαφόρους αισθητήρες του συστήματος και έτσι το όχημα να βγει από την πορεία του και να προκληθεί τροχαίο ατύχημα. Υπάρχει επίσης το ζήτημα της επικοινωνίας των αυτόνομων οχημάτων μεταξύ τους και το αν θα αλληλεπιδρούν ομαλά, ειδικά αν λειτουργούν με διαφορετικά συστήματα τεχνητής νοημοσύνης.
Μπορεί να υπάρχουν και θετικές πλευρές με τη γενικευμένη χρήση αυτόνομων οχημάτων. Μπορεί, για παράδειγμα, να μειωθούν σημαντικά τα τροχαία ατυχήματα και ειδικά εκείνα που οδηγούν σε σοβαρούς τραυματισμούς και θανάτους.
«Οι προεκτάσεις της χρήσης αυτόνομων οχημάτων είναι πολλές και εν πολλοίς ανεξερεύνητες ακόμη. Είναι σαν να προσπαθούσε κάποιος να προβλέψει τις συνέπειες και τις εφαρμογές που θα είχε στην ζωή των ανθρώπων ο ηλεκτρισμός, όταν αυτός έκανε την εμφάνιση του. Κάποιος θα έλεγε τότε ότι το ηλεκτρικό ρεύμα απλώς θα αντικαταστήσει τα κεριά. Ομως αποδείχθηκε ότι ήταν κάτι πολύ πολύ περισσότερο. Κανείς δεν θα μπορούσε να προβλέψει τότε πώς θα άλλαζε την ανθρωπότητα ο ηλεκτρισμός. Θεωρώ ότι η ρομποτική τεχνολογία και η τεχνητή νοημοσύνη ανήκουν στην ίδια κατηγορία» σχολιάζει ο Πάτρικ Λιν, καθηγητής Φιλοσοφίας στο Πολιτειακό Πολυτεχνικό Πανεπιστήμιο της Καλιφόρνια (Cal Poly).