Ενα απειλητικό φάσμα πλανάται πάνω από τα κεφάλια μας, δικό μας δημιούργημα φυσικά, και δεν είναι άλλο από την Τεχνητή Νοημοσύνη. Δεν πρόκειται για παραλήρημα κάποιου τεχνοφοβικού, αλλά για την εκτίμηση ενός επιστήμονα με περγαμηνές στον συγκεκριμένο χώρο. Δεν θα το πιστέψετε ίσως, αλλά ο πανεπιστημιακός Στούαρτ Ράσελ, ιδρυτής του ειδικευμένου σε ζητήματα Τεχνητής Νοημοσύνης Κέντρου του Μπέρκλεϊ, είπε ότι οι ειδικοί του κλάδου έχουν τρομάξει από τα ίδια τους τα επιτεύγματα και συγκρίνουν την πρόοδο στην Τεχνητή Νοημοσύνη με τη δημιουργία της ατομικής βόμβας.

Ο Ράσελ, μιλώντας στον Guardian, επικέντρωσε στην ανάγκη ρύθμισης (δηλαδή χαλιναγώγησης) της σχετικής τεχνολογίας με διεθνείς συνθήκες. Και παραδέχθηκε ότι ο δημιουργικός επιστημονικός οίστρος παραγνώρισε τα στοιχειώδη: «Εργαστήκαμε επί σειρά ετών χωρίς να υπολογίσουμε τον αντίκτυπο της εργασίας μας στον πραγματικό κόσμο». Η σημασία της δήλωσης γίνεται απολύτως κατανοητή αν αναλογιστεί κανείς ότι στην Τεχνητή Νοημοσύνη βασίζονται πολλές εφαρμογές καθημερινής χρήσης στον σύγχρονο κόσμο, από τις μηχανές αναζήτησης στο web μέχρι τις τραπεζικές εργασίες, ενώ τα πεδία εφαρμογής πολλαπλασιάζονται συνεχώς. Αρκετά νωρίς, το 1995, ο Ράσελ συνέγραψε το θεμελιώδες για το ζήτημα βιβλίο «Artificial Intelligence: A Modern Approach» («Τεχνητή Νοημοσύνη, μία σύγχρονη προσέγγιση»).

Ο,τι ήταν, λοιπόν, η ατομική βόμβα για την επιβίωση του ανθρώπου κατά τον 20ό αιώνα, είναι σήμερα η Τεχνητή Νοημοσύνη: απειλή – μία επιπλέον δηλαδή, αφού από τα πυρηνικά οπλοστάσια η ανθρωπότητα δεν απηλλάγη, ούτε θα απαλλαγεί ποτέ.

Το πείραμα κι ο εφιάλτης

Ο Ράσελ είπε στο βρετανικό Μέσο ότι οι περισσότεροι συνάδελφοί του πιστεύουν πως εντός του αιώνα μας θα αναπτυχθούν «μηχανές εξυπνότερες από τον άνθρωπο». Τι σημαίνει αυτό μπορούμε να το αντιληφθούμε με το παράδειγμα που ανέφερε ο ίδιος ο Ράσελ: «Αν ζητούσαμε από ένα σούπερ έξυπνο μηχάνημα Τεχνητής Νοημοσύνης να βρει θεραπεία για τον καρκίνο το συντομότερο δυνατόν, μάλλον εκείνο θα έβρισκε κάποιον τρόπο να προκαλέσει όγκους σε ολόκληρο τον ανθρώπινο πληθυσμό, ώστε να μπορέσουμε να εκτελέσουμε εκατομμύρια πειράματα παράλληλα. Θα ήμασταν τα ινδικά χοιρίδιά του».

Σοκ; Ακολουθούν και τα χειρότερα, αφού η μηχανή Τεχνητής Νοημοσύνης στερείται του σημαντικότερου εργαλείου που σμίλεψε ο άνθρωπος με τον νου και το αίμα του στο διάβα των αιώνων, της ηθικής: «Θα γίνουν έτσι τα πράγματα επειδή ξεχάσαμε να διευκρινίσουμε ότι δεν χρησιμοποιούνται άνθρωποι για πειραματόζωα, ούτε σπαταλάται το παγκόσμιο ΑΕΠ για πειράματα». Το σούπερ έξυπνο μηχάνημα το απασχολεί μόνο η αποτελεσματικότητα των μέσων προς επίτευξη του σκοπού και τίποτε άλλο.

Η τυραννία των αλγορίθμων

Στη συνέχεια της συνέντευξής του στον Guardian ο Ράσελ αναφέρθηκε στα ήδη συντελεσμένα επικίνδυνα αποτυπώματα της Τεχνητής Νοημοσύνης στην κοινωνία των ανθρώπων. Στους αλγορίθμους «που επιλέγουν τι διαβάζουν και τι παρακολουθούν οι άνθρωποι». Κατά τον διακεκριμένο επιστήμονα, οι αλγόριθμοι «επιδρούν στη γνωστική μας αντίληψη» και «εδώ και πολύ καιρό ευνοούν το διχαστικό περιεχόμενο», αυξάνοντας έτσι «τη σύγκρουση στις κοινωνικές σχέσεις, και όχι μόνο στο web».

Η στρατιωτική χρήση της Τεχνητής Νοημοσύνης συνιστά μία ιδιαίτερη πραγματικότητα, άκρως ανησυχητική, ίσως πιο κοντά από οποιαδήποτε άλλη εφαρμογή στη θέση του Ράσελ περί νέας ατομικής βόμβας – θα καταστήσει δυνατή την κατασκευή εξαιρετικά αποτελεσματικών όπλων μαζικής εξόντωσης: τότε «οι προγραμματιστές θα εκπλαγούν όσο και οι φυσικοί που, όταν η ατομική βόμβα επετεύχθη, δεν ήταν έτοιμοι να αποδεχθούν το αποτέλεσμα της εργασίας τους πάνω στην ατομική ενέργεια».

Κώδικας συμπεριφοράς

Ο μόνος τρόπος, κατά τον Ράσελ, για να αποφευχθούν οι καταστροφικές εξελίξεις είναι να τεθούν όρια στην Τεχνητή Νοημοσύνη, ώστε να μπορεί να αξιολογήσει τα μέσα σε σχέση με τον εκάστοτε σκοπό. «Το μέλλον της Τεχνητής Νοημοσύνης βρίσκεται στην ανάπτυξη μηχανών που θα γνωρίζουν ότι ο πραγματικός στόχος είναι αβέβαιος, και ότι απαιτείται ανθρώπινος έλεγχος πριν από οποιαδήποτε απόφασή τους».

Ο Ράσελ μίλησε για «κώδικα συμπεριφοράς» που πρέπει να επιβληθεί στους ερευνητές με εθνική νομοθεσία και με διεθνείς συνθήκες. Είπε, δε, ότι η απαγόρευση της Τεχνητής Νοημοσύνης για μίμηση ανθρωπίνων όντων, όπως έχει θεσμοθετήσει η Ευρωπαϊκή Ενωση, πρέπει να επεκταθεί σε όλον τον κόσμο.

Ακολουθήστε το Protagon στο Google News