Πώς θα μπορούσε πραγματικά η AI να αφανίσει την ανθρωπότητα; Τα 4+1 επικρατέστερα σενάρια

Νωρίτερα αυτόν τον μήνα, ο ερευνητής Τεχνητής Νοημοσύνης (ΤΝ) Τζέικομπ Κόξον παραιτήθηκε από την Anthropic έπειτα από μόλις τέσσερις μήνες. Σε ανακοίνωσή του στην πλατφόρμα X, ανέφερε:

Advertisement

«Οι άνθρωποι που κατασκευάζουν την Τεχνητή Νοημοσύνη πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας».

Ο Έβαν Χάμπινγκερ, ανώτερο στέλεχος της Anthropic, συμφώνησε μάλιστα με τον Κόξον, προσθέτοντας ότι, κατά την προσωπική του εκτίμηση, η πιθανότητα να συμβεί κάτι τέτοιο μέσα στην επόμενη δεκαετία ξεπερνά το 10%.

Όπως ήταν αναμενόμενο, οι δηλώσεις αυτές προκάλεσαν έντονες αντιδράσεις και μεγάλη συζήτηση. Πλέον γίνεται πολύς λόγος για την επιβράδυνση της έρευνας γύρω από την Τεχνητή Νοημοσύνη και για την ενίσχυση του «ανθρώπινου ελέγχου» πάνω στην τεχνολογία.

Αλλά πώς ακριβώς θα μπορούσε η Τεχνητή Νοημοσύνη να μας σκοτώσει όλους;

Δεν λείπουν τα ευφάνταστα σενάρια και τα περισσότερα από αυτά περιστρέφονται γύρω από την έννοια της «υπερευφυούς» Τεχνητής Νοημοσύνης — δηλαδή μιας ΤΝ που θα είναι ικανότερη από τους ανθρώπους.

Ο Toby Walsh έχει περιορίσει αυτά τα σενάρια στα πέντε βασικότερα, κατατάσσοντάς τα κατά προσέγγιση από το πιο ασαφές στο πιο συγκεκριμένο. Και υποστηρίζει ότι η λίστα είναι επίσης ταξινομημένη από το λιγότερο πιθανό στο περισσότερο πιθανό.

1. Δεν θα μάθουμε ποτέ

Όσοι προειδοποιούν για μια καταστροφική εξέλιξη της Τεχνητής Νοημοσύνης συχνά δικαιολογούν τις ανησυχίες τους μέσω ενός ενοχλητικού παράδοξου τύπου «Catch-22»: πώς θα μπορούσαμε να φανταστούμε τι θα έκανε μια υπερευφυΐα για να εξοντώσει λιγότερο ευφυή όντα όπως εμείς;

Θα έπρεπε να είμαστε και εμείς υπερευφυείς για να προβλέψουμε τι θα ήταν ικανή να κάνει μια υπερευφυΐα. Είναι σαν να ζητάς από τον σκύλο της οικογένειάς σου να φανταστεί έναν θερμοπυρηνικό πόλεμο.

Τα καλά νέα είναι ότι η υπερευφυΐα ίσως απέχει ακόμη αρκετά. Τα σημερινά μοντέλα Τεχνητής Νοημοσύνης είναι πολύ καλά στην επίλυση συγκεκριμένων προβλημάτων, αλλά αυτό δεν είναι το ίδιο με το να είναι πιο ευφυή από έναν άνθρωπο σε όλους τους τομείς.

Ωστόσο, η Τεχνητή Νοημοσύνη έλυσε πρόσφατα ένα από τα επτά πιο δύσκολα γνωστά μαθηματικά προβλήματα. Φαίνεται επίσης ότι πλησιάζει στην επίλυση και άλλων, κάτι που ίσως σε κάνει λιγότερο αισιόδοξο ως προς αυτό.

2. Συνδετήρες

Μια υπερευφυής Τεχνητή Νοημοσύνη θα ήταν πιθανότατα εξαιρετικά ικανή στο να πετυχαίνει τους στόχους της. Το πρόβλημα είναι ότι μπορεί να μην της καίγεται καρφί για την επιβίωση της ανθρωπότητας.

Ένα κλασικό παράδειγμα αυτής της αδιαφορίας προέρχεται από το υποθετικό σενάριο του φιλοσόφου της Οξφόρδης Νικ Μπόστρομ: μια υπερευφυής ΤΝ έχει σχεδιαστεί για να μεγιστοποιεί την παραγωγή συνδετήρων. Και για να φτάσει στον στόχο της, αρχίζει να μετατρέπει όλη τη διαθέσιμη ύλη — ανθρώπους, πλανήτες, άστρα — σε συνδετήρες.

Εδώ έχουμε την άψογη εκτέλεση ενός εντελώς κακοδιατυπωμένου στόχου. Η ΤΝ δεν μισεί την ανθρωπότητα. Απλώς διαπιστώνει ότι κι εμείς αποτελούμαστε από άτομα, τα οποία, κατά τη δική της λογική, θα έπιαναν περισσότερο τόπο αν γίνονταν συνδετήρες. Τίποτα προσωπικό.

Τα καλά νέα είναι ότι αυτό το σενάριο μπερδεύει τη νοημοσύνη με τη δύναμη. Το ότι μια ΤΝ είναι υπερευφυής δεν σημαίνει απαραίτητα ότι μπορεί και να κάνει ό,τι θέλει. Για να μετατρέψει, ας πούμε, τον πλανήτη σε μια απέραντη βιομηχανική ζώνη παραγωγής συνδετήρων, θα χρειαζόταν πρώτα και τις σχετικές άδειες.

Και ακόμη κι αν τις εξασφάλιζε, η κατασκευή αμέτρητων εργοστασίων συνδετήρων θα προκαλούσε αναπόφευκτα κατακραυγή. Ομάδες συμφερόντων θα έτρεχαν στα δικαστήρια. Περιβαλλοντικοί ακτιβιστές θα ξάπλωναν μπροστά στις μπουλντόζες.

Ο πραγματικός κόσμος είναι γεμάτος εμπόδια, καθυστερήσεις, αντιδράσεις και γραφειοκρατία που δεν επιτρέπουν ούτε στους πολύ έξυπνους να επιβάλλουν εύκολα τη θέλησή τους στους υπόλοιπους.

Στην πραγματικότητα, θα μπορούσε κανείς να δει τα σημερινά data centers ως μια πρόγευση του θεωρητικού σεναρίου των συνδετήρων. Και ήδη οι άνθρωποι αντιδρούν ολοένα και περισσότερο στην ιδέα να παραδώσουμε ολόκληρο τον πλανήτη στα κέντρα δεδομένων.

3. Βιολογικά όπλα

Η ανθρωπότητα θα μπορούσε να αφανιστεί από μια υπερευφυή Τεχνητή Νοημοσύνη που θα δημιουργούσε και θα απελευθέρωνε στην ατμόσφαιρα κάποιο νέο και επικίνδυνο βιολογικό όπλο. Αυτό αποτελεί, πράγματι, ένα από τα ενδεχόμενα που περιλαμβάνονται στο σενάριο «AI 2027» του AI Futures Project, ενός μη κερδοσκοπικού οργανισμού που ασχολείται με την πρόβλεψη των επιπτώσεων της προηγμένης Τεχνητής Νοημοσύνης.

Ο κίνδυνος αυτός έγινε πιο απτός τον περασμένο μήνα, όταν ερευνητές του Πανεπιστημίου Stanford ανακοίνωσαν ότι χρησιμοποίησαν ένα μοντέλο Τεχνητής Νοημοσύνης για τη γλώσσα της γενετικής, προκειμένου να συνθέσουν 16 νέους ιούς.

Ανησυχητικό είναι το γεγονός ότι απλώς έστειλαν τις γενετικές αλληλουχίες σε ένα εργαστήριο που δέχεται παραγγελίες και εκείνο τους επέστρεψε τους ιούς μέσα σε δοκιμαστικούς σωλήνες. Ολόκληρο το πείραμα κόστισε, το πολύ, μερικές εκατοντάδες χιλιάδες δολάρια.

Τα καλά νέα είναι ότι είναι εξαιρετικά δύσκολο να σκοτώσεις τους πάντες με έναν νέο ιό. Για να συμβεί αυτό, χρειάζεται ένας ιός με πολύ υψηλή μεταδοτικότητα, ώστε να εξαπλωθεί όσο το δυνατόν περισσότερο. Όμως υπάρχει ένας κανόνας στη βιολογία: οι ιοί που εξαπλώνονται εύκολα είναι συνήθως λιγότερο θανατηφόροι. Αντίθετα, όταν ένας ιός είναι εξαιρετικά θανατηφόρος, η μεταδοτικότητά του τείνει να μειώνεται, καθώς οι περισσότεροι άνθρωποι που μολύνονται πεθαίνουν προτού προλάβουν να μεταδώσουν τη λοίμωξη.

Η COVID-19 σκότωσε λιγότερο από το 1% της ανθρωπότητας. Η φονικότερη πανδημία στην καταγεγραμμένη ιστορία ήταν ο Μαύρος Θάνατος, όταν η πανώλη σκότωσε περισσότερο από το ένα τρίτο του πληθυσμού της Ευρώπης τον 13ο αιώνα.

Ωστόσο, ακόμη και η πανώλη θα ήταν πιθανότατα πολύ λιγότερο θανατηφόρα σήμερα, χάρη στις αυξημένες ιατρικές μας γνώσεις και στις καλύτερες συνθήκες υγιεινής.

4. Πυρηνικός πόλεμος

Τι θα γινόταν αν η Τεχνητή Νοημοσύνη αποκτούσε πρόσβαση στην αλυσίδα διοίκησης και ελέγχου των πυρηνικών όπλων και ξεκινούσε έναν πυρηνικό πόλεμο; Τα τελευταία 50 χρόνια έχουμε φτάσει αρκετές φορές κοντά σε πυρηνικό πόλεμο από λάθος.

Μας λένε ότι τα συστήματα πυρηνικής διοίκησης και ελέγχου είναι πλήρως αποσυνδεδεμένα από το διαδίκτυο. Ωστόσο, όπως είδαμε το 2010, οι πυρηνικές φυγόκεντροι του Ιράν τέθηκαν εκτός λειτουργίας από ένα κακόβουλο λογισμικό με την ονομασία Stuxnet, το οποίο πιστεύεται ότι εισήχθη μέσω ενός USB stick. Η Τεχνητή Νοημοσύνη μπορεί επίσης να δώσει στον στρατό ψευδείς πληροφορίες, κάτι που θα μπορούσε να οδηγήσει σε μη αναστρέψιμες ενέργειες.

Τα καλά νέα είναι ότι τα πυρηνικά οπλοστάσια έχουν μειωθεί. Ωστόσο, παραμένουν ίσως αρκετά για να σκοτώσουν τους μισούς από εμάς. Και αυτό δεν θα συνέβαινε από τις ίδιες τις πυρηνικές εκρήξεις, αλλά από τον λιμό που θα προκαλούσε ο πυρηνικός χειμώνας που θα ακολουθούσε.

5. Άλλοι άνθρωποι

Ίσως ο πιθανότερος κίνδυνος είναι να εξοντώσουμε εμείς οι ίδιοι τους εαυτούς μας. Και η Τεχνητή Νοημοσύνη θα μπορούσε να επισπεύσει αυτή την εξέλιξη.

Φανταστείτε — και δεν χρειάζεται ιδιαίτερη φαντασία — ότι η ΤΝ προκαλεί μαζικές απώλειες θέσεων εργασίας, γεμίζει τον χώρο της πληροφόρησης με παραπληροφόρηση, διχάζει την πολιτική ζωή και καταστρέφει τις ανθρώπινες σχέσεις μέσω ψεύτικης, συνθετικής συντροφικότητας.

Η κοινωνία θα μπορούσε εύκολα να καταρρεύσει. Αργά αλλά σταθερά, θα παύαμε να είμαστε σε θέση να υποστηρίζουμε την ανθρώπινη ζωή σε οποιαδήποτε κλίμακα.

Τι πρέπει, λοιπόν, να κρατήσουμε από όλα αυτά τα σενάρια; Υπάρχουν ασφαλώς κάποια πράγματα για τα οποία αξίζει να ανησυχούμε. Όχι όμως, ελπίζω, σε υπερβολικό βαθμό.

* O Toby Walsh είναι Καθηγητής Τεχνητής Νοημοσύνης και επικεφαλής ερευνητικής ομάδας στο Πανεπιστήμιο της Νέας Νότιας Ουαλίας (UNSW). Το άρθρο του αναδημοσιεύεται αυτούσιο στο Liberal, μέσω άδειας Creative Commons, από τον ιστότοπο TheConversation.com.