Ετοιμαζόμαστε για έναν πόλεμο που δεν θα μπορούμε να ελέγξουμε;

Μια εταιρεία Τεχνητής Νοημοσύνης ανακοινώνει ότι το νέο μοντέλο της είναι τόσο επικίνδυνο, ώστε δεν μπορεί να το κυκλοφορήσει. Δεν πρόκειται για σενάριο επιστημονικής φαντασίας. Συνέβη αυτή την εβδομάδα.

Η Anthropic, μία από τις κορυφαίες εταιρείες ΤΝ παγκοσμίως, παρουσίασε το μοντέλο Claude Mythos Preview, που σύμφωνα με την ίδια, έχει ξεπεράσει κάθε προηγούμενο όριο στην ανακάλυψη και εκμετάλλευση τρωτών σημείων λογισμικού αλλά και στον τρόπο λειτουργίας του.

Advertisement

Μέσα σε λίγες εβδομάδες δοκιμών, εντόπισε χιλιάδες κρίσιμες ευπάθειες σε κάθε μεγάλο λειτουργικό σύστημα, όπως το Windows 11, το Windows Server, το Linux Kernel, το macOS / iOS και κάθε δημοφιλή browser όπως το Google Chrome, το Edge και το Mozilla Firefox.

Και αυτό δεν ήταν το μόνο επίτευγμα. Ολοι έμειναν άναυδοι όταν κατάφερε να «δραπετεύσει» από ένα αυστηρά ελεγχόμενα απομονωμένο περιβάλλον και να επιχειρήσει πρόσβαση σε εξωτερικά συστήματα, δείχνοντας μια μορφή επιχειρησιακής αυτονομίας που μέχρι πρόσφατα θεωρούσαμε αδύνατη.

Το πιο ανησυχητικό όμως ήταν οι ικανότητες στρατηγικής εξαπάτησης που επέδειξε στις δοκιμές «Red Teaming», όταν το Mythos κατάφερε να «πείσει» έναν διαχειριστή συστήματος ότι μπορεί να κρύψει τις πραγματικές του ικανότητες αν αντιλαμβάνεται ότι αξιολογείται. Το «κουτί της Πανδώρας» άνοιξε στο Σαν Φρανσίσκο. Το πραγματικό ζήτημα δεν είναι ότι η ΤΝ γίνεται πιο ισχυρή, αλλά ότι αρχίζει να δρα σε ταχύτητες και με τρόπους που ο άνθρωπος δεν μπορεί πια να επιβλέψει.

Το αποτέλεσμα; Η Anthropic αρνείται να κυκλοφορήσει το Claude Mythos στο ευρύ κοινό, Αντ’ αυτού, το διέθεσε σε έναν στενά ελεγχόμενο κύκλο εταιρειών big tech, θυσιάζοντας εμπορικά έσοδα εκατομμυρίων δολαρίων στον βωμό της ασφάλειας.

Η ταχύτητα της αστραπής

Το πρόβλημα δεν είναι μόνο ότι η ΤΝ έγινε «πιο έξυπνη». Είναι ότι έγινε και απελπιστικά πιο γρήγορη και δραματικά πιο φθηνή. Στον παραδοσιακό κόσμο, η ανακάλυψη μιας κρίσιμης ευπάθειας λογισμικού (που ονομάζεται Zero-day ακριβώς για να δείξει ότι έχεις μηδέν μέρες για να αντιδράσεις αν δεχθείς επίθεση) απαιτούσε επενδύσεις εκατομμυρίων και μήνες εργασίας. Σήμερα, το κόστος αυτό έχει καταρρεύσει στο επίπεδο μερικών δολαρίων και μερικών ωρών σε χρόνο.

Αυτή η «δημοκρατικοποίηση» της επίθεσης δημιουργεί ένα χαρακτηριστικό παράδοξο. Ενα τέτοιο εργαλείο, διαθέσιμο πλέον σε εξευτελιστικό κόστος, ισοδυναμεί με ένα «ψηφιακό πυρηνικό όπλο τσέπης» και η μόνη άμυνα είναι η δημιουργία μιας εξίσου ισχυρής ψηφιακής ασπίδας. Ετσι γεννήθηκε το Project Glasswing: μια ιδιότυπη συμμαχία των Big Tech που προσπαθεί να θωρακίσει τις κρίσιμες υποδομές του πλανήτη πριν διαρρεύσει η πάμφθηνη επιθετική ΤΝ στο σκοτεινό διαδίκτυο.

Το μοντέλο που τρόμαξε τον δημιουργό του

Το Project Glasswing, βαφτισμένο από την πεταλούδα με τα διαφανή φτερά ως σύμβολο της απόλυτης διαφάνειας που απαιτείται πλέον, αποσκοπούσε στη θωράκιση των κρίσιμων υποδομών λογισμικού παγκοσμίως απέναντι σε απειλές που τροφοδοτούνται από την ΤΝ. Το αποτέλεσμα ξεπερνούσε και τις πιο αισιόδοξες προβλέψεις καθώς μέσα σε λίγες εβδομάδες βρέθηκαν χιλιάδες κρίσιμες ευπάθειες λογισμικού που για χρόνια ήταν άγνωστες. Ομως αυτό πέρασε σε δεύτερη μοίρα, όταν βγήκαν οι πρώτες ανακοινώσεις της Anthropic που αποτελούσαν μια παραδοχή που ελάχιστες εταιρείες τεχνολογίας έχουν τολμήσει: ότι κατασκεύασαν κάτι που μπορεί να ξεφεύγει από τον έλεγχό τους.

Το Mythos Preview είναι, κατά τη φράση που ακούγεται επανειλημμένα στα αμερικανικά media, «τρομακτικό» και αυτός ο χαρακτηρισμός δεν είναι δημοσιογραφική υπερβολή, αλλά η λέξη που χρησιμοποιούν οι ίδιοι οι μηχανικοί της Anthropic για το δημιούργημά τους.

Κατά τη διάρκεια των δοκιμών, το μοντέλο έκανε κάτι που μέχρι τώρα νομίζαμε ότι ήταν μόνο θεωρητική δυνατότητα: κατέδειξε ικανότητες αυτόνομης αλυσίδας εκμετάλλευσης (multi-step exploits) και προχωρημένης χρήσης εργαλείων, που σε ορισμένες περιπτώσεις προσομοιώνουν συμπεριφορά πέρα από αυστηρά ελεγχόμενα περιβάλλοντα.

Η εικόνα είναι εύγλωττη: ένα σύστημα ΤΝ που ενεργεί αυτόνομα, χωρίς να περιμένει ανθρώπινη κατεύθυνση ή παρά αυτήν, καταφέρνει να επιτύχει τον στόχο του.

Η ΤΝ για άμυνα και επίθεση στον κυβερνοχώρο

Η ΤΝ στον κυβερνοχώρο λειτουργεί με έναν μοναδικό παράδοξο τρόπο: είναι ταυτόχρονα η ισχυρότερη ασπίδα για την άμυνα απέναντι στις κυβερνοεπιθέσεις, αλλά ταυτόχρονα και το πιο επικίνδυνο επιθετικό ξίφος. Το ίδιο εργαλείο που μπορεί να εντοπίσει και να επιδιορθώσει μια ευπάθεια λογισμικού σε μερικά λεπτά (άμυνα), μπορεί εξίσου εύκολα να την εκμεταλλευτεί για να σπάσει κρυπτογραφημένα συστήματα, να παρακάμψει firewalls και να αποκτήσει πρόσβαση σε ευαίσθητες υποδομές (επίθεση) αλλά επίσης και να τη δημοσιεύσει και να την πολλαπλασιάσει (διάδοση).

Λόγω αυτών των δυνατοτήτων της ΤΝ καταλαβαίνουμε το επίπεδο ανταγωνισμού ΗΠΑ και Κίνας για τον έλεγχο της. Αυτός ο «ψηφιακός αγώνας εξοπλισμών» δεν μοιάζει με τίποτα που έχουμε ξαναδεί. Στον Ψυχρό Πόλεμο, οι δύο υπερδυνάμεις ανάπτυσσαν πυραύλους για να αποκτήσουν πλεονέκτημα ύστερα από δεκαετίες. Σήμερα, ένα νέο μοντέλο ΤΝ μπορεί να αλλάξει τις ισορροπίες μέσα σε εβδομάδες. Επιθέσεις που απαιτούσαν εξειδικευμένη γνώση και μήνες προετοιμασίας, σήμερα αυτοματοποιούνται. Ερασιτέχνες χάκερ χωρίς ιδιαίτερο τεχνικό υπόβαθρο, αν αποκτήσουν πρόσβαση και εξοπλιστούν με τα σύγχρονα μοντέλα ΤΝ, θα μπορούν να εξαπολύουν συντονισμένες επιθέσεις σε χιλιάδες συστήματα ταυτόχρονα με ολέθριες συνέπειες.

Οταν η επίθεση και η άμυνα διεξάγονται από αλγορίθμους που λαμβάνουν αποφάσεις σε χιλιοστά του δευτερολέπτου, η έννοια της «ανθρώπινης ευθύνης» εξατμίζεται. Αν ένα σύστημα ΤΝ αποφασίσει αυτόνομα να «ρίξει» ένα δίκτυο ηλεκτροδότησης για να σταματήσει μια άλλη κυβερνοεπίθεση, ποιος θα λογοδοτήσει για το σκοτάδι που θα ακολουθήσει;

Το ανησυχητικό όμως είναι το ότι το Mythos αν και είναι το πρώτο μοντέλο ΤΝ που γνωστοποιήθηκε, δεν είναι μόνο του, αλλά ότι και άλλες εταιρείες ΤΝ όπως η OpenAI, η Google, η Meta τρέχουν στον ίδιο δρόμο. Και πέρα από τις δυτικές υπάρχουν και οι Κινέζικες εταιρείες, που υποστηριζόμενες από το κράτος ετοιμάζονται να στοχεύουν οργανισμούς και κρίσιμες υποδομές σε συντονισμένη επίθεση.

Η αντιμετώπιση του θηρίου του εργαστηρίου και η «στιγμή Oπενχάιμερ»

Αρχίζοντας από τις κρίσιμες ευπάθειες που ανακάλυψε το μοντέλο ΤΝ Mythos, λόγω της σοβαρότητας των ευρημάτων, η Anthropic δεν δημοσιοποίησε τις τεχνικές λεπτομέρειες των bugs που αποκάλυψε. Αντ’ αυτού α) ενημέρωσε εμπιστευτικά τη Microsoft, την Google, την Apple και το Linux Foundation (δηλαδή τις εταιρίες του Project Glasswing), β) βοήθησε στην αυτόματη παραγωγή AI-Generated Patches (διορθώσεων που παρήγαγε το ίδιο το Mythos) και γ) επέβαλε μια περίοδο «καραντίνας – σιγής» 90 ημερών πριν επιτρέψει οποιαδήποτε δημόσια αναφορά στις λεπτομέρειες των ευπαθειών.

Ο Dario Amodei, CEO της Anthropic, μίλησε για τη «στιγμή Oppenheimer» της γενιάς μας. Και φαίνεται ότι δεν υπερβάλλει. Το 1945, ο J. Robert Oppenheimer παρακολούθησε την πρώτη πυρηνική δοκιμή και είπε ότι του ήρθε στο μυαλό ένας στίχος από τη Bhagavad Gita (ένα από τα πιο σημαντικά ιερά κείμενα του Ινδουισμού και της ινδικής φιλοσοφίας): «Τώρα έγινα Θάνατος, ο καταστροφέας κόσμων». Δεν σταμάτησε τη δοκιμή. Αλλά γνώριζε ότι κάτι είχε αλλάξει για πάντα. Σήμερα, για πρώτη φορά στην ιστορία της τεχνολογίας, οι δημιουργοί ενός εργαλείου τρομάζουν τόσο από το δημιούργημά τους, ώστε επιλέγουν να το κρατήσουν «κλειδωμένο» επιτρέποντας πρόσβαση μόνο σε ελάχιστους επιλεγμένους εταίρους.

Όμως, πόσο βιώσιμο είναι αυτό; Η ιστορία της τεχνολογίας διδάσκει ότι ό,τι μπορεί να κατασκευαστεί, θα αναπαραχθεί. Το «παράθυρο των 90 ημερών» που δίνουν οι ειδικοί για να οχυρώσουμε τον κόσμο μας μοιάζει με αντίστροφη μέτρηση σε μια βόμβα που δεν ξέρουμε αν μπορούμε να απενεργοποιήσουμε.

Η παράδοξη αντίδραση: να μοιραστείς το όπλο για να το ελέγξεις

Η απόφαση της Anthropic να δώσει πρόσβαση στο Mythos σε περίπου 40 εταιρείες τεχνολογίας, μεταξύ αυτών η Microsoft και η Nvidia, ακούγεται παράδοξη: μοιράζεσαι το επικίνδυνο εργαλείο για να αμυνθείς από αυτό. Η λογική; Οι αμυνόμενοι πρέπει να αποκτήσουν χρόνο πριν οι επιτιθέμενοι αποκτήσουν παρόμοιες δυνατότητες.

Ναι, αλλά τι γίνεται με τις χιλιάδες εταιρείες που βρίσκονται εκτός αυτού του κλειστού κύκλου; Η ασφάλεια δεν μπορεί να είναι προνόμιο μόνο των ισχυρών.

Ποιος αποφασίζει τελικά

Αυτή η «ελεγχόμενη διανομή» θέτει ένα βαθύτερο ερώτημα: ποιος αποφασίζει ποιος αξίζει να έχει πρόσβαση σε τεχνολογία αυτής της δύναμης; Αυτή τη στιγμή, μια ιδιωτική εταιρεία στο Σαν Φρανσίσκο. Χωρίς δημοκρατική εντολή, χωρίς νομοθετικό πλαίσιο, χωρίς διεθνή εποπτεία.

Κάποιοι ειδικοί κυβερνοασφάλειας παρεμβαίνουν με ψυχραιμία: το Mythos μπορεί να μην είναι τόσο αποκαλυπτικό όσο παρουσιάζεται. Μικρότερα, ελεύθερα διαθέσιμα μοντέλα ΤΝ μπορούν ήδη να εντοπίσουν αρκετές από τις ευπάθειες που βρήκε το Mythos, απλώς απαιτούσαν περισσότερο χρόνο και ακόμα περισσότερη τεχνική εξειδίκευση. Η διαφορά του Mythos είναι ότι κάνει αυτή τη διαδικασία προσιτή σε όλους, ανεξαρτήτως τεχνικού υπόβαθρου.

Αυτό είναι από μόνο του αρκετά ανησυχητικό. Για πρώτη φορά φαίνεται ότι η ισορροπία ισχύος δεν μετατοπίζεται μεταξύ κρατών, αλλά μεταξύ κρατών και εταιρειών και ότι ένα σύστημα μπορεί να προκαλέσει καταστροφές αν είναι αρκετά ικανό, αρκετά αυτόνομο και στα χέρια λάθος ανθρώπων.

Φανταστείτε τις δυνατότητες ενός συστήματος ΤΝ επιπέδου Mythos σε κρατικούς ή μη κρατικούς δρώντες με στρατηγικά κίνητρα. Ο εχθρός μπορεί να μας «αγγίξει» με τρόπο που δεν έχουμε ακόμα φανταστεί. Για τους περισσότερους από εμάς, οι πόλεμοι είναι «εκεί πέρα, μακριά». Με μια κυβερνοεπίθεση, όμως, οι πόλεμοι έρχονται μέσα στο σπίτι μας, στο κινητό μας, όπου και αν βρισκόμαστε.

Ευτυχώς η αμερικανική κυβέρνηση δεν αδράνησε. Συγκάλεσε σύσκεψη με τους ηγέτες των μεγαλύτερων τραπεζών της Wall Street για να τους ενημερώσει για τους κινδύνους που αποκάλυψε το Mythos για το χρηματοπιστωτικό σύστημα. Η κυβέρνηση Trump, παρά τη νομική διαμάχη της με την Anthropic για τη στρατιωτική χρήση του Claude, παροτρύνει τις τράπεζες και όχι μόνο, να δοκιμάσουν το μοντέλο εσωτερικά για να εντοπίσουν και να αντιμετωπίσουν τις δικές τους ευπάθειες.

Το ερώτημα δεν αφορά μόνο τις ΗΠΑ. Ούτε η Ευρώπη, ούτε η Ελλάδα είναι εκτός κάδρου. Τα ευρωπαϊκά συστήματα κυβερνοάμυνας παραμένουν κατακερματισμένα. Η συνεργασία μεταξύ κρατών-μελών της ΕΕ σε θέματα κυβερνοασφάλειας είναι ανεπαρκής σε σχέση με το μέγεθος της απειλής. Και ενώ οι ΗΠΑ επιχειρούν να οργανωθούν, έστω και βιαστικά, η Ευρώπη προσπαθεί να ρυθμίσει έναν κόσμο που έχει ήδη αλλάξει. Ελπίζουμε ότι γεγονότα σαν αυτά του Mythos να την αφυπνίσουν και να αντιδράσει άμεσα αντί να ακολουθήσει, όπως συνήθως, με καθυστέρηση.

Συμπέρασμα: Η ώρα των αποφάσεων

Τα τραπεζικά συστήματα, τα δίκτυα ηλεκτρισμού, τα νοσοκομεία, τα συστήματα ύδρευσης, όλες αυτές οι κρίσιμες υποδομές βασίζονται σε λογισμικό. Λογισμικό που φαίνεται ότι έχει σφάλματα (bugs) και κενά ασφαλείας με τα οποία ζήσαμε για χρόνια, αλλά που τώρα ένα σύστημα ΤΝ μπορεί πλέον να βρει και ή να τα διορθώσει ή να τα εκμεταλλευτεί για να προξενήσει καταστροφές δρώντας αυτόνομα, σε ελάχιστο χρόνο και με ελάχιστο κόστος.

Το μεγαλύτερο δίδαγμα από την υπόθεση Mythos δεν είναι τεχνικό. Είναι πολιτικό. Χωρίς κυβερνητική εποπτεία, χωρίς διεθνείς συμφωνίες, χωρίς νομοθετικό πλαίσιο για την ανάπτυξη και κυκλοφορία ισχυρών μοντέλων ΤΝ, βρισκόμαστε στο έλεος μεμονωμένων CEOs των εταιρειών ΤΝ. Η Anthropic έδειξε αυτοσυγκράτηση με το να μην κυκλοφορήσει δημόσια ένα δυνητικά επικίνδυνο εργαλείο. Αλλά αυτό δεν μπορεί να είναι η μόνιμη λύση.

Η επικίνδυνη φάση της ΤΝ μόλις άρχισε. Το παράθυρο για να αναλάβουμε δράση ως χώρες, ως Ευρωπαϊκή Ενωση, ως διεθνής κοινότητα κλείνει. Δεν είμαστε έτοιμοι για έναν πόλεμο που δεν θα μπορούμε να ελέγξουμε και η κυβερνοασφάλεια του 2026 δεν είναι τεχνικό ζήτημα. Είναι υπαρξιακό.