Οργανισμοί σε όλο τον κόσμο σπεύδουν να θωρακίσουν τα συστήματά τους, καθώς τα μοντέλα AI είναι ικανά να εντοπίζουν και να εκμεταλλεύονται τρωτά σημεία – Αυτός ο αγώνας δρόμου μπορεί να προκαλέσει απρόβλεπτα τεχνικά προβλήματα
Την περασμένη εβδομάδα αμερικανοί πολίτες βρέθηκαν αντιμέτωποι με αλλεπάλληλα περιστατικά προσωρινής κατάρρευσης βασικών υποδομών. Καθηλωμένες πτήσεις, μπλακ άουτ στη Microsoft – με παγκόσμιες επιπτώσεις -, αδυναμία πρόσβασης σε τραπεζικούς λογαριασμούς μέχρι και κατάρρευση του συστήματος επικοινωνίας που χρησιμοποιεί η NSA (Εθνική Υπηρεσία Ασφαλείας), έχουν προκαλέσει ανησυχία και έκρηξη των θεωριών συνωμοσίας στο διαδίκτυο.
Σύμφωνα με τις αρχές, κανένα από αυτά τα περιστατικά δεν αφορά κυβερνοεπίθεση, ούτε σχετίζονται μεταξύ τους.
Ωστόσο δεν υπάρχουν σαφείς εξηγήσεις για το πώς υπήρξε αυτή η αλληλουχία αστοχιών, ενώ οι απαντήσεις κυβερνητικών αξιωματούχων κάθε άλλο παρά λειτουργούν καθησυχαστικά καθώς γίνεται φανερό ότι υπάρχουν κενά στην ασφάλεια των υποδομών που πιθανόν επιτείνονται από τη χρήση της AI.
Η άρνηση δε της κυβέρνησης Τραμπ να θεσπίσει έστω και στοιχειώδεις κανόνες γύρω από την λειτουργία των εταιρειών τεχνητής νοημοσύνης αυξάνει την αβεβαιότητα για την ασφάλεια κρίσιμων υποδομών.
Ειδικοί κυβερνοασφάλειας εξηγούν με επιμονή αυτές τις μέρες, ότι δεν πρόκειται για κάποιου είδους «ψηφιακή Αποκάλυψη».
Ο αγώνας να αποφευχθεί ένα «bugmageddon»
Στον βαθμό που εμπλέκεται η τεχνητή νοημοσύνη, τα περιστατικά ενδέχεται να σχετίζονται με τις εκτεταμένες προσπάθειες διόρθωσης παρωχημένου κώδικα, καθώς οι οργανισμοί προσπαθούν να θωρακίσουν τα συστήματά τους απέναντι σε πιθανές κυβερνοεπιθέσεις.
Τα δεδομένα από το Downdetector δείχνουν επίσης ότι, αν και το επταήμερο έως τη Δευτέρα κατέγραψε τον υψηλότερο αριθμό εβδομαδιαίων διακοπών λειτουργίας τους τελευταίους 12 μήνες, η εικόνα σε μεγαλύτερα χρονικά διαστήματα —όπως οι 30 ημέρες— δεν αποτελεί κάτι πρωτοφανές.
Σύμφωνα με την εφημερίδα The Washington Sun, αξιωματούχοι εθνικής ασφάλειας και στελέχη της Wall Street ενημέρωσαν τους αμερικανούς βουλευτές ότι οι διακοπές οφείλονται σε προσπάθειες διόρθωσης σφαλμάτων λογισμικού (bugs), τα οποία εντοπίστηκαν από συστήματα τεχνητής νοημοσύνης.
Διεθνείς οργανισμοί έχουν επιδοθεί σε έναν αγώνα δρόμου για να αποφύγουν ένα «bugmageddon», μια «Αποκάλυψη» λόγω σφαλμάτων λογισμικού, — ένα σενάριο όπου χάκερ, με τη βοήθεια της τεχνητής νοημοσύνης, εντοπίζουν και εκμεταλλεύονται ευπάθειες στο διαδίκτυο προτού προλάβουν οι διαχειριστές να τις διορθώσουν.
Ο Μαρκγουέιν Μάλιναν, υπουργός Εσωτερικής Ασφαλείας, ανέφερε τη Δευτέρα ότι συστήματα τεχνητής νοημοσύνης —ικανά να γράφουν και να τροποποιούν κώδικα— ενδέχεται να συμβάλλουν σε αυτές τις διακοπές.
Ο ρόλος της AI
Οργανισμοί σε όλο τον κόσμο σπεύδουν να ενημερώσουν το λογισμικό τους για να θωρακίσουν τα συστήματά τους, καθώς τα μοντέλα AI είναι ικανά να εντοπίζουν και να εκμεταλλεύονται τρωτά σημεία με συγκλονιστική ταχύτητα.
Αυτός ο αγώνας δρόμου έχει εντείνει τον όγκο της εργασίας προγραμματισμού — μια διαδικασία που, σύμφωνα με τους ειδικούς, μπορεί να οδηγήσει σε περισσότερο χρόνο εκτός λειτουργίας (downtime), διακοπές υπηρεσιών και απρόβλεπτα τεχνικά προβλήματα.
Η AI έχει επίσης επιταχύνει δραματικά τον ρυθμό με τον οποίο οι προγραμματιστές γράφουν και βελτιώνουν το λογισμικό, δημιουργώντας νέα εμπόδια όσον αφορά τον έλεγχο της ασφάλειας και της αξιοπιστίας του νέου κώδικα. Όταν οι υπεύθυνοι ελέγχου —ή τα συστήματα που χρησιμοποιούν— υπερφορτώνονται, είναι πιθανό να προκύψουν σφάλματα.
Συστήματα αυξανόμενης πολυπλοκότητας πιέζονται να λειτουργούν ταχύτερα και με χαμηλότερο κόστος, χωρίς να δίνεται επαρκής προσοχή στους πιθανούς τρόπους με τους οποίους θα μπορούσαν να καταρρεύσουν, δήλωσε στο Axios ο Ντέιβιντ Γουντς, ομότιμος καθηγητής μηχανικής ολοκληρωμένων συστημάτων στο Πολιτειακό Πανεπιστήμιο του Οχάιο.
«Παραλείπουμε τους διασταυρωτικούς ελέγχους, παραλείπουμε τις δοκιμές, παραλείπουμε τις δοκιμές καταπόνησης (stress tests), παραλείπουμε τις δικλείδες ασφαλείας», επισημαίνει ο Γουντς.
Ορισμένοι ειδικοί από την άλλη αμφιβάλλουν αν η AI φέρει την ευθύνη.
«Οι διακοπές λειτουργίας που παρατηρήσαμε αποτελούν φαινόμενο δεκαετιών… πρόκειται για αλυσιδωτές αστοχίες (cascading failures)», εξηγεί στο Axios η Λιζ Φονγκ-Τζόουνς, τεχνική σύμβουλος στην Honeycomb. «Δεν έχουν καμία σχέση με τη συγγραφή κώδικα, ούτε με τη διάθεση κώδικα που δημιουργήθηκε με τη βοήθεια ΑΙ».
Η Φονγκ-Τζόουνς παρομοιάζει τις αλυσιδωτές αστοχίες με μια πολυσύχναστη διασταύρωση όπου σταματά να λειτουργεί ο φωτεινός σηματοδότης. Τα αυτοκίνητα συσσωρεύονται, οι οδηγοί στρίβουν σε παρακείμενους δρόμους και, πολύ γρήγορα, ολόκληρη η περιοχή παραλύει από κυκλοφοριακή συμφόρηση.
Η AI δεν μπορεί να εξαλείψει το απρόοπτο
Αυτό ακριβώς συνέβη, σε γενικές γραμμές, στη Microsoft: ένα σφάλμα λογισμικού, σε συνδυασμό με αυξημένο φόρτο εργασίας και μειωμένη χωρητικότητα, «γονάτισε» τους διακομιστές (servers) τη στιγμή που προσπαθούσαν να επανέλθουν σε λειτουργία.
Η νέα τεχνολογία μπορεί να κάνει τα συστήματα ταχύτερα και πιο αποδοτικά, αλλά δεν μπορεί να εξαλείψει το απρόοπτο. Όταν οι εταιρείες σπεύδουν να την υιοθετήσουν χωρίς να έχουν προετοιμαστεί για το τι θα μπορούσε να πάει στραβά, «ο κόσμος αντεπιτίθεται και σε δαγκώνει στον κ@λο», προειδοποιεί ο Woods.
Ακόμα κι αν τα πρόσφατα περιστατικά απέχουν πολύ από μία «ψηφιακή Αποκάλυψη», χαρακτηρίζονται από τους αναλυτές ως μία ακόμα κρίση που το πολιτικό σύστημα αδυνατεί να διαχειριστεί.
«Όλες αυτές οι αλλαγές έχουν κοινωνικές επιπτώσεις. Οι άνθρωποι και οι οργανισμοί παρασύρονται από πρωτοπόρους της τεχνολογίας που δεν λογοδοτούν σε κανέναν προς ένα μέλλον για το οποίο δεν είναι έτοιμοι· ένα μέλλον που δεν ζήτησαν, δεν κατανοούν και δεν μπορούν να ελέγξουν.
Καταστροφική η πολιτική διαχείριση
«Η τεχνητή νοημοσύνη και άλλες νέες τεχνολογίες υπόσχονται μεγάλα οφέλη. Ωστόσο, τον τελευταίο καιρό κυριαρχεί η καταστροφική τους πλευρά. Αν οι ηγέτες δεν καταφέρουν να περιορίσουν τις χειρότερες συνέπειες, η αντίδραση που προκάλεσαν τα data centers στις ενδιάμεσες εκλογές θα φανεί σαν μια ασήμαντη αναταραχή», αναφέρει ο Στέφεν Κόλινσον σε ανάλυσή του στο CNN.
Ο ίδιος επισημαίνει ότι οι τεχνολογικές αστοχίες μπορεί να μην οφείλονταν σε κυβερνοεπίθεση αλλά κατέδειξαν στους εχθρούς των ΗΠΑ αφενός την ευαλωτότητα των υποδομών τους και αφετέρου τις διαστάσεις χάους και εσωτερικής διχόνοιας που μπορεί να προσλάβει μία τέτοιου είδους κρίση.
Από την άλλη η αντίδραση της κυβέρνησης Τραμπ δείχνει ότι «στερείται της τεχνογνωσίας ή ακόμα και της διάθεσης να καθησυχάσει τους Αμερικανούς σε μία τόσο ανησυχητική συγκυρία».
«Ο υπουργός Εσωτερικής Ασφαλείας, Μαρκγουέιν Μάλιν, προσπάθησε να αποκαταστήσει την ηρεμία εν μέσω της καθήλωσης των πτήσεων την Παρασκευή δηλώνοντας ότι… «δεν πρόκειται για άλλη 11η Σεπτεμβρίου», αφήνοντας έτσι ανοιχτό το ενδεχόμενο για κάθε είδους τρομακτικά σενάρια — μια πρόγευση της αδέξιας επικοινωνιακής διαχείρισης που θα ακολουθούσε», σημειώνει ο Κόλινσον και προσθέτει:
Ο Τραμπ εμφανίστηκε επιπόλαιος την Τρίτη, όταν ρωτήθηκε για τα προβλήματα στις αερομεταφορές, τις τράπεζες και το ηλεκτρονικό ταχυδρομείο. «Έτσι είναι η ζωή, έτσι είναι η ζωή», είπε. «Όταν είσαι μεγάλος και ισχυρός και έχεις όλα τα χρήματα, συμβαίνουν τέτοια πράγματα. Μια χαρά είναι».
Η προσπάθεια του αντιπροέδρου Τζέι Ντι Βανς να δώσει διευκρινίσεις είχε το αντίθετο αποτέλεσμα. Τη Δευτέρα, διαβεβαίωσε τους τηλεθεατές του Fox ότι δεν χρειάζεται να κατασκευάζουν καταφύγια ούτε να αποθηκεύουν τρόφιμα και νερό. «Δεν διαφαίνεται κάποια κρίση στον ορίζοντα», ανέφερε, για να αναιρέσει αμέσως μετά τη δήλωσή του προσθέτοντας: «Πρέπει, όμως, να είστε προετοιμασμένοι για όλα».
Άλλη μία κρίση
Με νέα του δήλωση ο Τραμπ εξήγησε πώς σκέφτεται να αναμορφώσει το δίκτυο ελέγχου εναέριας κυκλοφορίας με μια μεταφορά που ήταν «ειδικά σχεδιασμένη να προκαλεί αστάθεια αντί για ηρεμία»:
«Ουσιαστικά θέλουμε να το τινάξουμε στον αέρα και να βάλουμε κάτι καινούργιο στη θέση του, και μπορούμε να το κάνουμε αυτό άμεσα — χωρίς σχεδόν καθόλου δυσκολία», δήλωσε ο Τραμπ.
«Αν αυτό είναι το σχέδιό του, τότε η μετάβαση στον κόσμο της Τεχνητής Νοημοσύνης —μιας τεχνολογίας που επιφέρει ριζικές ανατροπές και την οποία ο ίδιος αρνείται να ρυθμίσει— θα είναι ιδιαίτερα ανώμαλη.
Διανύουμε μια περίοδο κατά την οποία οι ανήσυχοι πολίτες έχουν ανάγκη από διαφάνεια, ειλικρίνεια και συνέπεια εκ μέρους της κυβέρνησής τους.
Μέχρι στιγμής, τα στοιχεία αυτά απουσιάζουν· πρόκειται, ουσιαστικά, για μια άλλη μορφή κατάρρευσης του συστήματος», καταλήγει ο Κόλινσον.
Με πληροφορίες από Axios, CNN
Πηγή: in.gr


