«Μια Τεχνητή Νοημοσύνη θα μπορούσε να κοστίσει δισεκατομμύρια στις τράπεζες»: Η Ευρώπη προειδοποιεί για μια κυβερνοαπειλή επόμενης γενιάς

Ο συναγερμός δεν ηχούσε με σειρήνες. Ωστόσο, πιθανότατα θα έπρεπε να είχε ηχήσει. Φαίνεται ότι σε ορισμένες από τις πιο κλειστές αίθουσες χάραξης πολιτικής και στα βιαστικά εσωτερικά δελτία των ευρωπαϊκών τραπεζικών και χρηματοπιστωτικών εποπτικών αρχών, οι αρχές αρχίζουν να υποψιάζονται κάτι τρομακτικό. Η επερχόμενη οικονομική αποκάλυψη μπορεί να μην έχει δημιουργηθεί από κανέναν από τους συνανθρώπους μας homo sapiens.

Καταρχάς, πρόκειται για ένα μοντέλο τεχνητής νοημοσύνης που μπορεί να δοκιμάσει ένα σύστημα, να εντοπίσει τα τρωτά του σημεία και, υπό ορισμένες συνθήκες, να τα εκμεταλλευτεί. Σύμφωνα με πολλαπλές ανώνυμες πηγές του κλάδου, η ΕΚΤ έχει αρχίσει να επικοινωνεί με τις τράπεζες για να τις ρωτήσει πώς αισθάνονται σχετικά με την έκθεση σε αυτό το είδος νέου κινδύνου. Κάτι που ήδη συμβαίνει και περιγράφεται λεπτομερώς σε αυτό το άρθρο, μπορείτε να μάθετε περισσότερα για: Οι αξιωματούχοι της ΕΚΤ εξετάζουν τον κίνδυνο εκμετάλλευσης των χρηματοπιστωτικών ιδρυμάτων από μοντέλα τεχνητής νοημοσύνης.

Φυσικά, μιλάμε πάντα για την απειλή του κυβερνοκινδύνου από μια κυβερνοεπίθεση, και φυσικά πάντα το είχαμε αυτό. Αλλά αυτός δεν είναι ο συνηθισμένος τύπος με φούτερ υπογείου. Αυτός είναι κώδικας με βήματα που μπορεί να σκεφτεί, ενέργειες που μπορεί να αλυσιδώσει και σε ορισμένες δοκιμές πολύπλοκες επιθέσεις. Αυτό είναι που τους ανησυχεί.

Και τώρα, φτάνουμε στο πιο παράξενο κομμάτι αυτής της ιστορίας. Μερικά από αυτά τα στελέχη έχουν δηλώσει δημόσια ότι έχουν «υπερβολική επίγνωση» των κινδύνων, δηλαδή δεν κοιμούνται πολύ καλά το βράδυ. Συστήματα Τεχνητής Νοημοσύνης παρόμοια με το Mythos του Anthropic αναφέρεται ότι έχουν ήδη καταφέρει να εκτελέσουν αυτόνομες ασκήσεις προσομοίωσης κυβερνοεπιθέσεων πολλαπλών βημάτων χωρίς ανθρώπινη παρέμβαση. Αν αυτό δεν ακούγεται πολύ τρομακτικό.

Αλλά αυτή δεν είναι ολόκληρη η εικόνα. Υπάρχουν επίσης αναφορές ότι το Mythos είναι μια πρώιμη έκδοση των πρακτόρων Τεχνητής Νοημοσύνης. Γενικά, η εξέλιξη της Τεχνητής Νοημοσύνης μετακινείται από ένα chat-bot που μπορεί να δημιουργεί κείμενο, σε ένα που μπορεί να εκτελεί βήματα σχεδιασμού και συλλογισμού, και σε πράκτορες Τεχνητής Νοημοσύνης που μπορούν στην πραγματικότητα να εκτελούν τα σχέδια που δημιουργούν. Οι ρυθμιστικές αρχές ανησυχούν ολοένα και περισσότερο για τους πράκτορες Τεχνητής Νοημοσύνης και συζητούν τι είδους κανονισμοί μπορεί να είναι απαραίτητοι.

Πού μας αφήνει λοιπόν αυτό; Σε ένα μέρος που είναι μισο-«έκπληκτοι», μισο-φοβισμένοι. Από τη μία πλευρά, φανταστείτε μια Τεχνητή Νοημοσύνη που μπορεί να βρει κενά ασφαλείας και να τα διορθώσει πριν το κάνουν οι κακοί παράγοντες. Από την άλλη... φανταστείτε τους κακούς παράγοντες να τα βρίσκουν πρώτοι.

Έπειτα, υπάρχει το ζήτημα της εμπιστοσύνης, το οποίο δεν παίρνει ποτέ μεγάλη δημοσιότητα. Αν οι τράπεζες, μερικοί από τους οργανισμούς που αποφεύγουν περισσότερο το ρίσκο στον κόσμο, είναι διστακτικές, τι θα πρέπει να σκεφτούμε εμείς οι υπόλοιποι; Εμπιστεύεστε μια Τεχνητή Νοημοσύνη με τα χρήματά σας αν έχει την ικανότητα να κλέβει από κάποιον άλλο;

Κάποιοι πιστεύουν ότι ήδη βρίσκεται σε εξέλιξη ένας «αγώνας δρόμου μέσω της τεχνητής νοημοσύνης», όπου έθνη και εταιρείες αγωνίζονται να αναπτύξουν την άμυνα όσο πιο γρήγορα βλέπουν να χρησιμοποιείται η επίθεση.

Τελικά, αυτή δεν είναι απλώς μια ακόμη ιστορία τεχνολογίας· είναι ένα από τα πολλά σημάδια του μέλλοντος.