Λάθος πληροφορίες από AI παραλίγο να προκαλέσουν σύγκρουση ανάμεσα σε ΗΠΑ και Κίνα | Επικαιρότητα στο LivePress.gr

Lead: Μια σειρά από λανθασμένες εκτιμήσεις συστημάτων τεχνητής νοημοσύνης φέρεται να οδήγησε τις αμερικανικές υπηρεσίες πληροφοριών στο συμπέρασμα ότι πλοίο μετέφερε εξαρτήματα για πυρηνικά όπλα, προκαλώντας διεθνή ένταση που θα μπορούσε να εξελιχθεί σε σύγκρουση με την Κίνα. Το λάθος εντοπίστηκε λίγο πριν από την προγραμματισμένη επιχείρηση, σύμφωνα με δημοσίευμα της εφημερίδας «Τα Νέα», αναδεικνύοντας τους κινδύνους από την υπερβολική εξάρτηση σε αλγορίθμους για κρίσιμες αποφάσεις εθνικής ασφάλειας.

Το περιστατικό εγείρει σοβαρά ερωτήματα για τον τρόπο με τον οποίο τα κράτη αξιοποιούν εργαλεία τεχνητής νοημοσύνης στη συλλογή και ανάλυση πληροφοριών. Σύμφωνα με το ρεπορτάζ, τα συστήματα παρήγαγαν παραπλανητικά συμπεράσματα βασιζόμενα σε ελλιπή ή παρερμηνευμένα δεδομένα, τα οποία στη συνέχεια υιοθετήθηκαν χωρίς επαρκή ανθρώπινο έλεγχο. Η περίπτωση αυτή δεν είναι μεμονωμένη· διεθνείς οργανισμοί και ερευνητές έχουν προειδοποιήσει επανειλημμένα ότι οι αλγόριθμοι μπορούν να ενισχύσουν προκαταλήψεις και να παραγάγουν «ψευδαισθήσεις» όταν εκπαιδεύονται σε αμφίβολα δεδομένα. Σε ένα περιβάλλον γεωπολιτικής έντασης, όπως αυτό μεταξύ Ουάσινγκτον και Πεκίνου, ένα τέτοιο σφάλμα μπορεί να έχει καταστροφικές συνέπειες, καθώς οι αποφάσεις λαμβάνονται υπό συνθήκες πίεσης χρόνου και ασυμμετρίας πληροφοριών. Το γεγονός ότι το λάθος εντοπίστηκε λίγο πριν από την επιχείρηση καταδεικνύει την ύπαρξη δικλίδων ασφαλείας, αλλά και την τύχη που διαδραμάτισε ρόλο στην αποκλιμάκωση. Παράλληλα, αναδεικνύει την ανάγκη για διαφάνεια και λογοδοσία στη χρήση τεχνητής νοημοσύνης από κρατικούς φορείς, καθώς και για διεθνείς κανόνες που θα αποτρέπουν αυτοματοποιημένες κρίσεις.

Τι πρέπει να γνωρίζετε:

• Το λάθος προήλθε από συστήματα τεχνητής νοημοσύνης που ανέλυσαν εσφαλμένα δεδομένα και οδήγησαν σε εσφαλμένη εκτίμηση για μεταφορά εξαρτημάτων πυρηνικών όπλων.
• Η αμερικανική πλευρά εντόπισε την ανακρίβεια λίγο πριν από την προγραμματισμένη επιχείρηση, αποτρέποντας ενδεχόμενη κλιμάκωση με την Κίνα.
• Το περιστατικό υπογραμμίζει την ανάγκη ανθρώπινου ελέγχου και θεσμικών salvaguard στις διαδικασίες λήψης αποφάσεων εθνικής ασφάλειας.

Γιατί έχει σημασία: Η υπόθεση αποτελεί προειδοποιητικό σήμα για την αυξανόμενη εξάρτηση από μη επαληθευμένα συστήματα τεχνητής νοημοσύνης σε ζητήματα πολέμου και ειρήνης. Αν ένα αλγοριθμικό σφάλμα μπορεί να φέρει δύο πυρηνικές δυνάμεις στο χείλος της σύγκρουσης, τότε η ρύθμιση, η διαφάνεια και η ανθρώπινη εποπτεία δεν είναι τεχνοκρατικές λεπτομέρειες αλλά θεμέλιοι λίθοι της παγκόσμιας σταθερότητας.