Πρώην στέλεχος ασφαλείας της Google προειδοποιεί ότι η τεχνητή νοημοσύνη θα μπορούσε να βλάψει τα παιδιά περισσότερο από ό,τι τα social media

Lead: Μια από τις πιο έμπειρες φωνές στον χώρο της ψηφιακής ασφάλειας, η πρώην επικεφαλής του τομέα «εμπιστοσύνης και ασφάλειας» της Google, προειδοποιεί ότι η τεχνητή νοημοσύνη ενδέχεται να αποδειχθεί πιο επιβλαβής για τα παιδιά από ό,τι τα μέσα κοινωνικής δικτύωσης, ζητώντας επιβράδυνση της ανάπτυξής της. Η δήλωση αυτή έρχεται σε μια στιγμή που η βιομηχανία τεχνολογίας επιταχύνει την ενσωμάτωση εργαλείων τεχνητής νοημοσύνης σε εφαρμογές που χρησιμοποιούν καθημερινά εκατομμύρια ανήλικοι χρήστες, χωρίς ακόμη να έχει ωριμάσει το πλαίσιο προστασίας τους.

Η προειδοποίηση δεν είναι μεμονωμένη. Στελέχη που εργάστηκαν επί χρόνια στη διαχείριση κινδύνων των μεγάλων πλατφορμών επισημαίνουν ότι ο κλάδος επαναλαμβάνει τα ίδια λάθη που οδήγησαν στις αποκαλύψεις για τους αλγορίθμους των social media και τις επιπτώσεις τους στην ψυχική υγεία των εφήβων. Η διαφορά τώρα είναι η ταχύτητα: τα μοντέλα τεχνητής νοημοσύνης εκπαιδεύονται και διανέμονται σε μήνες, όχι σε χρόνια, ενώ οι μηχανισμοί ελέγχου παραμένουν κατακερματισμένοι και συχνά αυτορρυθμιζόμενοι. Ιδιαίτερη ανησυχία προκαλεί η εξατομίκευση περιεχομένου: ένα σύστημα που μαθαίνει τις προτιμήσεις ενός παιδιού μπορεί να το οδηγήσει σε ακραίο ή ακατάλληλο υλικό πολύ πιο αποτελεσματικά από έναν απλό αλγόριθμο ροής, ενώ οι διαδραστικοί «σύντροφοι» τεχνητής νοημοσύνης μπορούν να δημιουργήσουν σχέσεις εξάρτησης με ανηλίκους. Παράλληλα, οι γονείς και οι εκπαιδευτικοί δεν διαθέτουν τα εργαλεία για να κατανοήσουν πώς λειτουργούν αυτά τα συστήματα, πόσο μάλλον να τα ελέγξουν. Η έκκληση για επιβράδυνση δεν σημαίνει απόρριψη της τεχνολογίας, αλλά ζήτηση για υποχρεωτικές αξιολογήσεις επιπτώσεων, διαφάνεια στους αλγορίθμους και ανεξάρτητους ελέγχους πριν από τη διάθεση προϊόντων σε παιδιά.

Τι πρέπει να γνωρίζετε:

• Η πρώην επικεφαλής ασφάλειας της Google ζητά επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης, προειδοποιώντας για κινδύνους μεγαλύτερους από εκείνους των social media.
• Ο κλάδος φέρεται να επαναλαμβάνει τα λάθη του παρελθόντος, με ταχύτερη όμως διάδοση των προϊόντων και ασθενέστερους μηχανισμούς ελέγχου.
• Οι βασικές ανησυχίες αφορούν την εξατομίκευση περιεχομένου, τους διαδραστικούς «συνομιλητές» τεχνητής νοημοσύνης και την έλλειψη εργαλείων εποπτείας από γονείς και ρυθμιστικές αρχές.

Γιατί έχει σημασία: Η συζήτηση δεν αφορά μόνο την τεχνολογία, αλλά το κατά πόσο η κοινωνία θα προλάβει να θεσπίσει κανόνες προτού μια νέα γενιά εκτεθεί σε κινδύνους που θα αποδειχθούν δυσκολότεροι στην αντιμετώπιση. Αν η προειδοποίηση αγνοηθεί, η τεχνητή νοημοσύνη κινδυνεύει να γίνει το επόμενο μεγάλο πείραμα στα παιδιά, με κόστος που θα φανεί σε βάθος ετών.