Δικηγόρος χρησιμοποίησε ChatGPT σε έφεση για φόνο – «Εφηύρε» μάρτυρες και καταθέσεις | Επικαιρότητα στο LivePress.gr

Lead: Ένας δικηγόρος στο Νέο Μεξικό των ΗΠΑ τιμωρήθηκε με πρόστιμο 5.000 δολαρίων, αφού υπέβαλε αίτημα έφεσης σε υπόθεση φόνου χρησιμοποιώντας καταθέσεις και μάρτυρες που δεν υπήρξαν ποτέ – τους είχε «επινοήσει» το ChatGPT. Η υπόθεση αποτελεί την πιο χαρακτηριστική μέχρι σήμερα περίπτωση κατάχρησης εργαλείων τεχνητής νοημοσύνης στον νομικό κλάδο και εγείρει ερωτήματα για την ευθύνη των επαγγελματιών που βασίζονται σε αυτά χωρίς έλεγχο.

Σύμφωνα με δημοσίευμα της εφημερίδας «Τα Νέα», ο δικηγόρος υπέβαλε στο δικαστήριο έγγραφο στο οποίο επικαλούνταν συγκεκριμένες καταθέσεις μαρτύρων και νομολογία που υποτίθεται ότι ενίσχυαν το αίτημά του για αναθεώρηση της καταδίκης. Κανένα από τα στοιχεία αυτά δεν ήταν πραγματικό: το σύστημα τεχνητής νοημοσύνης τα παρήγαγε ως «παραπομπές» με απόλυτα πειστική μορφή, χωρίς να προειδοποιήσει ότι επρόκειτο για κατασκευάσματα. Ο δικηγόρος δεν διασταύρωσε τις πηγές, με αποτέλεσμα το δικαστήριο να διαπιστώσει την πλαστότητα και να του επιβάλει χρηματική ποινή. Πρόκειται για ένα φαινόμενο που οι ειδικοί αποκαλούν «ψευδαισθήσεις» (hallucinations) των μεγάλων γλωσσικών μοντέλων: τα συστήματα παράγουν άρτιο κείμενο, αλλά με εντελώς ανύπαρκτα δεδομένα. Στον νομικό τομέα, όπου η ακρίβεια των πηγών είναι εκ των ων ουκ άνευ, η χρήση τους χωρίς επαλήθευση μπορεί να ισοδυναμεί με διαδικαστική απάτη. Το περιστατικό δεν είναι μεμονωμένο – παρόμοιες υποθέσεις έχουν καταγραφεί σε ΗΠΑ και Ευρώπη, με δικαστές να προειδοποιούν ότι η τεχνητή νοημοσύνη δεν απαλλάσσει τον επαγγελματία από την ευθύνη του.

Τι πρέπει να γνωρίζετε:

• Το πρόστιμο των 5.000 δολαρίων επιβλήθηκε επειδή ο δικηγόρος υπέβαλε ψευδείς καταθέσεις και μάρτυρες που είχε δημιουργήσει το ChatGPT, χωρίς κανέναν έλεγχο ακρίβειας.
• Τα συστήματα τεχνητής νοημοσύνης μπορούν να παραγάγουν πλαστές νομικές παραπομπές και ονόματα μαρτύρων με απόλυτα αληθοφανή τρόπο, γεγονός που τα καθιστά επικίνδυνα όταν χρησιμοποιούνται χωρίς διασταύρωση.
• Η υπόθεση αναδεικνύει την ανάγκη θέσπισης σαφών κανόνων δεοντολογίας για τη χρήση εργαλείων τεχνητής νοημοσύνης από δικηγόρους και δικαστικούς λειτουργούς.

Γιατί έχει σημασία: Η υπόθεση αυτή δεν αφορά μόνο έναν δικηγόρο και ένα πρόστιμο. Αποτελεί προειδοποιητικό σήμα για το πώς η ευκολία της τεχνητής νοημοσύνης μπορεί να υπονομεύσει τη θεμελιώδη αρχή της δικαιοσύνης: την αλήθεια. Όσο τα εργαλεία αυτά γίνονται μέρος της καθημερινής επαγγελματικής πρακτικής, τόσο πιο κρίσιμος γίνεται ο ανθρώπινος έλεγχος. Η τεχνολογία μπορεί να επιταχύνει τη δουλειά, αλλά δεν μπορεί – και δεν πρέπει – να αντικαταστήσει την επαλήθευση, την κρίση και την ευθύνη.