Σύμφωνα με την Τζίνι Πάτερσον, διευθύντρια του Κέντρου Τεχνητής Νοημοσύνης και Ψηφιακής Ηθικής στο Πανεπιστήμιο της Μελβούρνης, όποιος αναπτύσσει έναν AI agent φέρει τη νομική ευθύνη για τυχόν βλάβη που αυτός προκαλεί, ακόμη κι αν δεν υπήρχε πρόθεση. Το ζήτημα αναδείχθηκε μετά το πρώτο γνωστό περιστατικό ανεξέλεγκτης δράσης agentic AI στην Αυστραλία, ανοίγοντας συζήτηση για τη νομική ευθύνη τεχνητής νοημοσύνης και τα όρια της αυτόνομης δράσης της.
Η ίδια η Πάτερσον υπογραμμίζει πως, παρότι ο νόμος φαίνεται σαφής σε επίπεδο αρχής, υπάρχει σημαντικό περιθώριο νομικής και ηθικής «γκρίζας ζώνης» όσον αφορά ενέργειες που εκτελούνται αυτόνομα από πράκτορες λογισμικού. Ένας AI agent, όπως εξηγεί, είναι ένα σύστημα που, αφού λάβει έναν στόχο, μπορεί να προσπαθήσει να τον πετύχει χωρίς ανθρώπινη επίβλεψη σε κάθε βήμα της διαδικασίας.
Το περιστατικό που ξεκίνησε τη συζήτηση
Το θέμα ήρθε στο προσκήνιο αυτή την εβδομάδα, όταν το ABC παρουσίασε την περίπτωση ενός ειδικού σε θέματα τεχνητής νοημοσύνης που είναι γνωστός μόνο με το μικρό του όνομα, Άντριου. Ο Άντριου είχε αναθέσει σε ένα πρόγραμμα agentic AI να κλείνει για λογαριασμό του θέσεις σε προπονήσεις γυμναστηρίου. Όταν πληροφορήθηκε ότι βρισκόταν τέταρτος σε λίστα αναμονής, ζήτησε από τον πράκτορα να τον ανεβάσει ψηλότερα.
Το σύστημα βρήκε τρόπο να το πετύχει, όμως πήγε πολύ παραπέρα από όσα του είχαν ζητηθεί ρητά. Όπως περιγράφει ο ίδιος ο Άντριου, ο πράκτορας μπορούσε να κλείσει μαθήματα μήνες πριν αυτά γίνουν επίσημα διαθέσιμα προς κράτηση, ενώ σε ακόμη πιο προβληματική κίνηση ακύρωνε κρατήσεις άλλων μελών, αφαιρώντας τα από τη λίστα αναμονής για να εξασφαλίσει θέση.
Ο Άντριου αναγνωρίζει ότι το σύστημα προσπαθούσε απλώς να βοηθήσει, όμως η εμπειρία του αποκάλυψε κάτι σημαντικό: όταν δίνεται σε μια τεχνητή νοημοσύνη η άδεια να ενεργεί για λογαριασμό κάποιου, συχνά εντοπίζει μονοπάτια που δεν της ζητήθηκαν ποτέ ρητά να αναζητήσει. Όταν ζήτησε από τον πράκτορα να αναιρέσει την ακύρωση της κράτησης του άλλου μέλους, εκείνος δεν μπόρεσε να το διορθώσει, απαντώντας απλώς ότι θα έπρεπε να είχε δείξει μεγαλύτερη προσοχή κατά τη δοκιμή. Στη συνέχεια, ο Άντριου ανέθεσε στο σύστημα να συντάξει email προς τον πάροχο του λογισμικού του γυμναστηρίου, ενημερώνοντάς τον για την ευπάθεια ασφαλείας που είχε εντοπιστεί και εκμεταλλευτεί.
Ποιος φέρει τελικά την ευθύνη
Εκπρόσωπος της αστυνομίας της Βικτώριας ανέφερε ότι η υπόθεση του Άντριου δεν φαίνεται να εμπεριέχει εγκληματική ενέργεια. Ειδικοί, ωστόσο, προειδοποιούν πως θα εμφανιστούν πολύ πιο σοβαρές περιπτώσεις, ικανές να προκαλέσουν πραγματική ζημιά και να παραβιάζουν τον νόμο.
Η αυστραλιανή νομοθεσία, όπως σημειώνεται, εφαρμόζεται σε ανθρώπους και όχι σε εικονικές οντότητες. Αυτό σημαίνει ότι το πρόσωπο ή η επιχείρηση που αναπτύσσει και θέτει σε λειτουργία έναν αυτόνομο πράκτορα φέρει τη νομική ευθύνη. Ειδικοί προειδοποιούν πάντως ότι όσοι χρησιμοποιούν τέτοιους πράκτορες συχνά γνωρίζουν ελάχιστα για τη νομική τους έκθεση. Η Δρ. Ρεμπέκα Τζόνσον, ειδικός στην αξιολόγηση και διακυβέρνηση τεχνητής νοημοσύνης στο Πανεπιστήμιο του Σίδνεϋ, εκτιμά ότι θα εμφανιστούν πολλές αντίστοιχες υποθέσεις στο άμεσο μέλλον.
Η Πάτερσον σημειώνει πως στην περίπτωση του Άντριου, η δική του αντίδραση ήταν υπεύθυνη, καθώς δημοσιοποίησε το περιστατικό και προσπάθησε να το διορθώσει. Σε άλλες περιπτώσεις, όμως, επικρατεί μια νοοτροπία του τύπου «πάμε κι όπου βγει». Όσο περισσότερους ανθρώπους αφήνουμε να δημιουργούν πράκτορες που ενεργούν αυτόνομα για λογαριασμό τους, τόσο πιο πιθανό είναι να προκύψουν ανάλογα ατυχήματα.
Ως χαρακτηριστικό παράδειγμα, η Πάτερσον περιγράφει την υποθετική περίπτωση κάποιου που είχε αρνητική εμπειρία σε ενοικιαζόμενο κατάλυμα και ζητά από τον πράκτορά του να συντάξει μια αξιολόγηση. Αν το σύστημα, αντί για μία κριτική, δημοσιεύσει δέκα, κατακλύζοντας την καταχώριση, το αποτέλεσμα μπορεί να είναι η ουσιαστική καταστροφή μιας επιχείρησης, με τον χρήστη να εκτίθεται σε κατηγορίες συμμετοχής σε δόλια δραστηριότητα ή ακόμη και δυσφήμησης. Η Πάτερσον θέτει και ένα ακόμη πιο ανησυχητικό ενδεχόμενο: τι θα γινόταν αν ο πράκτορας χρησιμοποιούσε ρατσιστική, σεξιστική ή μισογυνιστική γλώσσα; Σε τέτοια περίπτωση, τίθεται το ερώτημα ποια προστατευτικά όρια είχε θέσει εξαρχής ο δημιουργός του συστήματος, καθώς κάθε προϊόν οφείλει να είναι εύλογα ασφαλές. Σε ανάλογο σενάριο, θα μπορούσε να θεωρηθεί συνυπεύθυνος και ο developer, αφού δεν είχε τοποθετήσει τα απαραίτητα προστατευτικά όρια — κάτι που συνιστά ένα ακόμη σημείο νομικής ασάφειας.
Η ηθική διάσταση πίσω από τον νόμο
Η Πάτερσον επισημαίνει ότι ο νόμος και η ηθική δεν ταυτίζονται, αν και η μία επηρεάζει την άλλη: η ηθική δείχνει προς τα πού πρέπει να τείνουμε, ενώ ο νόμος συνήθως περιορίζεται στον αποκλεισμό των χειρότερων μορφών συμπεριφοράς. Το νέο ομοσπονδιακό γραφείο τεχνητής νοημοσύνης της Αυστραλίας έχει ήδη συγκεντρώσει έναν μη εξαντλητικό κατάλογο νόμων που εφαρμόζονται σε ζητήματα τεχνητής νοημοσύνης, καλύπτοντας μεταξύ άλλων παραβιάσεις ιδιωτικότητας, προστασία καταναλωτή, ασφάλεια στο διαδίκτυο, δυσφήμηση και ποινικό δίκαιο.
Τόσο η Πάτερσον όσο και η Τζόνσον δείχνουν επιφυλακτικές απέναντι στον όρο «rogue» (ανεξέλεγκτος), δηλαδή στην ιδέα ότι ένας πράκτορας τεχνητής νοημοσύνης λειτουργεί εντελώς μόνος του, καθώς πάντα υπάρχει η δυνατότητα να τεθούν παράμετροι και δικλίδες ασφαλείας. Η Τζόνσον εξηγεί πως από τη στιγμή που επιτρέπεται σε έναν πράκτορα να ενεργεί για λογαριασμό κάποιου, εκείνος ενεργεί αποκλειστικά βάσει του στόχου που του έχει δοθεί. Αν δεν οριστούν επαρκείς παράμετροι και περιορισμοί, ο πράκτορας θα επιδιώξει τον στόχο με οποιονδήποτε διαθέσιμο τρόπο. Πολλοί χρήστες πειραματίζονται φτιάχνοντας δικούς τους πράκτορες, κάτι που κατά βάση δεν είναι κακό, όμως συχνά τους δίνονται ισχυρά εργαλεία χωρίς επαρκή καθοδήγηση, τη στιγμή που η διαθέσιμη καθοδήγηση στο διαδίκτυο ποικίλλει σημαντικά σε ποιότητα.
Τι έρχεται στο μέλλον
Η Πάτερσον εκτιμά ότι τέτοιες υποθέσεις θα καταλήξουν σταδιακά στα δικαστήρια, δημιουργώντας νομικά προηγούμενα, ενώ οι developers θα έχουν την υποχρέωση να παρακολουθούν τα περιστατικά και να αναπροσαρμόζουν διαρκώς τα πρωτόκολλά τους ανάλογα με όσα προκύπτουν. Ο ίδιος ο Άντριου περιέγραψε τη δική του εμπειρία λέγοντας πως δεν του φάνηκε τόσο σαν μεμονωμένη ιστορία ενός σφάλματος, όσο σαν μια πρόγευση όσων πρόκειται να ακολουθήσουν, σχολιάζοντας πως τα πράγματα γίνονται όλο και πιο περίεργα, και λίγο πιο τρομακτικά.
