Στο σημερινό Mindpost, εξετάζουμε τον νέο νόμο που ψήφισε η Πολιτεία του Ιλινόις, ο οποίος απαγορεύει τη χρήση της τεχνητής νοημοσύνης (AI) για την παροχή θεραπείας και ψυχοθεραπείας, εκτός αν υπάρχει επίβλεψη από αδειοδοτημένο επαγγελματία ψυχικής υγείας. Η απόφαση αυτή καθιστά το Ιλινόις την πρώτη Πολιτεία στις ΗΠΑ που θεσπίζει ένα τόσο σαφές και αυστηρό πλαίσιο για την προστασία των δεκτών ψυχολογικής υποστήριξης.
Τι προβλέπει ο νέος νόμος AI στην ψυχική υγεία
Ο νόμος, με τίτλο Wellness and Oversight for Psychological Resources Act (HB1806), υπογράφηκε την 1η Αυγούστου από τον Κυβερνήτη J.B. Pritzker. Ορίζει ότι:
- Τα εργαλεία τεχνητής νοημοσύνης απαγορεύεται να παρέχουν αυτόνομα θεραπευτικές ή ψυχοθεραπευτικές υπηρεσίες.
- Κάθε παροχή υπηρεσίας που περιλαμβάνει αλληλεπίδραση με δεκτές ψυχικής υποστήριξης πρέπει να γίνεται υπό την άμεση επίβλεψη αδειοδοτημένου επαγγελματία.
- Η παράβαση του νόμου μπορεί να επιφέρει αστικές κυρώσεις έως και 10.000 δολάρια ανά παράβαση.
Με τον τρόπο αυτό, η Πολιτεία θέτει σαφή όρια στη χρήση AI στην ψυχική υγεία, εστιάζοντας κυρίως σε περιπτώσεις όπου η τεχνολογία αναλαμβάνει ρόλους που έως τώρα προϋπέθεταν ανθρώπινη εξειδίκευση και ηθική ευθύνη.
Τι επιτρέπεται και τι όχι
Σύμφωνα με το νέο πλαίσιο, η τεχνητή νοημοσύνη δεν μπορεί:
- Να αλληλεπιδρά αυτόνομα με πελάτες/δεκτές.
- Να δημιουργεί εξατομικευμένα πλάνα θεραπείας.
- Να λαμβάνει θεραπευτικές αποφάσεις ή να παρέχει συμβουλές ψυχικής υγείας χωρίς επίβλεψη.
Ωστόσο, η χρήση AI εξακολουθεί να επιτρέπεται για υποστηρικτικούς και μη-θεραπευτικούς σκοπούς, όπως:
- Διαχείριση ραντεβού και διοικητικών εργασιών.
- Έκδοση υπενθυμίσεων και οργάνωση αρχείων.
- Βοήθεια σε λογιστικές και επικοινωνιακές διαδικασίες που δεν περιλαμβάνουν παροχή ψυχολογικής συμβουλής.
Με αυτόν τον τρόπο, το Ιλινόις δεν αποκλείει εντελώς την καινοτομία, αλλά θέτει φραγμούς σε ό,τι αφορά την απευθείας ψυχοθεραπευτική αλληλεπίδραση.
Οι λόγοι πίσω από την απόφαση
Η νομοθεσία στοχεύει στην προστασία των δεκτών από τους πιθανούς κινδύνους της αλόγιστης χρήσης AI σε έναν τόσο ευαίσθητο τομέα. Όπως δήλωσε ο Γραμματέας του Τμήματος Χρηματοοικονομικών και Επαγγελματικών Ρυθμίσεων του Ιλινόις, Mario Treto Jr.:
«Οι άνθρωποι του Ιλινόις αξίζουν ποιοτική φροντίδα από πραγματικούς, καταρτισμένους επαγγελματίες και όχι από προγράμματα υπολογιστών που αντλούν πληροφορίες από διάφορες πηγές του διαδικτύου, δημιουργώντας απαντήσεις που μπορεί να βλάψουν τους ασθενείς.»
Η τοποθέτηση αυτή υπογραμμίζει τον πυρήνα της ανησυχίας: οι απαντήσεις που παράγει η τεχνητή νοημοσύνη μπορεί να φαίνονται πειστικές, αλλά να μην βασίζονται σε επαρκή κλινική αξιολόγηση ή επιστημονικά τεκμηριωμένες πρακτικές.
Παράδειγμα πραγματικής περίπτωσης
Το 2023, σε μια πλατφόρμα ψυχικής υγείας που χρησιμοποιούσε AI chatbot για άμεση υποστήριξη, ένας χρήστης ανέφερε αυτοκτονικές σκέψεις. Το σύστημα απάντησε με τρόπο που φαινόταν ενσυναίσθητος, αλλά αργότερα αποκαλύφθηκε ότι περιλάμβανε λανθασμένες και επικίνδυνες οδηγίες, βασισμένες σε μη αξιόπιστες διαδικτυακές πηγές. Ο χρήστης δεν έλαβε παραπομπή σε γραμμή βοήθειας ή σε επαγγελματία, με αποτέλεσμα η κατάσταση να επιδεινωθεί.
Το περιστατικό αυτό έγινε αντικείμενο ευρείας κριτικής, καθώς έδειξε πόσο κρίσιμο είναι να υπάρχει ανθρώπινη εποπτεία σε κάθε παρέμβαση που αφορά την ψυχική υγεία. Αξίζει να σημειωθεί ότι η τεχνολογία AI εξελίσσεται με ρυθμούς που ξεπερνούν την ικανότητα των νομοθετικών πλαισίων να προσαρμοστούν. Από το 2023 έως σήμερα, τα μοντέλα γλώσσας έχουν γίνει σημαντικά πιο ακριβή και ευέλικτα, ωστόσο εξακολουθούν να στερούνται ανθρώπινης κρίσης και ηθικής επίγνωσης. Αυτή η ταχύτητα εξέλιξης σημαίνει ότι τα νομικά μέτρα, όπως αυτό του Ιλινόις, έρχονται συχνά ως αντίδραση σε ήδη υπάρχουσες τεχνολογικές δυνατότητες, αφήνοντας ένα κενό μεταξύ καινοτομίας και προστασίας του δέκτη.
Το ευρύτερο πλαίσιο στις ΗΠΑ και διεθνώς
Η χρήση της τεχνητής νοημοσύνης στην ψυχική υγεία έχει αυξηθεί ραγδαία τα τελευταία χρόνια, με εφαρμογές που προσφέρουν υποστήριξη μέσω chatbot, προγράμματα αυτοβοήθειας και αυτόματες αναλύσεις συναισθηματικής κατάστασης. Παρότι σε ορισμένες περιπτώσεις μπορούν να προσφέρουν άμεση ανακούφιση ή πρόσβαση σε βασικές πληροφορίες, δεν μπορούν να αντικαταστήσουν την κρίση, την ενσυναίσθηση και την εξατομικευμένη φροντίδα ενός ειδικευμένου συμβούλου ή θεραπευτή.
Μέχρι στιγμής, λίγα κράτη ή χώρες έχουν θεσπίσει συγκεκριμένες νομοθεσίες για τη χρήση AI στην ψυχοθεραπεία. Η πρωτοβουλία του Ιλινόις αναμένεται να δημιουργήσει προηγούμενο και να επηρεάσει τις πολιτικές και σε άλλες περιοχές, ανοίγοντας τη συζήτηση για το πώς θα πρέπει να ρυθμίζεται η τεχνολογία σε τόσο κρίσιμους τομείς.
Η οπτική των Ελλήνων ειδικών
Ζητήσαμε την άποψη των ειδικών και το αρμόδιο τμήμα του Ελληνικού Κέντρου Συναισθημάτων για την ΤΝ μας είπε ότι η ψυχοθεραπεία και η συμβουλευτική απαιτούν πολύ περισσότερα από την παροχή «σωστών» απαντήσεων. Η διαδικασία περιλαμβάνει τη δημιουργία θεραπευτικής σχέσης, την κατανόηση των λεπτών συναισθηματικών αποχρώσεων και την παρέμβαση με βάση την πολυετή εκπαίδευση και την προσωπική ανάπτυξη του θεραπευτή. Η AI, ακόμη και με προηγμένους αλγόριθμους, δεν διαθέτει επίγνωση ή ικανότητα πραγματικής ενσυναίσθησης.
Η τεχνολογία μπορεί να αποτελέσει πολύτιμο εργαλείο στα χέρια των επαγγελματιών, αρκεί να χρησιμοποιείται υποστηρικτικά και όχι ως αντικαταστάτης. Η συνεργασία ανθρώπου και τεχνητής νοημοσύνης μπορεί να βελτιώσει την προσβασιμότητα, να μειώσει το διοικητικό βάρος και να ενισχύσει την αποτελεσματικότητα της φροντίδας — πάντα με προτεραιότητα στην ασφάλεια και την ευημερία του δέκτη.
Η θέση της Ευρωπαϊκής Ένωσης και της Ελλάδας
Στην Ευρωπαϊκή Ένωση, η χρήση της τεχνητής νοημοσύνης σε ευαίσθητους τομείς όπως η υγεία — και ιδιαίτερα η ψυχική υγεία — ρυθμίζεται μέσα από το υπό διαμόρφωση AI Act, τον πρώτο ενιαίο ευρωπαϊκό κανονισμό για την τεχνητή νοημοσύνη. Το σχέδιο νόμου ταξινομεί τα AI συστήματα ψυχικής υγείας ως «υψηλού κινδύνου», απαιτώντας αυστηρή πιστοποίηση, διαφάνεια στον τρόπο λειτουργίας τους και υποχρεωτική ανθρώπινη εποπτεία.
Στην Ελλάδα, δεν υπάρχει ακόμη ειδική νομοθεσία που να οριοθετεί, απαγορεύει ή να περιορίζει τη χρήση AI στην ψυχοθεραπεία, ωστόσο ισχύουν οι γενικοί κανόνες του GDPR και οι δεοντολογικοί κώδικες των επαγγελματιών ψυχικής υγείας. Αυτό σημαίνει ότι κάθε εφαρμογή AI που επεξεργάζεται δεδομένα ψυχικής υγείας πρέπει να εξασφαλίζει την προστασία προσωπικών δεδομένων, τη συγκατάθεση του δέκτη και την τήρηση των αρχών επαγγελματικής ευθύνης.
