Written by: Ελληνικό Κέντρο Συναισθημάτων • 14/07/2026• Τεχνιτή Νοημοσύνη AI Έρευνες - Μελέτες

Ποιος ευθύνεται όταν η Τεχνητή Νοημοσύνη κάνει λάθος;

Στο σημερινό MindPost θα μιλήσουμε για ένα από τα πιο κρίσιμα ερωτήματα στην εποχή της τεχνητής νοημοσύνης: Ποιος ευθύνεται όταν η Τεχνητή Νοημοσύνη κάνει λάθος; όταν ένα εργαλείο AI επηρεάζει αποφάσεις που αφορούν την ψυχική υγεία ενός ανθρώπου.

Η AI στην ψυχική υγεία φέρνει καινούρια ερωτήματα ευθύνης

Η τεχνητή νοημοσύνη χρησιμοποιείται όλο και περισσότερο σε υπηρεσίες υγείας και ψυχικής υγείας. Μπορεί να υποστηρίξει την οργάνωση πληροφοριών, την ανάλυση δεδομένων, τη διαχείριση σημειώσεων, την ενημέρωση του κοινού ή ακόμη και τη λήψη αποφάσεων από επαγγελματίες.

Όσο όμως η AI μπαίνει πιο κοντά στη φροντίδα του ανθρώπου, τόσο πιο σημαντικό γίνεται ένα βασικό ερώτημα: ποιος ευθύνεται αν κάτι πάει λάθος;

Αν ένα εργαλείο AI δώσει μια λανθασμένη πρόταση, αν δεν αναγνωρίσει έναν κίνδυνο ή αν επηρεάσει αρνητικά μια απόφαση, η ευθύνη δεν μπορεί να μένει ασαφής. Στην ψυχική υγεία, η ασάφεια μπορεί να έχει σοβαρές συνέπειες.

Γιατί το θέμα “Ποιος ευθύνεται όταν η Τεχνητή Νοημοσύνη κάνει λάθος;” είναι πιο σύνθετο στην ψυχική υγεία

Στην ψυχική υγεία, οι αποφάσεις δεν αφορούν μόνο τεχνικά δεδομένα. Αφορούν ανθρώπους που μπορεί να βρίσκονται σε ευάλωτη κατάσταση, να αντιμετωπίζουν άγχος, θλίψη, τραυματικές εμπειρίες, δυσκολίες στις σχέσεις ή αυξημένο ψυχικό βάρος.

Ένα λάθος σε αυτό το πεδίο δεν είναι απλώς ένα τεχνικό σφάλμα. Μπορεί να επηρεάσει την εμπιστοσύνη, την ασφάλεια και την πορεία ενός ανθρώπου που ζητά βοήθεια.

Γι’ αυτό η AI στην ψυχική υγεία δεν μπορεί να αντιμετωπίζεται όπως οποιοδήποτε άλλο ψηφιακό εργαλείο. Χρειάζεται σαφές πλαίσιο ευθύνης, ανθρώπινη εποπτεία και ξεκάθαρη ενημέρωση για το τι μπορεί και τι δεν μπορεί να κάνει.

Όταν η AI δίνει λάθος κατεύθυνση

Ένα εργαλείο τεχνητής νοημοσύνης μπορεί να παράγει μια απάντηση που φαίνεται λογική, αλλά δεν είναι κατάλληλη για τη συγκεκριμένη περίπτωση. Μπορεί να γενικεύσει, να αγνοήσει σημαντικές πληροφορίες ή να μη διακρίνει τη σοβαρότητα μιας κατάστασης.

Αυτό είναι ιδιαίτερα σημαντικό όταν η AI χρησιμοποιείται σε πλαίσια ψυχολογικής υποστήριξης ή θεραπείας. Ένας άνθρωπος μπορεί να εμπιστευτεί την απάντηση ενός εργαλείου επειδή ακούγεται ήρεμη, δομημένη και επαγγελματική. Όμως η μορφή μιας απάντησης δεν εγγυάται την ορθότητά της. Στην ψυχική υγεία δεν αρκεί μια απάντηση να ακούγεται σωστή. Πρέπει να είναι κατάλληλη, ασφαλής και ενταγμένη στο πραγματικό πλαίσιο του ανθρώπου.

Ποιος έχει την ευθύνη;

Το ζήτημα της ευθύνης στην AI δεν έχει μία απλή απάντηση. Μπορεί να εμπλέκονται πολλοί διαφορετικοί παράγοντες:

Ο επαγγελματίας έχει ευθύνη για τον τρόπο που χρησιμοποιεί ένα εργαλείο στην πράξη. Χρειάζεται να γνωρίζει τα όριά του, να μην ακολουθεί μηχανικά τις απαντήσεις του και να αξιοποιεί τη δική του επαγγελματική κρίση.
Ο οργανισμός ή η υπηρεσία που επιλέγει ένα εργαλείο έχει επίσης ευθύνη. Χρειάζεται να ελέγχει αν το εργαλείο είναι κατάλληλο, αν προστατεύει τα προσωπικά δεδομένα, αν υπάρχει εκπαίδευση για τους επαγγελματίες και αν η χρήση του είναι δεοντολογικά ασφαλής.
Η εταιρεία που αναπτύσσει το AI έχει ευθύνη για τον σχεδιασμό, την αξιολόγηση, τη διαφάνεια και την ασφάλεια του συστήματος. Δεν μπορεί η ευθύνη να μεταφέρεται μόνο στον τελικό χρήστη, όταν ο ίδιος δεν γνωρίζει πώς λειτουργεί εσωτερικά η τεχνολογία.

Η ευθύνη, λοιπόν, πρέπει να είναι κατανεμημένη αλλά και ξεκάθαρη. Όχι ασαφής. Όχι κρυμμένη πίσω από όρους χρήσης που κανείς δεν διαβάζει.

Τι επισημαίνει ο BACP

Ο BACP, ο Βρετανικός Σύλλογος Συμβουλευτικής και Ψυχοθεραπείας, έχει τονίσει ότι το τοπίο της ευθύνης στην AI είναι σύνθετο. Περιλαμβάνει επαγγελματίες υγείας, οργανισμούς, developers τεχνολογίας και φορείς ασφάλισης επαγγελματικής ευθύνης.

Στην απάντησή του προς το MHRA, ο BACP υποστηρίζει ότι η επαγγελματική ευθύνη πρέπει να είναι σαφώς ορισμένη, αναλογική και ενταγμένη σε ένα ευρύτερο πλαίσιο λογοδοσίας. Με απλά λόγια, χρειάζεται να είναι ξεκάθαρο ποιος είναι υπεύθυνος, για ποια απόφαση και σε ποιο σημείο της διαδικασίας.

Αυτή η σαφήνεια είναι απαραίτητη για δύο λόγους. Πρώτον, προστατεύει τους ανθρώπους που λαμβάνουν υπηρεσίες ψυχικής υγείας. Δεύτερον, βοηθά τους επαγγελματίες να χρησιμοποιούν την τεχνολογία με μεγαλύτερη ασφάλεια και αυτοπεποίθηση.

Αν ένας επαγγελματίας δεν γνωρίζει πού αρχίζει και πού τελειώνει η ευθύνη του, είναι λογικό να είναι επιφυλακτικός απέναντι στην AI. Και αν το κοινό δεν γνωρίζει ποιος λογοδοτεί όταν κάτι πάει λάθος, η εμπιστοσύνη μειώνεται.

Το πρόβλημα της αδιαφάνειας: Το άφαντο Μαύρο Κουτί

Στα αεροπορικά δυστυχήματα, ένα από τα πρώτα πράγματα που αναζητούν οι ειδικοί είναι το μαύρο κουτί. Όχι γιατί μπορεί να αλλάξει αυτό που συνέβη, αλλά γιατί μπορεί να δείξει τι προηγήθηκε: ποιες ενδείξεις υπήρχαν, ποιες αποφάσεις πάρθηκαν, πότε έγινε το λάθος και ποιοι παράγοντες οδήγησαν στο τελικό αποτέλεσμα.

Στην τεχνητή νοημοσύνη, όμως, πολλές φορές αυτό το «μαύρο κουτί» παραμένει άφαντο. Βλέπουμε τι πληροφορίες δώσαμε στο σύστημα και βλέπουμε την απάντηση που μας επιστρέφει. Δεν μπορούμε όμως πάντα να γνωρίζουμε με σαφήνεια πώς έφτασε σε αυτήν την απάντηση.

Αυτό είναι κρίσιμο στην ψυχική υγεία. Αν ένα εργαλείο AI προτείνει μια κατεύθυνση για έναν θεραπευόμενο, ο επαγγελματίας χρειάζεται να μπορεί να καταλάβει τη λογική πίσω από αυτή την πρόταση. Διαφορετικά, κινδυνεύει να βασιστεί σε μια απάντηση που φαίνεται πειστική, αλλά δεν είναι επαρκώς τεκμηριωμένη ή κατάλληλη για τη συγκεκριμένη περίπτωση.

Το ίδιο ισχύει και όταν κάτι πάει λάθος.

Αν μια τεχνολογία συμβάλει σε μια λανθασμένη απόφαση, χρειάζεται να μπορούμε να ανατρέξουμε στη διαδικασία: τι δεδομένα χρησιμοποιήθηκαν, πώς αξιολογήθηκαν, ποια πρόταση παρήχθη και ποιος είχε την ευθύνη να την ελέγξει.

Χωρίς αυτό το «μαύρο κουτί», η λογοδοσία γίνεται δύσκολη. Και στην ψυχική υγεία, όπου οι αποφάσεις αφορούν ευάλωτους ανθρώπους, η αδιαφάνεια δεν είναι απλώς τεχνικό πρόβλημα. Είναι ζήτημα ασφάλειας.

Γι’ αυτό το Ελληνικό Κέντρο Συναισθημάτων υποστηρίζει ότι κάθε χρήση AI στην ψυχική υγεία χρειάζεται διαφάνεια, ανθρώπινη εποπτεία και ξεκάθαρη καταγραφή της ευθύνης. Αν δεν μπορούμε να δούμε πώς δημιουργείται μια απάντηση, δεν μπορούμε να τη θεωρήσουμε αυτόματα ασφαλή.

Προσωπικά δεδομένα και ψυχική υγεία

Τα δεδομένα που σχετίζονται με την ψυχική υγεία είναι εξαιρετικά ευαίσθητα. Ένας άνθρωπος μπορεί να μοιραστεί πληροφορίες για το άγχος του, την οικογένειά του, τις σχέσεις του, το ιστορικό του, τις δυσκολίες του ή βαθιά προσωπικές εμπειρίες.

Όταν αυτές οι πληροφορίες εισάγονται σε εργαλεία AI, πρέπει να είναι απολύτως σαφές πώς αποθηκεύονται, πώς επεξεργάζονται, ποιος έχει πρόσβαση σε αυτές και αν χρησιμοποιούνται για περαιτέρω εκπαίδευση συστημάτων.

Το πρόβλημα είναι ότι πολλές εταιρείες τεχνητής νοημοσύνης λειτουργούν με σύνθετους όρους χρήσης, αδιαφανείς πολιτικές δεδομένων και επιχειρηματικά μοντέλα που δεν είναι πάντα εύκολο να αξιολογηθούν από τον απλό χρήστη ή ακόμη και από τον επαγγελματία.

Γι’ αυτό δεν μπορούμε να βασίζουμε την προστασία των θεραπευόμενων μόνο στις προθέσεις ή στις εσωτερικές πολιτικές των εταιρειών που αναπτύσσουν AI. Χρειάζονται σαφείς κανόνες, ανεξάρτητοι έλεγχοι και αυστηρή προστασία των προσωπικών δεδομένων.

Τι υποστηρίζει το Ελληνικό Κέντρο Συναισθημάτων

Το Ελληνικό Κέντρο Συναισθημάτων υποστηρίζει ότι η τεχνητή νοημοσύνη μπορεί να αξιοποιηθεί στην ψυχική υγεία μόνο όταν υπάρχουν σαφή όρια, ανθρώπινη εποπτεία, εκπαίδευση και πλήρης προστασία των προσωπικών δεδομένων.

Συμφωνούμε με την ανάγκη για πιο καθαρή ρύθμιση της AI στον χώρο της υγείας και ειδικά της ψυχικής υγείας. Η τεχνολογία μπορεί να προσφέρει σημαντικά εργαλεία, αλλά δεν πρέπει να χρησιμοποιείται με τρόπο που μεταφέρει την ευθύνη στον θεραπευόμενο, αποδυναμώνει τον επαγγελματία ή αφήνει τις εταιρείες χωρίς ουσιαστική λογοδοσία.

Το Ελληνικό Κέντρο Συναισθημάτων και το Emoducation, ως επαγγελματικό μέλος του BACP, παρακολουθούν ενεργά τη διεθνή συζήτηση γύρω από την AI και την ψυχική υγεία. Παράλληλα εξειδικεύεται στη σύνδεση Τεχνητής Νοημοσύνης και Ψυχικής Υγείας.

Η θέση του ΕΚΣ είναι ότι η AI δεν πρέπει να αντιμετωπίζεται ούτε με φόβο ούτε με άκριτο ενθουσιασμό. Πρέπει να αντιμετωπίζεται με γνώση, επαγγελματικά κριτήρια και σταθερή προτεραιότητα την προστασία του ανθρώπου.

Τι χρειάζεται για ασφαλή χρήση της AI

Για να χρησιμοποιηθεί η AI με ασφάλεια στην ψυχική υγεία, χρειάζονται συγκεκριμένες προϋποθέσεις.

Πρώτον, χρειάζεται διαφάνεια. Οι επαγγελματίες και οι πολίτες πρέπει να γνωρίζουν τι κάνει ένα εργαλείο, τι δεν κάνει και πώς χρησιμοποιεί τα δεδομένα.
Δεύτερον, χρειάζεται εκπαίδευση. Οι ειδικοί ψυχικής υγείας πρέπει να κατανοούν τις δυνατότητες και τα όρια της AI, ώστε να μην τη χρησιμοποιούν μηχανικά ή χωρίς επαρκή κρίση.
Τρίτον, χρειάζεται σαφής ευθύνη. Αν ένα εργαλείο επηρεάζει μια απόφαση, πρέπει να είναι ξεκάθαρο ποιος λογοδοτεί σε κάθε στάδιο.

Τέταρτον, χρειάζεται ανθρώπινη εποπτεία. Στην ψυχική υγεία, η τεχνολογία δεν μπορεί να λειτουργεί ανεξάρτητα από την επαγγελματική κρίση και τη δεοντολογία.

Η καινοτομία χρειάζεται όρια

Η AI μπορεί να φέρει σημαντικές αλλαγές στην υγεία και στην ψυχική υγεία. Μπορεί να κάνει ορισμένες υπηρεσίες πιο προσβάσιμες, να μειώσει διοικητικό φόρτο και να βοηθήσει τους επαγγελματίες να οργανώνουν καλύτερα τη δουλειά τους.

Όμως η καινοτομία χωρίς σαφή όρια μπορεί να γίνει επικίνδυνη.

Στην ψυχική υγεία, δεν αρκεί να ρωτάμε αν μια τεχνολογία είναι εντυπωσιακή ή γρήγορη. Πρέπει να ρωτάμε αν είναι ασφαλής, αν είναι διαφανής, αν προστατεύει τα δεδομένα και αν υπάρχει πραγματική λογοδοσία όταν κάτι πάει λάθος.

Τελικά, ποιος ευθύνεται όταν η AI κάνει λάθος;

Η απάντηση δεν μπορεί να είναι «κανείς». Και δεν μπορεί να είναι πάντα «ο επαγγελματίας».

Η ευθύνη πρέπει να κατανέμεται με σαφήνεια ανάμεσα στους developers, τους οργανισμούς, τους επαγγελματίες και τα συστήματα που επιλέγουν να χρησιμοποιήσουν την τεχνολογία.

Όταν η AI αγγίζει την ψυχική υγεία, η λογοδοσία δεν είναι εμπόδιο στην καινοτομία. Είναι προϋπόθεση για να μπορέσει η καινοτομία να γίνει πραγματικά χρήσιμη και ασφαλής.

Η τεχνολογία μπορεί να βοηθήσει. Αλλά στην ψυχική υγεία, η ευθύνη πρέπει πάντα να παραμένει ανθρώπινη, ξεκάθαρη και προστατευτική.