Διατύπωση γνώμης από την Εθνική Επιτροπή Βιοηθικής και Τεχνοηθικής για τις Εφαρμογές που έχει η Τεχνητή Νοημοσύνη στην Υγεία. Πρόκειται για το πρώτο επίσημο ελληνικό κείμενο που ασχολείται με αυτό το άκρως επίκαιρο θέμα.
Η Εθνική Επιτροπή Βιοηθικής και Τεχνοηθικής (ΕΕΒΤ) ανακοίνωσε τη δημοσίευση Γνώμης για τις Εφαρμογές της Τεχνητής Νοημοσύνης (TN) στην Υγεία στην Ελλάδα. Πρόκειται για το πρώτο επίσημο ελληνικό κείμενο που ασχολείται επισταμένως με το εξειδικευμένο ζήτημα του αντικτύπου της ανάπτυξης και χρήσης εφαρμογών ΤΝ στην υγεία.
Η Έκθεση της ΕΕΒΤ έχει ως σκοπό την ανασκόπηση των εφαρμογών Τεχνητής Νοημοσύνης στην υγεία στην Ελλάδα, την ανάλυση των ηθικών ζητημάτων που προκύπτουν από τη χρήση της ΤΝ, την επισκόπηση του ρυθμιστικού πλαισίου και τη διατύπωση προτάσεων, με στόχο τη δημιουργία ενός κοινωνικά αποδεκτού πλαισίου εφαρμογής των συστημάτων αυτών.
Το θέμα είναι άκρως επίκαιρο, στο μέτρο που στη χώρα μας αφενός αναπτύσσονται αξιοσημείωτες σχετικές ερευνητικές πρωτοβουλίες, αφετέρου ολοένα και περισσότερες εφαρμογές Τεχνητής Νοημοσύνης καθιερώνονται στην κλινική πράξη.
Η Τεχνητή Νοημοσύνη αναπτύσσεται ραγδαίως και αναμένεται να έχει μεγάλο αντίκτυπο στις ζωές και το μέλλον μας.
Ωστόσο, η εφαρμογή της επιφέρει σημαντικές προκλήσεις για τη διασφάλιση της δημοκρατίας και την προστασία θεμελιωδών ανθρωπίνων δικαιωμάτων. Η αντιμετώπιση των προκλήσεων αυτών και η θέσπιση ενός ηθικού και νομικού πλαισίου χρήσης της ΤΝ, είναι που θα καθορίσουν τη μέγιστη εκμετάλλευση των ωφελειών με ασφάλεια και σεβασμό στα ανθρώπινα δικαιώματα, αναφέρει η ΕΕΒΤ.
Η Τεχνητή Νοημοσύνη στην Υγεία
H TN και η ανάλυση δεδομένων υπόσχεται να μετασχηματίσει τον τομέα της υγείας με τις εφαρμογές να καλύπτουν δυνητικά ολόκληρο το φάσμα της βιοϊατρικής, και της ατομικής και δημόσιας υγείας.
Σε ορισμένες περιπτώσεις, η χρήση της ΤΝ στην υγεία βρίσκεται σε προχωρημένο στάδιο, όπως αποδεικνύεται από τα συστήματα ΤΝ που έχουν ήδη εγκριθεί από τον Αμερικάνικο Οργανισμό Φαρμάκων και Τροφίμων (FDA), πολλά από τα οποία αφορούν κυρίως στην ακτινοδιαγνωστική και την ογκολογία, αλλά και την αιματολογία, την καρδιολογία, τη νευρολογία, την οφθαλμολογία, τη γαστρεντερολογία και τη μικροβιολογία. Παράλληλα, ο Ευρωπαϊκός Οργανισμός Φαρμάκων (EMA) έχει γνωμοδοτήσει θετικά στη χρήση τεχνικής (PROCOVA) βασισμένης σε ΤΝ για τη διεξαγωγή μικρότερων και συντομότερων κλινικών δοκιμών.
Σε αδρές γραμμές, οι τομείς που η Τεχνητή Νοημοσύνη αναμένεται να επιδράσει καθοριστικά θα μπορούσαν να ομαδοποιηθούν σε τέσσερις γενικές κατηγορίες:
- κλινική πρακτική
- βιοϊατρική έρευνα
- δημόσια υγεία
- διαχείριση της υγείας
Εφαρμογές Τεχνητής Νοημοσύνης στο χώρο της υγείας στην Ελλάδα
Υπάρχει πληθώρα ερευνητικών προγραμμάτων που αφορούν τη χρήση Τεχνητής Νοημοσύνης με συμμετοχή ελληνικών φορέων. Σημειώνεται ότι στη βάση δεδομένων CORDIS της Ευρωπαϊκής Επιτροπής, είναι καταχωρημένα περισσότερα από 83 ερευνητικά προγράμματα που χρηματοδοτούνται από την ΕΕ και αφορούν την ΤΝ στο χώρο της υγείας. Φαίνεται δηλαδή, ότι η χρήση της ΤΝ εφαρμόζεται ευρέως σε ερευνητικό επίπεδο, ενώ οι εφαρμογές σε κλινικό επίπεδο παραμένουν περιορισμένες ακόμα στον Ελλάδα.
Ηθικά ζητήματα
Η αναδιαμόρφωση της παραδοσιακής σχέσης ιατρού-ασθενή
Η παραδοσιακή σχέση ιατρού-ασθενή εικάζεται ότι μπορεί να μετασχηματιστεί σε μία νέα σχέση ιατρού-ασθενή-τεχνητής νοημοσύνης. Καταρχάς, μολονότι τα συστήματα ΤΝ υπόσχονται μεγαλύτερη αποτελεσματικότητα ως προς την παροχή ιατρικής φροντίδας εκφράζεται ο φόβος ότι αυτά ενδέχεται τελικά να υποβαθμίσουν την ποιότητα παροχής υπηρεσιών υγείας, στο μέτρο που αυτά ενέχουν λιγότερη προσωπική επαφή μεταξύ ιατρού και ασθενή.
Επίσης, η παρεμβολή συστημάτων ΤΝ μπορεί να υποσκάψει την παραδοσιακή σχέση ιατρού-ασθενή, διευρύνοντας τη μεταξύ τους απόσταση.
Ακόμα, πιστεύεται ότι η εξάρτηση των ιατρών από συστήματα ΤΝ θα επηρεάσει την πολύτιμη ανάπτυξη, διατήρηση και εφαρμογή δεξιοτήτων, αλλά και προτύπων καλής πρακτικής από τους επαγγελματίες της υγείας, φαινόμενο που στη διεθνή βιβλιογραφία αποδίδεται με τον όρο «αποδεξιοποίηση» (de-skilling).
Εξίσου σημαντική είναι η ηθική και νομική πρόκληση της ευθύνης των επαγγελματιών της υγείας που χρησιμοποιούν συστήματα ΤΝ.
Διαχείριση δεδομένων και ασφάλεια
Η ανάπτυξη εφαρμογών Τεχνητής Νοημοσύνης στις υπηρεσίες Υγείας αντιμετωπίζει ζητήματα σε δύο κυρίως επίπεδα:
στο επίπεδο της διαχείρισης ενός κρίσιμου όγκου δεδομένων, που επιτρέπει την ανάπτυξη κατάλληλων αλγορίθμων για την υποστήριξη είτε κλινικών είτε ερευνητικών εφαρμογών
στο επίπεδο της ασφάλειας των εφαρμογών, ώστε να τις εμπιστευθούν οι θεράποντες ιατροί, το υγειονομικό προσωπικό και κυρίως οι ασθενείς ή γενικότερα οι τελικοί χρήστες των υπηρεσιών Υγείας.
Βασικές Αρχές
Η εισαγωγή εφαρμογών ΤΝ πρέπει να αποσκοπεί στη βέλτιστη εξυπηρέτηση του ατομικού και του κοινωνικού δικαιώματος στην Υγεία, παίρνοντας υπ’ όψη τις εξής, ιδίως, βασικές αρχές.
Αρχή της Ωφέλειας, σύμφωνα με την οποία μια τεχνολογική εφαρμογή στην κλινική πράξη πρέπει να εγγυάται συγκεκριμένο όφελος για την ατομική υγεία.
Αρχή της Ασφάλειας, που επιβάλλει την ικανοποίηση αυστηρών κριτηρίων ποιότητας, ως προϋπόθεση για την έγκριση μιας εφαρμογής από τις αρμόδιες υπηρεσίες, σύμφωνα με διεθνώς αναγνωρισμένα πρότυπα.
Αρχή της Προφύλαξης, κατά την οποία μια κατάσταση αβεβαιότητας ως προς πιθανούς κινδύνους συνεπάγεται τη λήψη μέτρων προστασίας, συμπεριλαμβανομένης της απόσυρσης της εφαρμογής από την κλινική πράξη.
Αρχή της Διαφάνειας, που επιβάλλει μέτρα για να εξασφαλίζεται η κατανόηση της λειτουργίας μιας εφαρμογής από τον χρήστη (ιατρό ή υγειονομικό), αλλά και από τον αποδέκτη των υπηρεσιών (ασθενή ή μη).
Αρχή της Δικαιοσύνης, σύμφωνα με την οποία η πρόσβαση σε προωθημένες τεχνολογικά εφαρμογές οι οποίες υπόσχονται τεκμηριωμένα συγκεκριμένο όφελος για την υγεία, πρέπει να εξασφαλίζεται από ένα εθνικό σύστημα Υγείας σε όλους χωρίς διακρίσεις, οικονομικές, εθνοτικές, φυλετικές, κ.λπ.
Αρχή της Αυτονομίας, κατά την οποία οποιαδήποτε εφαρμογή ΤΝ στην κλινική πράξη πρέπει να εξαρτάται από τη συναίνεση του ασθενούς, ύστερα από κατανοητή σε αυτόν πληροφόρηση για τα οφέλη και τους πιθανούς κινδύνους.
Αρχή της Λογοδοσίας, που επιβάλλει να είναι πάντοτε υπεύθυνο συγκεκριμένο πρόσωπο (ιατρός, υγειονομικός, διοικητικός υπάλληλος) για την επέλευση αρνητικών ιδίως αποτελεσμάτων από την εφαρμογή ΤΝ στις υπηρεσίες Υγείας, ακόμη και σε περιπτώσεις σύνθετων συστημάτων μηχανικής μάθησης.
Αρχή της Συμπληρωματικότητας της ΤΝ, υπό την έννοια ότι οι εφαρμογές υγείας που χρησιμοποιούν την ΤΝ δε θα πρέπει να υποκαθιστούν εντελώς την ανθρώπινη κρίση και κατά συνεπεία οι αποφάσεις στο χώρο της παροχής φροντίδας υγείας θα πρέπει να επικυρώνονται από εκπαιδευμένους επαγγελματίες της υγείας
Νέος Κανονισμός της ΕΕ για την Τεχνητή Νοημοσύνη
Ύστερα από τις παρατηρήσεις του Ευρωκοινοβουλίου, 27 αναμένεται πλέον η θέσπιση του νέου Κανονισμού της ΕΕ για την Τεχνητή Νοημοσύνη (AI Act). Ο Κανονισμός θα αποτελέσει το πρώτο δεσμευτικό νομοθετικό κείμενο σε υπερεθνικό επίπεδο στο αντικείμενο και θα θέσει το βασικό πλαίσιο για την εθνική νομοθεσία των κρατών-μελών. Παρά το ότι η ισχύς του είναι άμεση στην εσωτερική έννομη τάξη, οι προβλέψεις του αφήνουν ευρύ περιθώριο ρυθμίσεων στον εθνικό νομοθέτη, κατά το πρότυπο που είχε υιοθετηθεί από τον GDPR.
Προς το παρόν, πάντως, στο εθνικό μας δίκαιο έχει ήδη θεσπισθεί ο ν. 4961/2022 («Αναδυόμενες τεχνολογίες πληροφορικής και επικοινωνιών, ενίσχυση της ψηφιακής διακυβέρνησης και άλλες διατάξεις»), ορισμένες προβλέψεις του οποίου καθιερώνουν ένα πρώτο περίγραμμα ουσιαστικών ρυθμίσεων (ιδίως σε σχέση με τις υποχρεώσεις διαφάνειας των φορέων που χρησιμοποιούν συστήματα ΤΝ και τις υποχρεώσεις αναδόχων συστημάτων ΤΝ).