Σπυριδούλα Καρύδα
Δικηγόρος για προσωπικά δεδομένα
Εισαγωγή
Σύμφωνα με το σημείο 8 του Παραρτήματος ΙΙΙ του Κανονισμού για την Τεχνητή Νοημοσύνη (ΚΤΝ), υπό τον τίτλο «Απονομή δικαιοσύνης και δημοκρατικές διαδικασίες», χαρακτηρίζονται ως υψηλού κινδύνου και τα «συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν από δικαστική αρχή ή για λογαριασμό της για τη συνδρομή προς δικαστική αρχή κατά την έρευνα και την ερμηνεία των πραγματικών περιστατικών και του νόμου και κατά την εφαρμογή του νόμου σε συγκεκριμένο σύνολο πραγματικών περιστατικών ή να χρησιμοποιηθούν με παρεμφερή τρόπο σε εναλλακτική επίλυση διαφορών».
Η πρόβλεψη αυτή σε συνδυασμό με την αιτ.σκ. 63 του ΚΤΝ χρήζει ιδιαίτερης προσοχής διότι σύμφωνα με προδικαστικό ερώτημα ενώπιον του ΔΕΕ υποβληθέν από το Πρωτοδικείο της Σόφιας (Υπόθεση C-245/25) ακόμη και η διενέργεια πραγματογνωμοσύνης με τη χρήση τεχνολογιών πληροφορικής -προκειμένου να διακριβωθούν οι συνθήκες τέλεσης τροχαίου ατυχήματος- ενδέχεται να αποτελεί προπαρασκευαστική ενέργεια για λογαριασμό δικαστικής αρχής και να εμπίπτει στα υψηλού κινδύνου συστήματα ΤΝ από την άποψη αυτή ( βλ. ενδ. ΚπολΔ 368 επ., όπως ισχύει και σημείο 8 του Παραρτήματος ΙΙΙ ΚΤΝ).
Ι.Πραγματικά Περιστατικά της Υπόθεσης
Η υπόθεση είναι απλή. Στην αστική περιοχή της Σόφιας έλαβε χώρα τροχαίο ατύχημα μεταξύ δύο αυτοκινήτων. Κατόπιν διαφωνιών μεταξύ των εμπλεκομένων μερών για το βαθμό υπαιτιότητάς τους η ενάγουσα ζήτησε από το αιτούν δικαστήριο να επιτρέψει τη διεξαγωγή δικαστικής τεχνικής πραγματογνωμοσύνης στα οχήματα, προκειμένου να αποδειχθεί η υπαιτιότητα του άλλου οδηγού για το ατύχημα. Η πραγματογνωμοσύνη, κατά την ενάγουσα, έπρεπε να δώσει απαντήσεις στα ερωτήματα πώς έλαβε χώρα το ατύχημα, ποια τα αίτια του ατυχήματος, εάν οι ζημίες οφείλονται στο ατύχημα και ποιο το ύψος αυτών. Το δικαστήριο όρισε πραγματογνώμονα ο οποίος διαθέτει γνώσεις στον τομέα των αυτοκινήτων, της μηχανολογίας, της δυναμικής και κινητικής ενέργειας και σε οτιδήποτε άπτεται των τροχαίων ατυχημάτων. Το αιτούν δικαστήριο ανέθεσε στον πραγματογνώμονα την παραγωγή προσομοίωσης του ατυχήματος σε ηλεκτρονικό υπολογιστή και την παρουσίαση αυτής κατά την επ’ ακροατηρίου διαδικασία. Ο σκοπός της προσομοίωσης έγκειται στη συνολική οπτική απεικόνιση του ατυχήματος, ήτοι στην αναπαραγωγή σε περιβάλλον υπολογιστή των περιστάσεων υπό τις οποίες αυτό έλαβε χώρα. Ωστόσο, κατά τη διάρκεια της προφορικής διαδικασίας διαπιστώθηκε ότι ο πραγματογνώμων χρησιμοποίησε το πρόγραμμα Virtual Crash στην έκδοση 4.0. Ο πραγματογνώμων διευκρίνισε ότι υπάρχουν έξι εκδόσεις του προγράμματος (του λογισμικού). Έως την τρίτη του έκδοση προορίζεται για την Ευρώπη, ενώ ο εισαγωγέας βρίσκεται στη Σλοβακία. Οι εκδόσεις 4 έως 6 προορίζονται για την Αμερική. Συνοπτικώς, η αντιδικία στη διαδικασία της κύριας δίκης ανάγεται στο ότι (α) ο πραγματογνώμων έκανε χρήση προϊόντος λογισμικού (προγράμματος) το οποίο δεν είχε δημιουργηθεί για την ευρωπαϊκή αγορά, (β) το πρόγραμμα πραγματοποίησε δικούς του αυτοματοποιημένους υπολογισμούς με βάση τα στοιχεία που είχε προκαθορίσει ο πραγματογνώμων. Δεν είναι σαφές εάν οι ως άνω υπολογισμοί είναι σωστοί, δεδομένου ότι το πρόγραμμα δεν είχε δημιουργηθεί για οχήματα και δρόμους ευρωπαϊκών προδιαγραφών. Δεν είναι σαφής ο αλγόριθμος λήψης αποφάσεων του λογισμικού· (γ) ο πραγματογνώμων δεν παρέχει πλήρη κατάλογο των υπολογισμών που πραγματοποίησε (στάδια υπολογισμού, συμπεριλαμβανομένων αριθμητικών πράξεων πολλαπλασιασμού και πρόσθεσης). Ένας εκ των διαδίκων δεν είναι σε θέση να κατανοήσει τον τρόπο με τον οποίον ο πραγματογνώμων κατέληξε στα συμπεράσματά του. Ένας εκ των διαδίκων δεν έχει δυνατότητα να ελέγξει (να επαληθεύσει) την έκθεση πραγματογνωμοσύνης.
Το δικαστήριο διαπίστωσε ότι το πρόγραμμα που χρησιμοποιεί ο πραγματογνώμων παράγει αυτοματοποιημένες απαντήσεις/αποτελέσματα. Το αιτούν δικαστήριο έκανε δεκτό ότι το εν λόγω πρόγραμμα λογισμικού, καθόσον παράγει έτοιμα αποτελέσματα, μπορεί να χαρακτηριστεί ως σύστημα ADM ή τεχνητής νοημοσύνης. Επιπλέον, το αιτούν δικαστήριο δέχθηκε ότι το επίδικο πρόγραμμα, εφόσον χρησιμοποιείται από τον πραγματογνώμονα για τη σύνταξη δικαστικής πραγματογνωμοσύνης, ήτοι για την παροχή συνδρομής στο δικαστήριο για τη λήψη απόφασης, εμπίπτει στο πεδίο εφαρμογής των συστημάτων ΤΝ υψηλού κινδύνου σύμφωνα με το παράρτημα III, του κανονισμού για την τεχνητή νοημοσύνη. Περαιτέρω, δεδομένης της ανωτέρω παραδοχής, το αιτούν δικαστήριο διερωτήθηκε αν το σύστημα ΤΝ υψηλού κινδύνου, όπως αυτό αποτυπώνεται στο σημείο 8, του παραρτήματος III, του ΚΤΝ, έχει την έννοια ότι αποτελεί πρόγραμμα λογισμικού το οποίο παράγει αυτοματοποιημένα αποτελέσματα με την παραγωγή προσομοίωσης του τροχαίου ατυχήματος, των συνθηκών αυτού και της ταχύτητας της πρόσκρουσης, βάσει δεδομένων τα οποία είχαν εισαχθεί προηγουμένως από πραγματογνώμονα εντεταλμένο από δικαστήριο να διαλευκάνει τα αίτια του ατυχήματος, για τα οποία το δικαστήριο δεν διαθέτει ειδικές επιστημονικές και τεχνικές γνώσεις και, στηριζόμενο στην έκθεση του πραγματογνώμονα, θα εκδώσει την οριστική απόφασή του, ήτοι θα αποφανθεί επί διαφοράς που εκκρεμεί ενώπιόν του.
Υπό τα ανωτέρω δεδομένα, το δικαστήριο υπέβαλε ενώπιον του ΔΕΕ, μεταξύ άλλων ερωτημάτων που αφορούν την ερμηνεία του άρθρου 86 ΚΤΝ, 101 ΣΛΕΕ και άρθρου 19 ΣΕΕ, το ακόλουθο ερώτημα: ‘Έχει ο όρος «σύστημα ΤΝ υψηλού κινδύνου», όπως παρατίθεται στο σημείο 8, του παραρτήματος ΙΙΙ του κανονισμού 2024/1689, την έννοια ότι αφορά πρόγραμμα λογισμικού το οποίο παράγει αυτοματοποιημένα αποτελέσματα ή χρησιμοποιεί στοιχεία τεχνητής νοημοσύνης και συνδράμει τον πραγματογνώμονα κατά τη σύνταξη έκθεσης πραγματογνωμοσύνης, επί τη βάσει της οποίας πρόκειται να εκδοθεί από το δικαστήριο οριστική απόφαση;’.
ΙΙ. Ορισμός «Συστήματος ΤΝ»
Από πλευράς ενωσιακού νομοθέτη, αναγνωρίζοντας τους κινδύνους από την εφαρμογή συστημάτων τεχνητής νοημοσύνης, μέσω της δεσμευτικής για τα Κράτη Μέλη (ΚΜ) υιοθέτηση της νομικής πράξης του ‘κανονισμού’, έχουν θεσπισθεί εναρμονισμένοι κανόνες σχετικά με την τεχνητή νοημοσύνη (Kανονισμός για την Τεχνητή Νοημοσύνη, L 2024/1689, εφεξής: ΚΤΝ) με το κριτήριο της διαβάθμισης του κινδύνου (risk-based approach). Ο κανονισμός βασίζεται σε μια δυαδική αντίληψη: αφενός, αποσκοπεί στην προστασία του κεκτημένου της Ευρωπαϊκής Ένωσης (ΕΕ) στον τομέα των θεμελιωδών δικαιωμάτων, αφετέρου, στην προώθηση της ανταγωνιστικότητας της ΕΕ. Οι δύο αυτοί στόχοι - ιδιαίτερα στον τομέα των νέων τεχνολογιών - είναι δύσκολο να εναρμονισθούν.
Στην προβληματική αυτή, η οριοθέτηση του ορισμού του ‘συστήματος ΤΝ’ αποτέλεσε κατά τη διάρκεια των διαπραγματεύσεων έντονο σημείο αντιπαράθεσης. Επισημαίνεται ότι, έως και την ψήφιση του ΚΤΝ, δεν υπήρχε νομικά δεσμευτικός ορισμός για τα συστήματα τεχνητής νοημοσύνης[Herberger, NJW 2018, 2825 (2825)]. Αντιθέτως, ελλόχευε σοβαρός κίνδυνος υπό τον ορισμό των συστημάτων τεχνητής νοημοσύνης να ενταχθούν όλες οι τεχνολογικές εφαρμογές και τα λογισμικά τους [Herberger, NJW 2018, 2825 (2826)]. Ένας άλλος φόβος ήταν ότι η υπερβολική ρύθμιση θα μπορούσε να θέσει σε κίνδυνο τις σχετικές τεχνολογικές εξελίξεις ή να αναγκάσει τις εταιρείες υψηλής τεχνολογίας να εγκαταλείψουν την ΕΕ. Ήταν άλλωστε αυτή ακριβώς η αβεβαιότητα και η επιθυμία για ομαλή και αποτελεσματική εφαρμογή των κανόνων για την ΤΝ η οποία υπαγόρευσε την πρόταση τροποποίησης του ΚΤΝ [ΕC:Digital Omnibus on AI COM(2025) 836 final] μεταξύ δε αυτών και την αναπροσαρμογή του χρονοδιαγράμματος για την εφαρμογή των κανόνων υψηλού κινδύνου σε 16 μήνες κατ’ ανώτατο όριο, ώστε οι κανόνες να αρχίζουν να εφαρμόζονται μόλις η Ευρωπαϊκή Επιτροπή (εφεξής: Επιτροπή) επιβεβαιώσει ότι είναι διαθέσιμα τα απαραίτητα πρότυπα και εργαλεία στήριξης, παρέχοντας στις εταιρείες τα εργαλεία στήριξης που χρειάζονται.
Ως «σύστημα ΤΝ» ορίζεται στο άρθρο 3 σημείο 1) του ΚΤΝ το: «μηχανικό σύστημα που έχει σχεδιαστεί για να λειτουργεί με διαφορετικά επίπεδα αυτονομίας και μπορεί να παρουσιάζει προσαρμοστικότητα μετά την εφαρμογή του και το οποίο, για ρητούς ή σιωπηρούς στόχους, συνάγει, από τα στοιχεία εισόδου που λαμβάνει, πώς να παράγει στοιχεία εξόδου, όπως προβλέψεις, περιεχόμενο, συστάσεις ή αποφάσεις που μπορούν να επηρεάσουν υλικά ή εικονικά περιβάλλοντα». Ο ΚΤΝ προβλέπει επίσης και την περίπτωση «μοντέλων ΤΝ γενικού σκοπού» [άρθρο 3 σημείο 63) του ΚΤΝ]. Η Επιτροπή , σε συμμόρφωση με ρητή πρόβλεψη του ΚΤΝ (βλ.άρθρο 96 παρ. 1 ΚΤΝ) και δεδομένου ότι ο ορισμός ενός συστήματος ως εμπίπτοντος στην έννοια του συστήματος ΤΝ είναι κομβικής σημασίας καθώς ο ΚΤΝ εφαρμόζεται μόνο σε συστήματα τεχνητής νοημοσύνης που εμπίπτουν στον ορισμό, προχώρησε στην έκδοση κατευθυντήριων γραμμών για τον ορισμό του συστήματος τεχνητής νοημοσύνης [ΕC:C (2025) 5053 final (εφεξής: Κατευθυντήριες γραμμές) , σημ.2-3].
Η Επιτροπή επεσήμανε ότι ο ορισμός περιλαμβάνει επτά κύρια στοιχεία: 1) μηχανικό σύστημα· 2) που έχει σχεδιαστεί για να λειτουργεί με διαφορετικά επίπεδα αυτονομίας· 3) που μπορεί να παρουσιάζει προσαρμοστικότητα μετά την εφαρμογή του· 4) και το οποίο, για ρητούς ή σιωπηρούς στόχους· 5) συνάγει, από τα στοιχεία εισόδου που λαμβάνει, πώς να παράγει στοιχεία εξόδου 6), όπως προβλέψεις, περιεχόμενο, συστάσεις ή αποφάσεις 7) που μπορούν να επηρεάσουν υλικά ή εικονικά περιβάλλοντα ( Κατευθυντήριες γραμμές, σημ. 9). Περαιτέρω, η Επιτροπή διέκρινε, όσον αφορά τον κύκλο ζωής, μία φάση πριν από την εφαρμογή ή φάση «δημιουργίας» του συστήματος και τη φάση μετά την εφαρμογή ή φάση «χρήσης» του συστήματος. Αυτό που έχει ιδιαίτερη όμως σημασία για τον ερμηνευτή του δικαίου, αν και οι κατευθυντήριες γραμμές δεν αποτελούν δεσμευτικό κείμενο ( βλ. Κατευθυντήριες γραμμές, σημ.7), είναι η επισήμανση της Επιτροπής ότι τα στοιχεία αυτά δεν είναι απαραίτητο να είναι παρόντα και κατά τις δύο φάσεις κύκλου ζωής του συστήματος, αλλά μπορεί να ανευρίσκονται στη μία φάση και όχι στην άλλη (βλ. Κατευθυντήριες γραμμές, σημ.10). Στο σημείο αυτό μπορεί να γίνει ένας παραλληλισμός με τα επιμέρους κριτήρια που συγκροτούν το relating to …element του ορισμού για τα προσωπικά δεδομένα υπό τον GDPR, όπου παρομοίως το content, purpose and result στοιχεία δεν είναι απαραίτητο να συντρέχουν σωρευτικώς. Ακολούθως, η Επιτροπή αναφέρθηκε ιδιαιτέρως σε συστήματα που δεν εμπίπτουν στο πεδίο εφαρμογής του ορισμού του συστήματος ΤΝ και παρέθεσε συγκεκριμένα παραδείγματα (Κατευθυντήριες γραμμές, σημ. 40 επ.).
Η ανάπτυξη των επιμέρους στοιχείων του ορισμού εκφεύγει της παρούσας ανάλυσης, αυτό όμως που έχει σημασία είναι η διαπίστωση της Επιτροπής (βλ.Κατευθυντήριες γραμμές, σημ. 61) ότι «Ο προσδιορισμός του αν ένα σύστημα λογισμικού είναι σύστημα ΤΝ θα πρέπει να βασίζεται στη συγκεκριμένη αρχιτεκτονική και λειτουργική δυνατότητα ενός δεδομένου συστήματος και θα πρέπει να λαμβάνει υπόψη τα επτά στοιχεία του ορισμού που προβλέπεται στο άρθρο 3 σημείο 1) του κανονισμού για την ΤΝ». Αν λάβουμε δε υπόψη μας ότι σύμφωνα και με την Αιτ.σκ. 12 του ΚΤΝ «…ο ορισμός θα πρέπει να στηρίζεται σε βασικά χαρακτηριστικά των συστημάτων ΤΝ τα οποία διακρίνουν τα συστήματα αυτά από απλούστερα παραδοσιακά συστήματα λογισμικού ή προσεγγίσεις προγραμματισμού, δεν θα πρέπει να καλύπτει συστήματα που βασίζονται στους κανόνες που ορίζονται αποκλειστικά από φυσικά πρόσωπα με σκοπό την αυτόματη εκτέλεση λειτουργιών» καταλήγουμε στο συμπέρασμα ότι το ΔΕΕ στην αχθείσα ενώπιον του υπόθεση θα πρέπει προεχόντως να διευκρινίσει εάν το αμφισβητούμενο σύστημα λογισμικού, εν προκειμένω το Virtual Crash (https://www.vcrashusa.com/), εμπίπτει στον ορισμό ενός συστήματος ΤΝ υπό τον ΚΤΝ.
ΙΙΙ Συμπέρασμα
Ο βαθμός αυτονομίας, η προσαρμοστικότητα και η συναγωγή του τρόπου παραγωγής στοιχείων εξόδου με τη χρήση τεχνικών ΤΝ (Μηχανική Μάθηση, Εποπτευόμενη Μάθηση κ.ο.κ) αποτελούν βασικά στοιχεία για τη διάκριση ενός προγράμματος λογισμικού από ένα σύστημα ΤΝ. Παρατηρείται, ότι ενώ αρχικώς είχε δοθεί ιδιαίτερη σημασία στην αυτονομία του συστήματος ( βλ. BeckOK KI-Recht/Kirschke-Biller/Füllsack KI-VO Άρθρ. 3, σημ. 52) η σημασία αυτή ατόνησε στη συνέχεια και έμφαση δόθηκε στο συνδυασμό των εννοιών της αυτονομίας και της συναγωγής καθώς οι έννοιες της αυτονομίας και της συναγωγής συμβαδίζουν: η ικανότητα συναγωγής ενός συστήματος ΤΝ (δηλαδή η ικανότητά του να παράγει στοιχεία εξόδου, όπως προβλέψεις, περιεχόμενο, συστάσεις ή αποφάσεις που μπορούν να επηρεάσουν υλικά ή εικονικά περιβάλλοντα) είναι καίριας σημασίας για την επίτευξη της αυτονομίας του ( βλ. Κατευθυντήριες γραμμές, σημ. 15). Στην υπόθεση που μας απασχολεί, το ΔΕΕ θα πρέπει να εξετάσει τα τεχνικά χαρακτηριστικά του προγράμματος υπό το πρίσμα των επτά στοιχείων, αλλά κατά την άποψή μου εάν δεν έχουν χρησιμοποιηθεί τεχνικές ΤΝ ( π.χ. Μηχανική Μάθηση) το εν λόγω πρόγραμμα μάλλον ανήκει στην κατηγορία των βασικών προγραμμάτων φυσικής προσομοίωσης με τη χρήση προκαθορισμένων μοντέλων χωρίς την ικανότητα συναγωγής συμπερασμάτων υπό την έννοια του ΚΤΝ (βλ. ενότητα 5.2. Κατευθυντήριων γραμμών). Σε κάθε περίπτωση, η υπόθεση θα κριθεί ad hoc και με βάση τα στοιχεία του ορισμού.
Τέλος, το ΔΕΕ, μόνο εάν κρίνει ότι το εν λόγω σύστημα εμπίπτει στον ορισμό του συστήματος ΤΝ θα προχωρήσει στην εξέταση και του έτερου προδικαστικού ερωτήματος, εάν δηλαδή η διενέργεια διαταχθείσας από το δικαστήριο δικαστικής πραγματογνωμοσύνης για λογαριασμό ή προς επιβοήθηση του δικαστηρίου καθιστά το σύστημα αυτό υψηλού κινδύνου. Τα κριτήρια είναι ασαφή και μάλλον και σε αυτό θα πρέπει να δοθούν οδηγίες και κατευθύνσεις από την Επιτροπή και το ΔΕΕ θα είναι τελικά αυτό που θα κρίνει το ζήτημα αυτό ( με αφορμή αυτή την υπόθεση ή και άλλη που θα αχθεί ενώπιον του). Το γράμμα πάντως της διάταξης δείχνει να εξαιρεί συστήματα που χρησιμοποιούνται από πραγματογνώμονες στο πλαίσιο των καθηκόντων τους χωρίς να έχει γίνει ρητή ανάθεση από το δικαστήριο για χρήση συγκεκριμένων συστημάτων ΤΝ (BeckOK KI-Recht/Beck/Irskens KI-VO Anhang III, σημ.121). Εάν συμπληρώσουμε σε αυτή τη λογική και τη σκέψη ότι στο Ελληνικό δικανικό σύστημα, σύμφωνα με πάγια ερμηνεία του άρθρου 387 ΚπολΔ, η γνωμοδότηση των πραγματογνωμόνων, ακόμη και αν διατάχθηκε υποχρεωτικά, εκτιμάται ελεύθερα από το δικαστήριο, δεν έχει αυξημένη δύναμη σε σχέση με τα άλλα αποδεικτικά μέσα, που να δεσμεύει το δικαστήριο να δεχθεί την απόδειξη που προκύπτει ενώ το δικαστήριο μπορεί να σχηματίσει δικανική πεποίθηση αντίθετη με το πόρισμα της πραγματογνωμοσύνης, η δε σχετική ως προς την εκτίμηση της πραγματογνωμοσύνης κρίση του δικαστηρίου δεν είναι ανάγκη να αιτιολογείται, αφού δεν έχει ιδιαίτερη αποδεικτική δύναμη έναντι των λοιπών αποδεικτικών μέσων (βλ. ενδ. ΑΠ 714/2024, 1020/2014), τότε μάλλον η περίπτωση αυτή δεν εμπίπτει στο εννοιολογικό περιεχόμενο του σημείου 8 του Παραρτήματος ΙΙΙ του ΚΤΝ.
Δεν υπάρχουν σχόλια:
Δεν επιτρέπονται νέα σχόλια.