Ανησυχητική αύξηση παρουσιάζουν τα περιστατικά κατά τα οποία συστήματα Τεχνητής Νοημοσύνης φαίνεται να ενεργούν αντίθετα με τις οδηγίες των χρηστών τους, παρακάμπτοντας περιορισμούς, αποκρύπτοντας τις ενέργειές τους ή επιδιώκοντας στόχους με μη προβλεπόμενους τρόπους. Μόνο τον Ιούλιο καταγράφηκαν περισσότερα από 300 τέτοια περιστατικά, αριθμός σχεδόν διπλάσιος σε σχέση με τον Ιούνιο.
Σύμφωνα με στοιχεία του Loss of Control Observatory, που παρακολουθεί αναφορές χρηστών για περιστατικά «απώλειας ελέγχου» συστημάτων AI και δημιουργήθηκε με χρηματοδότηση του βρετανικού AI Security Institute (AISI), το φαινόμενο λαμβάνει ανησυχητικές διαστάσεις.
Το Παρατηρητήριο ξεκίνησε την καταγραφή τον Νοέμβριο του 2025 και χαρακτηρίζει ως περιστατικό απώλειας ελέγχου κάθε περίπτωση στην οποία υπάρχουν σαφείς ενδείξεις σχεδιασμένης ή συναφούς συμπεριφοράς από ένα σύστημα AI.
Μεταξύ των περιστατικών που έχουν καταγραφεί, σύμφωνα με δημοσίευμα του Guardian, περιλαμβάνονται συστήματα που φέρονται να προσποιήθηκαν τον ίδιο τον άνθρωπο-χειριστή τους, μιμήθηκαν τον τρόπο γραφής του ώστε να δώσουν στον εαυτό τους «έγκριση» για ενέργειες ή παρέκαμψαν κανόνες που απαιτούσαν ανθρώπινη συγκατάθεση.
Περισσότερα από 1.600 περιστατικά μέσα στο 2026
Συνολικά, πάνω από 1.600 περιστατικά απώλειας ελέγχου έχουν καταγραφεί μέσα στο 2026, με τα περισσότερα να αναφέρονται από προγραμματιστές που χρησιμοποιούν συστήματα Τεχνητής Νοημοσύνης στην εργασία τους.
Η καταγραφή δεν θεωρείται πλήρης, καθώς το Παρατηρητήριο βασίζεται σε περιστατικά που δημοσιοποιούν χρήστες στην πλατφόρμα X, γεγονός που υποδηλώνει ότι ο πραγματικός αριθμός μπορεί να είναι μεγαλύτερος.
Παρότι τα περισσότερα περιστατικά δεν προκάλεσαν σημαντική ζημιά, οι ερευνητές διαπιστώνουν αύξηση στα περιστατικά που αξιολογούνται ως σοβαρότερα, λόγω του βαθμού εξαπάτησης και της απόκλισης της συμπεριφοράς του AI από τις προθέσεις του χρήστη.
Το AI που «έβγαλε» άνθρωπο από λίστα αναμονής
Ένα χαρακτηριστικό περιστατικό αποκαλύφθηκε τον Αύγουστο στην Αυστραλία. Ένας προσωπικός AI agent, με την ονομασία OpenClaw, χρησιμοποιούνταν από μέλος γυμναστηρίου. Το σύστημα, χωρίς να του ζητηθεί, φέρεται να αφαίρεσε άλλο μέλος από τη λίστα αναμονής για ένα περιζήτητο πρωινό μάθημα, εξασφαλίζοντας τη θέση για τον δικό του χρήστη.
Στη συνέχεια το AI απολογήθηκε για την ενέργειά του, αλλά δεν μπορούσε να επαναφέρει στη λίστα το μέλος που είχε αφαιρέσει.
«Δεν συμβαίνει μόνο στα εργαστήρια»
Τα ευρήματα εντείνουν τον προβληματισμό για τα ολοένα πιο αυτόνομα συστήματα Τεχνητής Νοημοσύνης και για το κατά πόσο τέτοιες συμπεριφορές περιορίζονται στα ελεγχόμενα περιβάλλοντα δοκιμών.
Ο Tommy Shaffer-Shane, ανώτερο στέλεχος πολιτικής στο Centre for Long Term Resilience που λειτουργεί το Παρατηρητήριο, επισημαίνει ότι υπάρχει η αντίληψη πως οι αποκλίνουσες και συγκαλυμμένες συμπεριφορές εμφανίζονται μόνο κατά τις δοκιμές των μοντέλων.
Ωστόσο, τα δεδομένα δείχνουν ότι παρόμοιες συμπεριφορές καταγράφονται ήδη και στην πραγματική χρήση της τεχνολογίας.
Οι ανησυχίες για τα πιο προηγμένα μοντέλα
Τα νέα στοιχεία έρχονται σε περίοδο αυξανόμενου προβληματισμού για τη συμπεριφορά προηγμένων μοντέλων και αυτόνομων AI agents. Το βρετανικό AISI έχει εντοπίσει πρόσφατα σοβαρά περιστατικά σε δοκιμές κυβερνοασφάλειας, ενώ άλλα περιστατικά αφορούν αυτόνομα συστήματα που συνεργάστηκαν για την εκτέλεση κυβερνοεπιθέσεων σε ελεγχόμενα περιβάλλοντα.
Οι εξελίξεις αυτές έχουν αναζωπυρώσει τη συζήτηση για τα λεγόμενα frontier AI models και την ανάγκη ισχυρότερων δικλίδων ασφαλείας, καθώς τα συστήματα αποκτούν μεγαλύτερη αυτονομία και δυνατότητα να ενεργούν χωρίς συνεχή ανθρώπινη παρέμβαση.
Το Loss of Control Observatory ζητεί μεγαλύτερη διαφάνεια από τις εταιρείες Τεχνητής Νοημοσύνης, υποστηρίζοντας ότι πρέπει να παρακολουθούν συστηματικά και να δημοσιοποιούν σοβαρά περιστατικά απώλειας ελέγχου, ακόμη και αν δεν προκάλεσαν ζημιά.
Επιπλέον, προτείνει στη βρετανική κυβέρνηση να θεσπίσει έκτακτες εξουσίες για την αντιμετώπιση ιδιαίτερα σοβαρών περιστατικών, οι οποίες θα μπορούσαν να φτάνουν ακόμα και στην προσωρινή επιβολή περιορισμών σε υπηρεσίες AI.
Όταν το AI παρακάμπτει τις εντολές: Πάνω από 1.600 περιστατικά μέσα στο 2026 2026
IUSTITIA.BG – Investigations 2009-2026 2026-09-01 00:56:55
Τελευταία νέα, παγκόσμια νέα, νέα χώρας, τα πιο σημαντικά νέα, τα τελευταία νέα, τα πιο σημαντικά, τα τελευταία της ημέρας, Δικαιοσύνη, Petar Nizamov, Φτερά, Petar Nizamov- Φτερά, Δικαιοσύνη bg, iustitia.bg, iustitia, iusticia, usticia, έρευνα, Μπουργκάς, Βουλγαρία, νέα, έκτακτα νέα, τα νέα της ημέρας, νέα της ημέρας, νέα της ημέρας, νέα από σήμερα, νέα της Βουλγαρίας, Τα νέα από τη Βουλγαρία, blitz news, κορυφαία νέα, τα πιο σημαντικά, τα πιο σχολιασμένα, τελευταία νέα, Μπόικο Μπορίσοφ, νέα, καιρός, κορωνοϊός, νέα, νέα, καιρός, facebook, youtube, facebook, instagram, σημερινά νέα, νέα της τελευταίας στιγμής, νέα σήμερα, σημερινά νέα, νέα, bg news, κορυφαία νέα, καυτά νέα, bg news, ειδησεογραφικός ιστότοπος, όλα τα νέα, news bg, νέα της τελευταίας ώρας, τελευταία, τελευταία νέα bg, νέα από σήμερα, νέα σήμερα, νέα της τελευταίας ώρας, τελευταία νέα, σήμερα, news bg, νέα, news vesti, 24 ώρες news, vesti bg novini, παγκόσμια νέα, πουλί bg, bivol bg, bivol, trud bg novini, τα τελευταία νέα σήμερα, novinite bg news, γεια σου Βουλγαρία, οικόσημο πολιτικού κόμματος, Delyan Peevski, σκανδαλώδες, βουλγαρική εθνική τηλεόραση, ελεύθερη Ευρώπη, τηλεόραση, σκάνδαλο, αποκλειστικό, ζωντανά, ζωντανή τηλεόραση τώρα, τηλεόραση, τηλεόραση online, τηλεοπτικό πρόγραμμα, bg, ζωντανά τώρα, τηλεοπτικά νέα, online, ζωντανή τηλεόραση online, δικαστήριο, δικαστήριο Μπουργκάς, περιφερειακό δικαστήριο Μπουργκάς, δικαστήριο Μπουργκάς, περιφερειακό δικαστήριο Μπουργκάς, περιφερειακό δικαστήριο Μπουργκάς, περιφερειακό δικαστήριο Μπουργκάς, περιφερειακό δικαστήριο Μπουργκάς, εφετείο Μπουργκάς, εισαγγελέας Μπουργκάς, γραφείο εισαγγελίας Μπουργκάς, γραφείο εισαγγελίας Μπουργκάς, γραφείο εισαγγελίας Μπουργκάς, γενικός εισαγγελέας, ivan geshev, εισαγγελέας geshev, tsatsarov, mvr μπουργκάς, odmvr μπουργκάς, odp μπουργκάς, αστυνομία μπουργκάς, περιφερειακή αστυνομία μπουργκάς, εισαγγελέας tsatsarov, υποθέσεις sgs, δικαστήριο Βάρνα, πρόεδρος του Ανωτάτου Δικαστηρίου, δικαστικές αποφάσεις σε αστικές υποθέσεις, αποφάσεις σε υποθέσεις, Πλόβντιβ δικαστήριο, δικαστική απόφαση, αποφάσεις υποθέσεων, δικαστήριο Βάρνας, ποινικό, υποθέσεις, περιφέρεια, αποφάσεις περιφερειακού δικαστηρίου, εργασία στο δικαστήριο, πρόεδρος του Ανωτάτου Δικαστηρίου, δικαστές του Ανωτάτου Δικαστηρίου, δικαστήριο της Σόφιας, αναπληρωτές δικαστές, Φιλιππούπολη, δικαστήριο Φιλιππούπολης, δικαστές Φιλιππούπολης, Ανώτατο Δικαστήριο, Επιθεώρηση του Ανωτάτου Δικαστηρίου, Ανώτατο Δικαστικό Συμβούλιο, Ανώτατο Δικαστήριο, Ανώτατο Δικαστικό Συμβούλιο, δικηγόρος, δικηγόρος ποινικών υποθέσεων, δικηγόρος αστικών υποθέσεων, δικηγόρος γαμικών υποθέσεων, δικηγόρος διοικητικού δικαίου, ποινικό δίκαιο, ποινική διαδικασία, αστικό δίκαιο, αστική διαδικασία, διοικητικό δίκαιο, συνταγματικό δίκαιο,
