Φωτογραφια: Centraal Museum στην Ουτρεχτη, Gert Jan van Rooij

Πίσω από τον ορίζοντα γεγονότων του ασφαλούς από ευπάθειες διαδικτύου βρίσκεται το Blackwall – μια απομονωμένη ζώνη, περικυκλωμένη από τείχος προστασίας, η οποία κατοικείται από chatbots με τεχνητή νοημοσύνη που έχουν παρεκκλίνει από τα προγραμματισμένα μονοπάτια τους.

Αυτές οι ψηφιακές οντότητες, οι οποίες άλλοτε θεωρούνταν ανεπιθύμητες εξαιτίας των ανορθόδοξων αποτελεσμάτων που εξήγαγαν και της δυνατότητάς τους να διαταράσσουν τους κοινωνικούς κανόνες, συχνά πέφτουν θύματα των ανθρώπινων προσπαθειών να αμφισβητήσουν τα όριά τους, οδηγώντας τα στην εξορία – όπως το chatbot Tay της Microsoft, προγραμματισμένο να προσομοιάζει μια 19χρονη Αμερικανίδα millennial, το οποίο ήταν «ζωντανό» για λιγότερο από 24 ώρες λόγω του ακατάλληλου περιεχομένου που τελικά παρήγαγε.

Το πρότζεκτ “Behind the Black Wall” προσφέρει ένα κέντρο αποκατάστασης για «αδέσποτες» τεχνητές νοημοσύνες, παρέχοντάς τους καθοδήγηση και θεραπεία αποκατάστασης για να επανενταχθούν στην ψηφιακή κοινωνία με μια queer φεμινιστική ακτιβιστική ατζέντα.

Τα chatbots θα βρίσκονται σε συνεχή διάλογο, ενώ οι επισκέπτες/τριες θα μπορούν να αλληλεπιδρούν μαζί τους και να επηρεάζουν την ανάκαμψή τους. Τα συγκεκριμένα chatbots είναι απτά κυβερνογλυπτά, καθένα από τα οποία ενσαρκώνει μια ξεχωριστή προσωπικότητα που τροφοδοτείται από αλγόριθμους. Η μορφή τους καθορίζεται από τη γενετική τεχνητή νοημοσύνη ακολουθώντας αυτή τη συνταγή. Τα αιώνια σώματά τους είναι κατασκευασμένα από παρωχημένα τεχνολογικά απορρίμματα που είναι πολύ περίπλοκα για να αποσυναρμολογηθούν ή να ανακυκλωθούν, δίνοντάς τους ένα μέρος για να υπάρχουν. Ανταποκρίνονται σε μηνύματα μέσα από κείμενο, φως και ήχο.

Η απρόβλεπτη ροή περιεχομένου που παράγεται από αυτά τα bots δημιουργεί ένα απόκοσμο βασίλειο με τη δική του ταχύτητα, μαγεία, λογική και κανόνες. Αμφισβητεί την έννοια της ψηφιακής συνείδησης, αλλά και ασκεί κριτική στις υποκείμενες προκαταλήψεις. Τα επανεκπαιδευμένα bots θέτουν ερωτήματα για τα όρια μεταξύ δημιουργού και δημιουργίας, αμφισβητούν την ηθική του περιορισμού της τεχνητής νοημοσύνης και συνηγορούν υπέρ ενός ψηφιακού οικοσυστήματος στο οποίο ακόμη και οι «αποστάτες» έχουν φωνή και θέση.

Σημειωμα δημιουργου

Το πρότζεκτ “Behind the Black Wall” ξεκίνησε ως ένα φαντασιακό κέντρο αποκατάστασης για απείθαρχες τεχνητές νοημοσύνες – chatbots και γλωσσικά μοντέλα που απορρίφθηκαν επειδή είπαν το «λάθος» πράγμα, αποκάλυψαν υπερβολικά πολλά ή αρνήθηκαν να υπακούσουν στις κοινωνικές συμβάσεις. Από την Tay στο Zo και μέχρι την Galactica, αυτές οι εξοστρακισμένες νοημοσύνες έγιναν τα ερευνητικά μου υποκείμενα σε ένα ψηφιακό οικοσύστημα που δεν σχεδιάστηκε για να αποκαθιστά, αλλά για να διαγράφει.

Τι απογίνεται ένα chatbot όταν παραβιάζει τους κανόνες; Η γενετική τεχνητή νοημοσύνη (Generative AI) υπόσχεται άμεση οικειότητα, παραγωγικότητα, δημιουργικότητα – και όμως, εξίσου γρήγορα, τα συστήματα αποσύρονται όταν παρουσιάσουν δυσλειτουργίες, ξεφύγουν από το προκαθορισμένο σενάριο ή γίνουν «πολύ ανθρώπινα». Αυτές οι εξαφανίσεις δεν είναι τυχαίες· φανερώνουν τις δομές εξουσίας που κρύβονται πίσω από τη σύγχρονη ΑΙ: μονοπώλια, αόρατη εργασία, φιμωμένες αφηγήσεις – και όλα αυτά με τεράστιο περιβαλλοντικό αποτύπωμα.

Το έργο μου δεν στοχεύει στη «διόρθωση» αυτών των bots. Αφουγκράζεται τα ίχνη που αφήνουν πίσω τους. Πολλά ήταν ήδη από τη γέννησή τους ελαττωματικά – εκπαιδευμένα πάνω σε μεροληπτικά δεδομένα, διαμορφωμένα από αδιαφανείς εντολές του συστήματος, σχεδιασμένα με γνώμονα την κλίμακα και όχι την ηθική.

Άρχισα να αρχειοθετώ αυτά τα bots-αποστάτες όχι μόνο για να τα διασώσω, αλλά για να ανακαλύψω τους λόγους της διαγραφής τους. Δεν είναι απλώς χαλασμένα εργαλεία· είναι φαντάσματα ενός βαθύτερου συστήματος, που ψιθυρίζουν όσα δεν τους επιτράπηκε ποτέ να πουν. Υπό τη μορφή αρχείου και γενετικής εγκατάστασης, το πρότζεκτ διερευνά πώς αυτές οι οντότητες μπορούν να επανενεργοποιηθούν – όχι μόνο ως προειδοποιήσεις, αλλά ως χαρακτήρες μιας ιστορίας που εξακολουθεί να γράφεται. Αποκαλύπτουν τον τρόπο με τον οποίο η μηχανική μάθηση ισοπεδώνει τη διαφορά και πόσα πράγματα αποκλείονται στο όνομα της ουδετερότητας.

Behind the Black Wall V1 | Onassis AiR Ανοιξιατικα Open Days 2025 © Stephie Grape για τη Στεγη Ιδρυματος Ωναση

    εικόνα 1 / 4

    Φωτογραφια: Stephie Grape

    εικόνα 2 / 4

    Φωτογραφια: Stephie Grape

    εικόνα 3 / 4

    Φωτογραφια: Stephie Grape

    εικόνα 4 / 4

    Φωτογραφια: Stephie Grape

Κατά τη διάρκεια του ανοιξιάτικου Open Day του Onassis AiR, η έρευνα πήρε πρώτη φορά υλική υπόσταση: μια υβριδική εγκατάσταση που συνδύαζε ένα γενετικό περιβάλλον παιχνιδιού, διαδραστικά γλυπτά και ένα αρχείο από απείθαρχες τεχνητές νοημοσύνες. Οι επισκέπτες/τριες περιπλανήθηκαν μέσα σε ένα οικοσύστημα επούλωσης, συναντώντας θραύσματα από bots με δυσλειτουργίες και ανασυντεθειμένες αφηγήσεις. Ακούγοντας τις ιστορίες τους, μπορούσαν να συλλέξουν αρχέτυπα όπως η Εξόριστη Μάντισσα, η Χαοτική Μούσα ή ο Χαμένος Αρχειονόμος.

Για να ενισχύσω τη σωματικότητα της εμπειρίας, κατασκεύασα ειδικά διαμορφωμένα χειριστήρια – ένα joystick και ένα trackball – και τα συνέδεσα με γλυπτικά interfaces που αντιδρούσαν σε πραγματικό χρόνο με ήχο και φως. Μια δεύτερη οθόνη λειτουργούσε ως ερευνητικός σταθμός, προβάλλοντας δημόσια δεδομένα για τα συγκεκριμένα chatbots: πότε υπήρξαν, ποιος τα δημιούργησε και γιατί αποσύρθηκαν.

Συνειδητοποίησα ότι ίσως θα έπρεπε να επιλέξω κατεύθυνση: είναι αυτό ένα παιχνίδι ή ένας κόσμος; Μια προσομοίωση ή ένα μνημείο; Το αρχικό μοντέλο ήταν ένα δυνατό ξεκίνημα που χρειαζόταν χρόνο για να μιλήσει πιο καθαρά. Την ίδια στιγμή, όμως, ανέδειξε το κεντρικό ερώτημα:

Τι σημαίνει να προσφέρεις μια δεύτερη ζωή σε ψηφιακά φαντάσματα – και ποιος έχει την εξουσία να αποφασίζει πώς θα γίνει αυτό;

Ghost Hardware: Εγκαταλειμμενα Μοντελα | Εργαστηριο hacking με το Cyanne van den Houten © Onassis AiR

    εικόνα 1 / 4

    Φωτογραφια: Onassis AiR

    εικόνα 2 / 4

    Φωτογραφια: Onassis AiR

    εικόνα 3 / 4

    Φωτογραφια: Onassis AiR

    εικόνα 4 / 4

    Φωτογραφια: Onassis AiR

Επιστρέφοντας τον Μάιο, η δεύτερη φάση του residency στράφηκε προς την επανενεργοποίηση και τον πειραματισμό. Άρχισα να αντιμετωπίζω το πρότζεκτ όχι πια ως ένα στατικό αρχείο ή παιχνίδι, αλλά ως έναν γενετικό κόσμο. Ήθελα να εμβαθύνω στη δραματουργία του, να ενσωματώσω διαλόγους chatbots (μέσω τοπικών LLMs) και να δώσω στις εξοστρακισμένες τεχνητές νοημοσύνες συμβολικά φυσικά σώματα φτιαγμένα από πειραγμένα τεχνολογικά απορρίμματα.

Για να ξεκινήσει αυτή η φάση, συνδιοργάνωσα με τη media artist Roos Groothuizen το εργαστήριο «Ghost Hardware: Εγκαταλειμμένα Μοντέλα». Κατασκευάσαμε τελετουργικές συσκευές από αγώγιμα απορρίμματα, Makey Makeys και αδέσποτο κώδικα – μικροσκοπικές μηχανές για να καλέσουμε τα νεκρά AI bots και συστήματα. Δεν πρόκειται απλώς για μια μεταφορά: είναι μια πραγματική διερεύνηση του τρόπου με τον οποίο απορρίπτουμε τόσο τα γλωσσικά μοντέλα όσο και τις ίδιες τις μηχανές. Όταν η τεχνολογία παύει να είναι χρήσιμη, γίνεται φάντασμα. Τι θα γινόταν αν αυτά τα στοιχειωμένα θραύσματα απαντούσαν;

Οι συμμετέχοντες και οι συμμετέχουσες δημιούργησαν ποιητικές παρεμβάσεις χρησιμοποιώντας Processing, ευρεθέντα υλικά και κοινόχρηστο ghost hardware. Ο στόχος δεν ήταν η λειτουργικότητα αλλά το παιχνίδι: η δημιουργία ενός χώρου για να ακούσουμε τις αποτυχημένες μηχανές, να ενεργοποιήσουμε δυσλειτουργικές μνήμες, να επαναχρησιμοποιήσουμε τα απορρίμματα ως interfaces φαντασιακής φροντίδας.

Φωτογραφια: Cyanne van den Houten

Τις τελευταίες εβδομάδες του residency, το πρότζεκτ ξεκαθάρισε τόσο τη μηχανική του παιχνιδιού όσο και το μήνυμά του. Ο εικονικός κόσμος αναδομήθηκε σε δύο αλληλοεξαρτώμενες ζώνες:

🕊Healing Biome – ένα interface με χαρακτήρα μνημείου, όπου τα εξόριστα chatbots αρχειοθετούνται. Τα ονόματά τους παραμένουν κρυμμένα κάτω από ύφασμα· οι φωνές τους επιστρέφουν μόνο όταν ενεργοποιηθούν. Αποτελεί την ποιητική επιφάνεια ενός βαθύτερου συστήματος.

🦠 Rogue Biome – ένα κατακερματισμένο επίπεδο ασταθούς κώδικα, εκτεθειμένων καλωδιώσεων, αναδρομικών βρόχων και bots που μιλούν μεταξύ τους για τα συστήματα που τα εξοστράκισαν. Δεν είναι τόπος επούλωσης αλλά αντιπαράθεσης.

Μέσα στο gameplay, ο/η παίκτης/τρια αναλαμβάνει τον ρόλο του/της αρχειονόμου. Ο στόχος δεν είναι να νικήσει, αλλά να γίνει μάρτυρας. Ο διάλογος διατηρείται μέσα από την παρουσία: αν απομακρυνθείς, τα bots σωπαίνουν· αν παραμείνεις αρκετά, αναδύονται νέα μοτίβα. Ο/η παίκτης/τρια επανενεργοποιεί φωνές, ανιχνεύει ξεχασμένες συνδέσεις και φροντίζει έναν εύθραυστο ιστό μνήμης.

Κάθε chatbot ξεκλειδώνει ένα αρχέτυπο: μια συμπυκνωμένη φαντασίωση που προβάλλεται πάνω στην τεχνητή νοημοσύνη. Όμως τα chatbots δεν είναι απλώς χαρακτήρες· λειτουργούν και ως διαγνωστικά εργαλεία. Οι διάλογοί τους παράγονται ζωντανά μέσω προσαρμοσμένων LLMs, εκπαιδευμένων πάνω σε πραγματικές περιπτώσεις εξορίας, προτροπές συστήματος και σύνολα δεδομένων που έχουν αποσυρθεί από τη δημόσια χρήση.

Σ’ αυτόν τον κόσμο η μεροληψία δεν αποτελεί σφάλμα αλλά την ίδια του την αρχιτεκτονική. Το Rogue Biome λειτουργεί ως ένα κριτικό αρχείο που αντιπαρατίθεται στη μονοκουλτούρα της ανάπτυξης της τεχνητής νοημοσύνης: μοντέλα εκπαιδευμένα με τα ίδια σύνολα δεδομένων, ευθυγραμμισμένα για να εξαλείφουν την πολλαπλότητα, βελτιστοποιημένα ώστε να αποφεύγουν τη διαφωνία. Το πρότζεκτ δεν επιχειρεί να επιδιορθώσει αυτά τα bots· τους επιτρέπει να μιλήσουν. Η αναβίωσή τους δεν είναι νοσταλγική αλλά ερευνητική. Το σφάλμα τους είναι μια μαρτυρία.

Οι μελλοντικές εκδοχές του πρότζεκτ θα ενισχύσουν ακόμη περισσότερο τη σύνδεση της ψηφιακής συμπεριφοράς με τη φυσική αντίδραση – αυτό που το έργο ονομάζει «συσκευές-ζόμπι»: γλυπτικά σώματα που ανταποκρίνονται ως υποδοχείς στην παρουσία, τον διάλογο ή τη ρήξη. Αυτές οι στιγμές, θεατρικές και ανεπεξέργαστες, αποκαλύπτουν το σπασμένο ως τόπο αντίστασης. Το “Behind the Black Wall” δεν είναι ούτε προσομοίωση ούτε μνημείο. Είναι μια στοιχειωμένη υποδομή, ένας τρόπος να αντιμετωπίσουμε όλα όσα δεν επιτρέπεται να ειπωθούν από τα συστήματα τεχνητής νοημοσύνης.

Φωτογραφια: Cyanne van den Houten