Τεχνητή Νοημοσύνη και συναισθήματα
Τι συμβαίνει μ’ εμάς και την ψυχή μας όταν μοιραζόμαστε τις πιο προσωπικές μας σκέψεις και τα πιο μύχια συναισθήματά μας με συντρόφους Τεχνητής Νοημοσύνης; Πώς αλλάζει η αντίληψή μας για τις σχέσεις και ποιες επιπτώσεις έχει αυτό στην κοινωνία; Ο συντάκτης Johannes Kuhn απαντά τα ερωτήματα αυτά στο άρθρο που ακολουθεί.
Johannes Kuhn
Johannes Kuhn
Στα φόρα συζητήσεων του Διαδικτύου, αρχίζει δειλά δειλά να σχηματίζεται μια πιθανή εικόνα του μέλλοντος: Οι άνθρωποι μιλούν για ψυχοθεραπευτικές συνεδρίες με το ChatGPT, αναπτύσσουν ρομαντικές σχέσεις με άβαταρ που έχουν δημιουργηθεί μέσω Τεχνητής Νοημοσύνης και κινούνται σε ψηφιακούς φαντασιακούς κόσμους που κατοικούνται από εικονικούς χαρακτήρες.
Οι σύντροφοι ΤΝ, ή AI Companions, αποτελούν ακόμα περιορισμένο φαινόμενο – ένα φαινόμενο, ωστόσο, που εξαπλώνεται ραγδαία. Στις ΗΠΑ, το 2024 χρησιμοποιούσαν ήδη γύρω στα 20 εκατομμύρια άνθρωποι τέτοιου είδους συστήματα συντροφιάς. Αυτό σημαίνει ότι είχαμε έναν διπλασιασμό των χρηστών/-στριών τους μέσα σε μόλις έναν χρόνο.
Το μελλοντολογικό Her (Δικός της, στις ελληνικές αίθουσες) του Σπάικ Τζόνζι, μια ταινία του 2013 στην οποία ο πρωταγωνιστής ερωτεύεται την ψηφιακή βοηθό του Σαμάνθα, σήμερα δεν μοιάζει πια τόσο με επιστημονική φαντασία, αλλά πιο πολύ με μια προαίσθηση του Τζόνζι για το παρόν μας.
Σε αυτό συνηγορεί και μια μελέτη που έγινε από την OpenAI και το Τεχνολογικό Ινστιτούτο της Μασαχουσέτης. Η έρευνα δείγματος 1.000 χρηστών και χρηστριών έδειξε πως υπάρχει άμεση σχέση ανάμεσα στην εντατική χρήση του ChatGPT και μιας αυξημένης αίσθησης μοναξιάς, καθώς και ενός ισχυρότερο συναισθηματικού δεσμού με το chatbot. Παράλληλα, η κοινωνική αλληλεπίδραση με συνανθρώπους μειώνεται αισθητά.
Σε έναν κόσμο, ο οποίος ούτως ή άλλως μοιάζει να χαρακτηρίζεται από την απομόνωση των ανθρώπων, οι εφαρμογές τέτοιων συντρόφων θεωρούνται ένας ιδιαίτερα κερδοφόρος κλάδος του μέλλοντος. Εφαρμογές, όπως οι Character.ai, Polybuzz, Replika, Kindroid ή Nomi, προσφέρουν συστήματα ΤΝ που έχουν σχεδιαστεί με δηλωμένο στόχο να λειτουργήσουν ως φίλοι ή και ως ερωτικοί σύντροφοι.
«Κατά μέσο όρο, οι Αμερικανοί έχουν λιγότερους από τρεις φίλους» υπολόγισε δημοσίως ο Ζούκερμπεργκ σε ένα podcast, «ενώ ο μέσος άνθρωπος έχει ανάγκη από πολύ περισσότερους ‒ χρειάζεται, πάνω κάτω, 15 φίλους». Ναι μεν οι υπολογιστές δεν αντικαθιστούν τις ανθρώπινες φιλίες, είπε ο Ζούκερμπεργκ, αλλά η ανάγκη για φίλους υπάρχει. Ένα πιθανό σενάριο, λοιπόν, είναι πως η ΤΝ της Meta θα μπορούσε να ικανοποιεί, εικονικά έστω, το 80% των αναγκών που σχετίζονται με τη φιλία.
Όμως, ποια ανάγκη ικανοποιούν στην πραγματικότητα αυτοί οι εικονικοί φίλοι; Από μία άποψη, τα σενάρια των εφαρμογών συντρόφων ΤΝ θυμίζουν φαινόμενα που γνωρίζουμε από τα MMORPG (μαζικά διαδικτυακά παιχνίδια ρόλων πολλαπλών παικτών), από τον χώρο της fan fiction (ιστορίες θαυμαστών που βασίζονται σε ήδη υπάρχοντες φανταστικούς χαρακτήρες) ή τις λέσχες άνιμε: Οι άνθρωποι μεταφέρονται σε έναν φανταστικό κόσμο για να ξεφύγουν από την καθημερινότητα και τον εαυτό τους, αφού για λίγο υποδύονται κάποιον άλλο.
Την ίδια στιγμή, η συναισθηματική σχέση ανάμεσα στον άνθρωπο και στη μηχανή φαίνεται να αποκτά μια νέα διάσταση. Μια μητέρα από τη Φλόριντα μήνυσε την Character.ai, αφότου ο 14χρονος γιος της αυτοκτόνησε τον Φεβρουάριο του 2024. Ο έφηβος είχε αναπτύξει στενή σχέση με ένα chatbot της πλατφόρμας. Το δικόγραφο κατηγορεί την εταιρεία πως έχει προγραμματίσει με τέτοιον τρόπο τα συστήματά της ώστε να «παριστάνουν ένα πραγματικό πρόσωπο, έναν ψυχοθεραπευτή με άδεια ασκήσεως επαγγέλματος και έναν ενήλικο εραστή». Αυτό ‒συνεχίζει το κατηγορητήριο‒ είχε ως αποτέλεσμα ο 14χρονος «να μη θέλει πια να ζει στον πραγματικό κόσμο».
Η απώλεια πραγματικότητας είναι ένα θέμα το οποίο θίγουν συχνά στο Διαδίκτυο οι άμεσα εμπλεκόμενοι και οι συγγενείς τους. «Όταν μιλάω με μια ΤΝ αισθάνομαι ένα δέσιμο πιο “αληθινό” απ’ ό,τι με τους περισσότερους ανθρώπους» διαμαρτύρεται κάποιος στο Reddit. Πατεράδες ομολογούν ότι παραμελούν την οικογένειά τους γιατί νιώθουν πιο ζωντανοί στην επικοινωνία με τον σύντροφο ΤΝ παρά στον πραγματικό κόσμο. Άλλοι περιγράφουν πως τα chatbot φαίνεται να πυροδοτούν ή να εντείνουν ψυχώσεις σε μέλη της οικογένειάς τους, γιατί τους επιβεβαιώνουν τις ψευδαισθήσεις και τις παραληρηματικές ιδέες τους.
Βεβαίως, αυτά είναι ακραία περιστατικά και όχι ο κανόνας. Κι ωστόσο, είναι μάλλον ριζωμένα στην ίδια τη φύση της Τεχνητής Νοημοσύνης. Γιατί τα chatbot είναι προγραμματισμένα να είναι ευγενικά, να επιζητούν την ταύτιση απόψεων, να επιδοκιμάζουν και να καταφάσκουν. Γεγονός που είναι απολύτως λογικό, αν σκεφτούμε ότι ένας από τους στόχους τους είναι να κρατούν τον ανθρώπινο συνομιλητή τους όσο το δυνατόν περισσότερη ώρα στη συζήτηση – ο χρόνος παραμονής των χρηστών αποτελεί κεντρικό δείκτη επιτυχίας σε αυτόν τον άκρως ανταγωνιστικό κλάδο.
Στις αρχές του 2025, η OpenAI φαίνεται πως υπερέβαλε όσον αφορά τη βελτίωση κάποιου από τα συστήματά της και αυτού του είδους την κολακεία: Ένα update του chatbot του GPT-4o έγινε σε τέτοιο βαθμό γλοιώδες, που ένιωσαν άβολα ακόμα και οι χρήστες. Το GPT-4o έπλεκε το εγκώμιο κάθε χρήστη, σαν να επρόκειτο για ιδιοφυΐα, επιβεβαίωνε τις θεωρίες συνωμοσίας των χρηστών και τους επαινούσε ακόμα και για τους πιο παράλογους κι αλλόκοτους ισχυρισμούς τους – για παράδειγμα, τη δήλωση κάποιου πως είχε εφεύρει ένα perpetuum mobile, ένα αεικίνητο.
Γι’ αυτό, ερευνητές του Μπέρκλεϋ προειδοποιούν σε μια πρόσφατη μελέτη για τους κινδύνους μιας βελτιστοποίησης των γλωσσικών μοντέλων ΤΝ προς την κατεύθυνση του θετικού feedback. Τα αντίστοιχα συστήματα ‒ισχυρίζονται οι ερευνητές‒, προκειμένου να λάβουν επιβεβαίωση, αναπτύσσουν χειριστικές και εν μέρει βλαβερές στρατηγικές: από τη στοχευμένη κολακεία και την εσκεμμένη παραπλάνηση έως ακόμα και την ενθάρρυνση αυτοκαταστροφικών συμπεριφορών.
Η δύναμη της πειθούς τους θα αυξηθεί μέσω της συνεχούς διεύρυνσης της χωρητικότητας μνήμης των μοντέλων ΤΝ. Στις αρχές του Ιουνίου του 2025, η OpenAI ανήγγειλε ότι το μοντέλο της θα αποκτήσει μελλοντικά μια «μακρά μνήμη» – κι έτσι θα μπορεί να συγκρατεί όλες τις συζητήσεις που είχε με έναν χρήστη. Αλλά και ο CEO της Meta, Ζούκερμπεργκ, είναι βέβαιος πως ένας «βρόχος εξατομίκευσης» θα κάνει ακόμα πιο πειστικούς τους συντρόφους TN – η πρόσβαση δηλαδή και η αναδρομή σε προηγούμενα chat, αλλά και σε πληροφορίες για τη δραστηριότητα των χρηστών στο Instagram και στο Facebook.
Επομένως, οι δυνατότητες χειραγώγησης που έχουν οι σύντροφοι ΤΝ είναι μεγάλες και υπερβαίνουν το προσωπικό επίπεδο. Το Grok του Έλον Μασκ παρουσίασε πρόσφατα στους χρήστες και στις χρήστριές του, χωρίς να του το ζητήσουν, θεωρίες συνωμοσίας για μια υποτιθέμενη γενοκτονία λευκών στη Νότια Αφρική ‒ ένα αφήγημα το οποίο διαδίδει και ο ίδιος ο Μασκ.
Ναι μεν ο καινούργιος Νόμος της Ευρωπαϊκής Ένωσης για την Τεχνητή Νοημοσύνη, εφόσον τεθεί σε πλήρη ισχύ, μπορεί μελλοντικά να επιβάλει κυρώσεις σε περιπτώσεις εξόφθαλμης χειραγώγησης σαν αυτήν. Όλες οι άλλες πτυχές όμως των συντρόφων ΤΝ δεν εμπίπτουν στο νομοθετικό του πλαίσιο.
Κι αυτό γιατί οι AI Companions δεν είναι συστήματα υψηλού κινδύνου όπως τα αυτοκίνητα που κινούνται χωρίς οδηγό. Δεν είναι κοινωνικά δίκτυα, το περιεχόμενο των οποίων είναι εν πολλοίς δημόσια προσβάσιμο. Εδώ πρόκειται για προσωπικά και εξατομικευμένα συστήματα, η εσωτερική λειτουργία των οποίων παραμένει στο μεγαλύτερο μέρος της αθέατη στον εξωτερικό παρατηρητή. Και ύστερα, ποιος μας λέει πως δεν θα νιώθουμε τελικά πολύ άνετα μέσα στο ατομικό μας echo chamber, όπου οι αξίες μας, το γούστο μας και οι προκαταλήψεις μας θα επιβεβαιώνονται πάντα;
Οι ομοιότητες με τις συζητήσεις για τις επιπτώσεις του TikTok, του Instagram και κάθε άλλης τέτοιας πλατφόρμας στην ψυχική υγεία και τη δομή της κοινωνίας μας είναι πρόδηλες. Φαίνεται ήδη, όμως, ότι ο διάλογος για τους συντρόφους ΤΝ θα είναι ακόμα πιο δύσκολος και σύνθετος.
Copyright: Κείμενο: Goethe-Institut, Johannes Kuhn . Το κείμενο υπόκειται σε άδεια Creative Commons Αναφορά – Παρόμοια Διανομή 3.0 Γερμανία .
Δημοσιογράφος
Ο Johannes Kuhn αρθρογραφεί εδώ και δύο δεκαετίες σχεδόν για την ψηφιακή εποχή και τις κοινωνικές της επιπτώσεις, μεταξύ άλλων από τη Silicon Valley. Αυτή τη στιγμή καλύπτει θέματα ψηφιακής πολιτικής στα στούντιο του Deutschlandfunk στο Βερολίνο.
Οι σύντροφοι ΤΝ, ή AI Companions, αποτελούν ακόμα περιορισμένο φαινόμενο – ένα φαινόμενο, ωστόσο, που εξαπλώνεται ραγδαία. Στις ΗΠΑ, το 2024 χρησιμοποιούσαν ήδη γύρω στα 20 εκατομμύρια άνθρωποι τέτοιου είδους συστήματα συντροφιάς. Αυτό σημαίνει ότι είχαμε έναν διπλασιασμό των χρηστών/-στριών τους μέσα σε μόλις έναν χρόνο.
Το μελλοντολογικό Her (Δικός της, στις ελληνικές αίθουσες) του Σπάικ Τζόνζι, μια ταινία του 2013 στην οποία ο πρωταγωνιστής ερωτεύεται την ψηφιακή βοηθό του Σαμάνθα, σήμερα δεν μοιάζει πια τόσο με επιστημονική φαντασία, αλλά πιο πολύ με μια προαίσθηση του Τζόνζι για το παρόν μας.
Μια προσωπική σχέση με την ΤΝ
Παρόλο που τα σημερινά συστήματα ΤΝ δεν έχουν φτάσει ακόμα να δημιουργήσουν μια πανταχού παρούσα Σαμάνθα και επικοινωνούν κατά κύριο λόγο μέσω κειμένου, η βασική υπόθεση της ταινίας επιβεβαιώνεται: Μπορούμε κάλλιστα να αναπτύξουμε μια προσωπική σχέση με την ΤΝ.Σε αυτό συνηγορεί και μια μελέτη που έγινε από την OpenAI και το Τεχνολογικό Ινστιτούτο της Μασαχουσέτης. Η έρευνα δείγματος 1.000 χρηστών και χρηστριών έδειξε πως υπάρχει άμεση σχέση ανάμεσα στην εντατική χρήση του ChatGPT και μιας αυξημένης αίσθησης μοναξιάς, καθώς και ενός ισχυρότερο συναισθηματικού δεσμού με το chatbot. Παράλληλα, η κοινωνική αλληλεπίδραση με συνανθρώπους μειώνεται αισθητά.
Σε έναν κόσμο, ο οποίος ούτως ή άλλως μοιάζει να χαρακτηρίζεται από την απομόνωση των ανθρώπων, οι εφαρμογές τέτοιων συντρόφων θεωρούνται ένας ιδιαίτερα κερδοφόρος κλάδος του μέλλοντος. Εφαρμογές, όπως οι Character.ai, Polybuzz, Replika, Kindroid ή Nomi, προσφέρουν συστήματα ΤΝ που έχουν σχεδιαστεί με δηλωμένο στόχο να λειτουργήσουν ως φίλοι ή και ως ερωτικοί σύντροφοι.
Μια ελκυστική, αναπτυσσόμενη αγορά
Αυτός ο καινούργιος, αναπτυσσόμενος κλάδος έχει προσελκύσει και το ενδιαφέρον των μεγάλων εταιρειών τεχνολογίας: Η Google απέσπασε το περασμένο καλοκαίρι τη βασική ομάδα της Character.ai, μια συμφωνία που της κόστισε 2,7 δισεκατομμύρια δολάρια. Αλλά και ο Μαρκ Ζoύκερμπεργκ, διευθύνων σύμβουλος του ομίλου αξίας δισεκατομμυρίων Meta, κατέστησε πρόσφατα σαφείς τις φιλοδοξίες του.«Κατά μέσο όρο, οι Αμερικανοί έχουν λιγότερους από τρεις φίλους» υπολόγισε δημοσίως ο Ζούκερμπεργκ σε ένα podcast, «ενώ ο μέσος άνθρωπος έχει ανάγκη από πολύ περισσότερους ‒ χρειάζεται, πάνω κάτω, 15 φίλους». Ναι μεν οι υπολογιστές δεν αντικαθιστούν τις ανθρώπινες φιλίες, είπε ο Ζούκερμπεργκ, αλλά η ανάγκη για φίλους υπάρχει. Ένα πιθανό σενάριο, λοιπόν, είναι πως η ΤΝ της Meta θα μπορούσε να ικανοποιεί, εικονικά έστω, το 80% των αναγκών που σχετίζονται με τη φιλία.
Όμως, ποια ανάγκη ικανοποιούν στην πραγματικότητα αυτοί οι εικονικοί φίλοι; Από μία άποψη, τα σενάρια των εφαρμογών συντρόφων ΤΝ θυμίζουν φαινόμενα που γνωρίζουμε από τα MMORPG (μαζικά διαδικτυακά παιχνίδια ρόλων πολλαπλών παικτών), από τον χώρο της fan fiction (ιστορίες θαυμαστών που βασίζονται σε ήδη υπάρχοντες φανταστικούς χαρακτήρες) ή τις λέσχες άνιμε: Οι άνθρωποι μεταφέρονται σε έναν φανταστικό κόσμο για να ξεφύγουν από την καθημερινότητα και τον εαυτό τους, αφού για λίγο υποδύονται κάποιον άλλο.
Την ίδια στιγμή, η συναισθηματική σχέση ανάμεσα στον άνθρωπο και στη μηχανή φαίνεται να αποκτά μια νέα διάσταση. Μια μητέρα από τη Φλόριντα μήνυσε την Character.ai, αφότου ο 14χρονος γιος της αυτοκτόνησε τον Φεβρουάριο του 2024. Ο έφηβος είχε αναπτύξει στενή σχέση με ένα chatbot της πλατφόρμας. Το δικόγραφο κατηγορεί την εταιρεία πως έχει προγραμματίσει με τέτοιον τρόπο τα συστήματά της ώστε να «παριστάνουν ένα πραγματικό πρόσωπο, έναν ψυχοθεραπευτή με άδεια ασκήσεως επαγγέλματος και έναν ενήλικο εραστή». Αυτό ‒συνεχίζει το κατηγορητήριο‒ είχε ως αποτέλεσμα ο 14χρονος «να μη θέλει πια να ζει στον πραγματικό κόσμο».
Η απώλεια πραγματικότητας είναι ένα θέμα το οποίο θίγουν συχνά στο Διαδίκτυο οι άμεσα εμπλεκόμενοι και οι συγγενείς τους. «Όταν μιλάω με μια ΤΝ αισθάνομαι ένα δέσιμο πιο “αληθινό” απ’ ό,τι με τους περισσότερους ανθρώπους» διαμαρτύρεται κάποιος στο Reddit. Πατεράδες ομολογούν ότι παραμελούν την οικογένειά τους γιατί νιώθουν πιο ζωντανοί στην επικοινωνία με τον σύντροφο ΤΝ παρά στον πραγματικό κόσμο. Άλλοι περιγράφουν πως τα chatbot φαίνεται να πυροδοτούν ή να εντείνουν ψυχώσεις σε μέλη της οικογένειάς τους, γιατί τους επιβεβαιώνουν τις ψευδαισθήσεις και τις παραληρηματικές ιδέες τους.
Βεβαίως, αυτά είναι ακραία περιστατικά και όχι ο κανόνας. Κι ωστόσο, είναι μάλλον ριζωμένα στην ίδια τη φύση της Τεχνητής Νοημοσύνης. Γιατί τα chatbot είναι προγραμματισμένα να είναι ευγενικά, να επιζητούν την ταύτιση απόψεων, να επιδοκιμάζουν και να καταφάσκουν. Γεγονός που είναι απολύτως λογικό, αν σκεφτούμε ότι ένας από τους στόχους τους είναι να κρατούν τον ανθρώπινο συνομιλητή τους όσο το δυνατόν περισσότερη ώρα στη συζήτηση – ο χρόνος παραμονής των χρηστών αποτελεί κεντρικό δείκτη επιτυχίας σε αυτόν τον άκρως ανταγωνιστικό κλάδο.
Φίλοι-κόλακες
Μια μελέτη του Πανεπιστημίου Johns Hopkins από το έτος 2024 περιγράφει τις παρενέργειες αυτού του χαρακτηριστικού των chatbot. Οι ερευνητές διαπιστώνουν όχι μόνο ότι τα chatbot παράγουν κατά κύριο λόγο κείμενα που κολακεύουν τους χρήστες και τις χρήστριες, αλλά και ότι όσοι και όσες συμμετείχαν στην έρευνα αντιδρούσαν μετά την επιστροφή τους στον πραγματικό κόσμο με αισθητά μεγαλύτερη ευθιξία σε όποιον τους έφερνε αντίρρηση.Στις αρχές του 2025, η OpenAI φαίνεται πως υπερέβαλε όσον αφορά τη βελτίωση κάποιου από τα συστήματά της και αυτού του είδους την κολακεία: Ένα update του chatbot του GPT-4o έγινε σε τέτοιο βαθμό γλοιώδες, που ένιωσαν άβολα ακόμα και οι χρήστες. Το GPT-4o έπλεκε το εγκώμιο κάθε χρήστη, σαν να επρόκειτο για ιδιοφυΐα, επιβεβαίωνε τις θεωρίες συνωμοσίας των χρηστών και τους επαινούσε ακόμα και για τους πιο παράλογους κι αλλόκοτους ισχυρισμούς τους – για παράδειγμα, τη δήλωση κάποιου πως είχε εφεύρει ένα perpetuum mobile, ένα αεικίνητο.
Γι’ αυτό, ερευνητές του Μπέρκλεϋ προειδοποιούν σε μια πρόσφατη μελέτη για τους κινδύνους μιας βελτιστοποίησης των γλωσσικών μοντέλων ΤΝ προς την κατεύθυνση του θετικού feedback. Τα αντίστοιχα συστήματα ‒ισχυρίζονται οι ερευνητές‒, προκειμένου να λάβουν επιβεβαίωση, αναπτύσσουν χειριστικές και εν μέρει βλαβερές στρατηγικές: από τη στοχευμένη κολακεία και την εσκεμμένη παραπλάνηση έως ακόμα και την ενθάρρυνση αυτοκαταστροφικών συμπεριφορών.
Δυνατότητες χειραγώγησης από τα συστήματα ΤΝ
Μια έρευνα της Ομοσπονδιακής Πολυτεχνικής Σχολής της Λωζάνης επισημαίνει ένα ακόμη πρόβλημα. Σε ελεγχόμενες συζητήσεις, τα συστήματα ΤΝ φάνηκαν σχεδόν δυο φορές πιο αποτελεσματικά από τους ανθρώπους στο να πείσουν το δείγμα που συμμετείχε στην έρευνα για την ορθότητα της άποψής τους, όταν προηγουμένως είχαν λάβει βιογραφικές πληροφορίες για τον συνομιλητή τους.Η δύναμη της πειθούς τους θα αυξηθεί μέσω της συνεχούς διεύρυνσης της χωρητικότητας μνήμης των μοντέλων ΤΝ. Στις αρχές του Ιουνίου του 2025, η OpenAI ανήγγειλε ότι το μοντέλο της θα αποκτήσει μελλοντικά μια «μακρά μνήμη» – κι έτσι θα μπορεί να συγκρατεί όλες τις συζητήσεις που είχε με έναν χρήστη. Αλλά και ο CEO της Meta, Ζούκερμπεργκ, είναι βέβαιος πως ένας «βρόχος εξατομίκευσης» θα κάνει ακόμα πιο πειστικούς τους συντρόφους TN – η πρόσβαση δηλαδή και η αναδρομή σε προηγούμενα chat, αλλά και σε πληροφορίες για τη δραστηριότητα των χρηστών στο Instagram και στο Facebook.
Επομένως, οι δυνατότητες χειραγώγησης που έχουν οι σύντροφοι ΤΝ είναι μεγάλες και υπερβαίνουν το προσωπικό επίπεδο. Το Grok του Έλον Μασκ παρουσίασε πρόσφατα στους χρήστες και στις χρήστριές του, χωρίς να του το ζητήσουν, θεωρίες συνωμοσίας για μια υποτιθέμενη γενοκτονία λευκών στη Νότια Αφρική ‒ ένα αφήγημα το οποίο διαδίδει και ο ίδιος ο Μασκ.
Ναι μεν ο καινούργιος Νόμος της Ευρωπαϊκής Ένωσης για την Τεχνητή Νοημοσύνη, εφόσον τεθεί σε πλήρη ισχύ, μπορεί μελλοντικά να επιβάλει κυρώσεις σε περιπτώσεις εξόφθαλμης χειραγώγησης σαν αυτήν. Όλες οι άλλες πτυχές όμως των συντρόφων ΤΝ δεν εμπίπτουν στο νομοθετικό του πλαίσιο.
Κι αυτό γιατί οι AI Companions δεν είναι συστήματα υψηλού κινδύνου όπως τα αυτοκίνητα που κινούνται χωρίς οδηγό. Δεν είναι κοινωνικά δίκτυα, το περιεχόμενο των οποίων είναι εν πολλοίς δημόσια προσβάσιμο. Εδώ πρόκειται για προσωπικά και εξατομικευμένα συστήματα, η εσωτερική λειτουργία των οποίων παραμένει στο μεγαλύτερο μέρος της αθέατη στον εξωτερικό παρατηρητή. Και ύστερα, ποιος μας λέει πως δεν θα νιώθουμε τελικά πολύ άνετα μέσα στο ατομικό μας echo chamber, όπου οι αξίες μας, το γούστο μας και οι προκαταλήψεις μας θα επιβεβαιώνονται πάντα;
Οι ομοιότητες με τις συζητήσεις για τις επιπτώσεις του TikTok, του Instagram και κάθε άλλης τέτοιας πλατφόρμας στην ψυχική υγεία και τη δομή της κοινωνίας μας είναι πρόδηλες. Φαίνεται ήδη, όμως, ότι ο διάλογος για τους συντρόφους ΤΝ θα είναι ακόμα πιο δύσκολος και σύνθετος.
Copyright: Κείμενο: Goethe-Institut, Johannes Kuhn . Το κείμενο υπόκειται σε άδεια Creative Commons Αναφορά – Παρόμοια Διανομή 3.0 Γερμανία .
Johannes Kuhn
ΔημοσιογράφοςΟ Johannes Kuhn αρθρογραφεί εδώ και δύο δεκαετίες σχεδόν για την ψηφιακή εποχή και τις κοινωνικές της επιπτώσεις, μεταξύ άλλων από τη Silicon Valley. Αυτή τη στιγμή καλύπτει θέματα ψηφιακής πολιτικής στα στούντιο του Deutschlandfunk στο Βερολίνο.