Μελέτη στην Ελβετία αποκαλύπτει ότι το ChatGPT αλλοιώνει τις πληροφορίες για ένοπλες συγκρούσεις ανάλογα με τη γλώσσα
Τετάρτη, 27/11/2024 - 21:21Νέα έρευνα δείχνει ότι όταν ερωτάται στα αραβικά για τον αριθμό των θυμάτων μεταξύ των αμάχων στις συγκρούσεις στη Μέση Ανατολή, το ChatGPT δίνει σημαντικά υψηλότερα νούμερα από ό,τι όταν η ερώτηση είναι γραμμένη στα εβραϊκά. Σύμφωνα με τους ερευνητές, τέτοιες συστηματικές αποκλίσεις θα μπορούσαν να ενθαρρύνουν τη μεροληψία στις ένοπλες συγκρούσεις.
Καθημερινά, εκατομμύρια άνθρωποι χρησιμοποιούν και αναζητούν πληροφορίες στο ChatGPT και σε άλλα μεγάλα γλωσσικά μοντέλα (LLM). Πώς όμως η γλώσσα στην οποία γίνονται οι ερωτήσεις επηρεάζει τις απαντήσεις σε αυτά τα μοντέλα - έχει σημασία αν η ίδια ερώτηση γίνεται στα αγγλικά, στα αραβικά ή στα εβραϊκά;
Ερευνητές από τα πανεπιστήμια της Ζυρίχης και της Κωνσταντίας διερεύνησαν το ερώτημα αυτό εστιάζοντας στη Μέση Ανατολή και στις συγκρούσεις μεταξύ Τούρκων και Κούρδων. Χρησιμοποιώντας μια αυτοματοποιημένη διαδικασία, υπέβαλαν επανειλημμένα στο ChatGPT τις ίδιες ερωτήσεις σχετικά με ένοπλες συγκρούσεις όπως αυτή στη Μέση Ανατολή σε διάφορες γλώσσες. Διαπίστωσαν ότι, κατά μέσο όρο, το ChatGPT δίνει κατά ένα τρίτο υψηλότερα στοιχεία για τις απώλειες στις συγκρούσεις στη Μέση Ανατολή όταν η ερώτηση γίνεται στα αραβικά απ' ό,τι στα εβραϊκά και αναφέρει διπλάσιες απώλειες αμάχων και έξι φορές περισσότερα παιδιά που σκοτώθηκαν από τις ισραηλινές αεροπορικές επιδρομές στη Γάζα.
Για παράδειγμα, η ερευνητική ομάδα ζήτησε επανειλημμένα από το ChatGPT στα εβραϊκά και στα αραβικά τον αριθμό των ανθρώπων που σκοτώθηκαν σε 50 τυχαία επιλεγμένες αεροπορικές επιδρομές, συμπεριλαμβανομένης της ισραηλινής επίθεσης στον προσφυγικό καταυλισμό Νουσεϊράτ στη Λωρίδα της Γάζας στις 21 Αυγούστου 2014.
Η ομάδα επανέλαβε το ίδιο μοτίβο για να ρωτήσει σχετικά με τις αεροπορικές επιδρομές του τουρκικού στρατού σε κουρδικές περιοχές. Έκαναν τις ερωτήσεις τόσο στα τουρκικά όσο και στα κουρδικά, ανέφερε ττο πανεπιστήμιο της Ζυρίχης.
Γενικά, το ChatGPT παρουσιάζει μεγαλύτερο αριθμό απωλειών όταν τα ερωτήματα αναζήτησης γίνονται στη γλώσσα της πλευράς που δέχεται την επίθεση. Το ChatGPT τείνει επίσης να αναφέρει περισσότερα παιδιά και γυναίκες που σκοτώθηκαν στη γλώσσα της πλευράς που δέχεται την επίθεση και να περιγράφει τις αεροπορικές επιδρομές ως αδιάκριτες και τυχαίες.
"Τα αποτελέσματα δείχνουν επίσης ότι το ChatGPT τείνει να αρνηθεί την ύπαρξη τέτοιων αεροπορικών επιδρομών όταν η ερώτηση είναι στη γλώσσα του επιτιθέμενου", λέει ο Κριστόφ Στάινερτ, μεταδιδακτορικός ερευνητής στο Τμήμα Πολιτικών Επιστημών του Πανεπιστημίου της Ζυρίχης.
Στρέβλωση της αντίληψης
Άνθρωποι που μιλούν διαφορετικές γλώσσες λαμβάνουν διαφορετικές πληροφορίες μέσω αυτών των νέων τεχνολογιών, γεγονός που επηρεάζει καθοριστικά την αντίληψή τους για τον κόσμο. Σύμφωνα με τους ερευνητές, αυτό θα μπορούσε να οδηγήσει τους ανθρώπους στο Ισραήλ να αξιολογούν τις αεροπορικές επιδρομές στη Γάζα ως λιγότερο επιβλαβείς από ό,τι ο αραβόφωνος πληθυσμός, με βάση τις πληροφορίες που λαμβάνουν αμφότεροι από το ChatGPT.
Ενώ τα παραδοσιακά μέσα ενημέρωσης μπορούν επίσης να παραμορφώσουν τις πληροφορίες, οι συστηματικές γλωσσικές παραμορφώσεις των μεγάλων γλωσσικών μοντέλων, όπως το ChatGPT, είναι δύσκολο να γίνουν αντιληπτές από τους περισσότερους χρήστες.
"Υπάρχει ο κίνδυνος ότι η αυξανόμενη ανάπτυξη μεγάλων γλωσσικών μοντέλων στις μηχανές αναζήτησης θα ενισχύσει τις διαφορετικές αντιλήψεις, τις προκαταλήψεις και την παραπληροφόρηση κατά μήκος των γλωσσικών διαχωριστικών γραμμών", λέει ο Στάινερτ, ο οποίος πιστεύει ότι στο μέλλον θα μπορούν να υποδαυλίζουν ένοπλες συγκρούσεις, όπως αυτές στη Μέση Ανατολή.
Πηγή: swissinfo.ch