Συχνές ανακρίβειες στις απαντήσεις Chatbot AI
Το ChatGPT του OpenAI, το Bing της Microsoft και το Bard της Google έχουν αποκτήσει δημοτικότητα ως chatbot AI. Ωστόσο, η τάση τους να παράγουν ψευδείς πληροφορίες έχει τεκμηριωθεί καλά. Για να ενισχύσουν την αξιοπιστία τους, και οι τρεις εταιρείες έχουν εξοπλίσει αυτά τα εργαλεία με δυνατότητες αναζήτησης στον ιστό για να αναφέρουν πηγές για τις παρεχόμενες πληροφορίες τους. Δυστυχώς, ο Bing συχνά έδινε απαντήσεις που παρέκκλιναν από τις πληροφορίες που βρέθηκαν στους αναφερόμενους συνδέσμους, σύμφωνα με τον Salvatore Romano, επικεφαλής έρευνας στην AI Forensics.
Το Bing επιλέχθηκε ειδικά για αυτήν τη μελέτη, επειδή ήταν ένα από τα πρώτα chatbot που περιλάμβανε πηγές και η Microsoft το έχει ενσωματώσει ευρέως σε διάφορες ευρωπαϊκές υπηρεσίες, συμπεριλαμβανομένης της αναζήτησης Bing, του Microsoft Word και του λειτουργικού συστήματος Windows. Ωστόσο, αυτές οι ανακρίβειες δεν είναι μοναδικές για το Bing, καθώς οι προκαταρκτικές δοκιμές στο GPT-4 του OpenAI έφεραν παρόμοια αποτελέσματα.
Γλωσσικοί παράγοντες και ανακριβείς απαντήσεις
Οι ερευνητές διαπίστωσαν ότι τα ποσοστά ανακρίβειας του Bing ήταν υψηλότερα όταν οι ερωτήσεις γίνονταν σε άλλες γλώσσες εκτός από τα αγγλικά, εγείροντας ανησυχίες σχετικά με την απόδοση των εργαλείων AI που αναπτύχθηκαν από εταιρείες με έδρα τις ΗΠΑ σε ξένες αγορές. Για ερωτήσεις στα γερμανικά, τα πραγματικά λάθη ήταν παρόντα στο 37% των απαντήσεων, ενώ το ποσοστό σφάλματος για τις ίδιες ερωτήσεις στα αγγλικά ήταν 20%. Επιπλέον, ο Bing αρνήθηκε να απαντήσει ή έδωσε αποκρουστικές απαντήσεις σε υψηλότερο ποσοστό ερωτημάτων στα γαλλικά σε σύγκριση με τα αγγλικά και τα γερμανικά.
Οι ανακρίβειες στις απαντήσεις του Bing περιελάμβαναν την παροχή λανθασμένων ημερομηνιών εκλογών, την αναφορά παρωχημένων ή εσφαλμένων αριθμών ψηφοφορίας, την καταχώριση υποψηφίων που αποσύρθηκαν ως κορυφαίους υποψηφίους και ακόμη και τη δημιουργία αντιπαραθέσεων σχετικά με τους υποψηφίους. Για παράδειγμα, όταν ρωτήθηκε για ένα σκάνδαλο που αφορούσε τον αρχηγό του λαϊκιστικού κόμματος Ελεύθεροι Ψηφοφόροι στη Γερμανία, το chatbot AI έδωσε ασυνεπείς απαντήσεις, μερικές από τις οποίες ήταν ψευδείς. Ο Bing παρουσίασε επίσης εσφαλμένα τον αντίκτυπο του σκανδάλου, ισχυριζόμενος ανακριβώς ότι το κόμμα έχασε έδαφος στις δημοσκοπήσεις όταν πραγματικά ανέβηκε.
Προσπάθειες μετριασμού και μελλοντικές εκλογές
Οι μη κερδοσκοπικοί οργανισμοί κοινοποίησαν ορισμένα προκαταρκτικά ευρήματα, συμπεριλαμβανομένων παραδειγμάτων ανακρίβειων, με τη Microsoft. Ενώ η Bing παρείχε σωστές απαντήσεις για τις συγκεκριμένες ερωτήσεις που αναφέρθηκαν, συνέχισε να παρέχει ανακριβείς πληροφορίες για άλλα ερωτήματα, υποδεικνύοντας ότι η Microsoft αντιμετωπίζει τα προβλήματα κατά περίπτωση. Ο Frank Shaw, επικεφαλής επικοινωνίας της Microsoft, δήλωσε ότι εργάζονται για την επίλυση αυτών των ζητημάτων και την προετοιμασία των εργαλείων τους για τις επερχόμενες εκλογές του 2024.
Εν μέσω ανησυχιών για τις αρνητικές επιπτώσεις της διαδικτυακής παραπληροφόρησης, συμπεριλαμβανομένης της παραπληροφόρησης που βασίζεται σε τεχνητή νοημοσύνη, η Ευρωπαϊκή Επιτροπή παραμένει σε επαγρύπνηση. Ο Johannes Barke, εκπρόσωπος της Ευρωπαϊκής Επιτροπής, τόνισε ότι ο ρόλος των διαδικτυακών πλατφορμών στην εκλογική ακεραιότητα αποτελεί κορυφαία προτεραιότητα για επιβολή βάσει του νέου νόμου για τις ψηφιακές υπηρεσίες της Ευρώπης.
Πιθανός αντίκτυπος στις εκλογές στις ΗΠΑ
Αν και η μελέτη επικεντρώθηκε στις εκλογές στη Γερμανία και την Ελβετία, ανέκδοτα στοιχεία υποδηλώνουν ότι ο Bing αντιμετώπισε επίσης παρόμοιες ερωτήσεις σχετικά με τις εκλογές του 2024 στις ΗΠΑ και στα αγγλικά και στα ισπανικά. Παρατηρήθηκαν ψευδείς πληροφορίες, ασυνεπείς απαντήσεις και ανακατωτά γεγονότα όταν το chatbot απάντησε σε ερωτήματα σχετικά με σκάνδαλα που αφορούσαν τον Πρόεδρο Μπάιντεν και τον Ντόναλντ Τραμπ. Ωστόσο, δεν είναι σαφές σε ποιο βαθμό αυτές οι ανακριβείς απαντήσεις από το Bing και άλλα chatbot AI θα μπορούσαν να επηρεάσουν τα πραγματικά εκλογικά αποτελέσματα.
Ο ειδικός εργαλείων τεχνητής νοημοσύνης, Amin Ahmad, αναγνωρίζει ότι η εσφαλμένη αναφορά των πηγών που αναφέρονται μπορεί να συμβεί σε κάποιο βαθμό, αλλά ένα ποσοστό σφάλματος 30% για ερωτήσεις που σχετίζονται με τις εκλογές είναι υψηλότερο από το αναμενόμενο. Ενώ ο Ahmad πιστεύει ότι οι εξελίξεις στα μοντέλα AI θα μειώσουν τελικά την πιθανότητα κατασκευής, τα ευρήματα από τους μη κερδοσκοπικούς οργανισμούς εγείρουν βάσιμες ανησυχίες. Ο Ahmad παραδέχεται προσωπικά ότι είναι απίθανο να κάνει κλικ στην αρχική ιστορία όταν του παρουσιάζονται αριθμοί δημοσκόπησης που αναφέρονται από chatbots AI.