Google Earth: Απέσυρε την παραγωγή εικόνων με AI λόγω κινδύνου παραπληροφόρησης

Ο τεχνολογικός γίγαντας Google έκανε πίσω σε μία από τις πιο φιλόδοξες κινήσεις του: την ενσωμάτωση γενετικής τεχνητής νοημοσύνης στο Google Earth. Η λειτουργία, που επέτρεπε τη δημιουργία προσαρμοσμένων εικόνων από δορυφορικές όψεις και τρισδιάστατα μοντέλα του πλανήτη, απενεργοποιήθηκε προσωρινά μετά από μόλις 24 ώρες λειτουργίας. Ο λόγος: η ταχεία εξάπλωση παραποιημένων εικόνων που έδειχναν φανταστικά σενάρια σε πραγματικά μέρη, προκαλώντας ένα κύμα ανησυχίας για το ενδεχόμενο χρήσης τους σε καμπάνιες παραπληροφόρησης.

Το περιεχόμενο αυτού του σεναρίου δημιουργείται αυστηρά για εκπαιδευτικούς σκοπούς. Η χρήση γίνεται με δική σας ευθύνη.

Το εργαλείο, το οποίο βασιζόταν στο μοντέλο Nano Banana 2, κυκλοφόρησε στις αρχές Αυγούστου με την υπόσχεση να «ξαναφανταστεί τον πραγματικό κόσμο». Οι χρήστες μπορούσαν να κάνουν ζουμ σε οποιοδήποτε σημείο του πλανήτη, να γράψουν μια εντολή και να λάβουν αμέσως μια μετασχηματισμένη εικόνα. Ωστόσο, η δημιουργική ελευθερία μετατράπηκε γρήγορα σε πρόβλημα όταν άρχισαν να κυκλοφορούν αναπαραστάσεις του Πύργου του Άιφελ σε ερείπια, μιας τεράστιας τρύπας που καταβρόχθιζε την Μεγάλη Πυραμίδα της Γκίζας ή ρωσικών τανκς που διέσχιζαν τους δρόμους του Κιέβου. Αυτές οι εικόνες, που μιμούνταν με ακρίβεια την εμφάνιση δορυφορικών φωτογραφιών, εντοπίστηκαν από το BBC, το οποίο κατάφερε να εξαπατήσει το σύστημα ώστε να τις χαρακτηρίσει κάποιες από αυτές αυθεντικές.

Ένα μέτρο για την προστασία της εμπιστοσύνης στην υπηρεσία

Μπροστά στο μέγεθος του προβλήματος, η Google εξέδωσε επίσημη ανακοίνωση εξηγώντας πως οι παραγόμενες εικόνες δεν προορίζονταν να δημοσιευτούν στην κύρια χαρτογραφική βάση δεδομένων και πως περιλάμβαναν υδατογράφημα για να πιστοποιήσουν τη συνθετική τους προέλευση. Παρόλα αυτά, η εταιρεία αναγνώρισε πως η λειτουργία θα μπορούσε να «παραβιάζει τις πολιτικές χρήσης» και πως ήταν αναγκαίο να «εφαρμοστούν αυστηρότερα μέτρα ασφαλείας» πριν την επανενεργοποίησή της. Η απόφαση ελήφθη για να διατηρηθεί η αξιοπιστία μιας πλατφόρμας που χρησιμοποιείται από γεωχωρικούς επαγγελματίες, κυβερνήσεις και εκατομμύρια χρήστες σε όλο τον κόσμο.

Το περιστατικό έφερε στο φως ένα όλο και πιο πιεστικό πρόβλημα στην ψηφιακή εποχή: τη δυσκολία να ξεχωρίσεις ανάμεσα σε πραγματικές και παραγόμενες από AI εικόνες. Εργαλεία όπως το MidJourney, το DALL-E 3 ή το Grok έχουν ήδη αποδείξει την ικανότητά τους να δημιουργούν υπερρεαλιστικό περιεχόμενο, αλλά η περίπτωση του Google Earth προσθέτει μια επιπλέον στρώση κινδύνου τοποθετώντας αυτές τις εικόνες σε ακριβείς γεωγραφικές συντεταγμένες. Αυτό σημαίνει πως ένας χρήστης θα μπορούσε να φτιάξει μια εικόνα μιας φυσικής καταστροφής ή μιας στρατιωτικής επίθεσης σε μια συγκεκριμένη τοποθεσία και να την κυκλοφορήσει σαν να επρόκειτο για πραγματικό γεγονός, με όλες τις συνέπειες που αυτό συνεπάγεται. Μπορείς να διαβάσεις περισσότερα για τους κινδύνους των ψηφιακών απατών στον οδηγό μας για το πώς λειτουργούν οι απάτες βιντεοκλήσεων με AI.

Το προηγούμενο της παραπληροφόρησης με AI

Δεν είναι η πρώτη φορά που η γενετική τεχνητή νοημοσύνη προκαλεί συζητήσεις. Το 2023, έγιναν viral ψεύτικες εικόνες του Ντόναλντ Τραμπ να συλλαμβάνεται ή του Πάπα Φραγκίσκου με αστική αισθητική, δημιουργημένες με το MidJourney. Κυκλοφόρησε επίσης ένα παραποιημένο βίντεο του Ουκρανού προέδρου Βολοντίμιρ Ζελένσκι να ζητά την παράδοση των στρατευμάτων του. Αυτές οι περιπτώσεις αναδεικνύουν πως το πρόβλημα δεν είναι μόνο τεχνικό, αλλά και κοινωνικό: η ταχύτητα με την οποία μοιράζονται τέτοιου είδους περιεχόμενα στα μέσα κοινωνικής δικτύωσης δυσκολεύει τον διαψευσμό τους και ενισχύει τον αντίκτυπό τους. Στη συγκεκριμένη περίπτωση του Google Earth, η εταιρεία έχει ανακοινώσει πως θα εργαστεί για την ενσωμάτωση πιο αυστηρών φίλτρων και συστημάτων ασφαλείας πριν επανενεργοποιήσει τη λειτουργία.

Αν και δεν έχει δοθεί συγκεκριμένη ημερομηνία, αναμένεται η νέα έκδοση να περιλαμβάνει σαφέστερους περιορισμούς στους τύπους εικόνων που μπορούν να παραχθούν και πιο ενδελεχή επαλήθευση των περιεχομένων που επιχειρούν να παρακάμψουν τις πολιτικές χρήσης. Το ερώτημα που παραμένει στον αέρα είναι αν αυτές οι αλλαγές θα είναι αρκετές ώστε να αποτραπεί η χρήση του εργαλείου για κακόβουλους σκοπούς. Το επεισόδιο λειτούργησε ως υπενθύμιση πως η AI, αν και προσφέρει τεράστιες δημιουργικές δυνατότητες, πρέπει να διαχειρίζεται με υπευθυνότητα. Οι τεχνολογικές εταιρείες έχουν την υποχρέωση να προλαμβάνουν τις καταχρήσεις των προϊόντων τους, ειδικά όταν αυτά μπορούν να επηρεάσουν την δημόσια αντίληψη πραγματικών γεγονότων. Προς το παρόν, οι χρήστες του Google Earth θα πρέπει να αρκεστούν στις παραδοσιακές όψεις του πλανήτη, όσο η εταιρεία αποφασίζει πώς θα ανακτήσει τη λειτουργία χωρίς να θέτει σε κίνδυνο την αξιοπιστία της πλατφόρμας. Για το πώς η Google εξελίσσει την τεχνητή νοημοσύνη σε άλλα προϊόντα, δες το αφιέρωμά μας για το Google Gemini και Pixel.