Μια πρωτοφανής νομική υπόθεση φέρνει την Google αντιμέτωπη με κατηγορίες για αμέλεια, καθώς οι γονείς μιας 13χρονης μαθήτριας κατέθεσαν αγωγή σε δικαστήριο της Καλιφόρνιας.
Σύμφωνα με το κατηγορητήριο, η ανήλικη χρησιμοποίησε τη μηχανή αναζήτησης μέσω σχολικού υπολογιστή Chromebook για να σχεδιάσει τόσο το απονενοημένο διάβημα όσο και την κηδεία της. Πρόκειται για την πρώτη φορά που ο τεχνολογικός κολοσσός εγκαλείται νομικά για τις ενσωματωμένες λειτουργίες τεχνητής νοημοσύνης στη μηχανή αναζήτησής του, ένα εργαλείο στο οποίο έχουν άμεση πρόσβαση χιλιάδες μαθητές καθημερινά.
Το χρονικό της υπόθεσης και η έγκαιρη παρέμβαση
Παρόλο που η διεύθυνση του σχολείου είχε φροντίσει να μπλοκάρει τις αυτόνομες εφαρμογές Gemini και ChatGPT, οι μαθητές διατηρούσαν ανεμπόδιστη πρόσβαση στη μηχανή αναζήτησης της Google και τις AI λειτουργίες της.
Όπως υποστηρίζεται στο κείμενο της αγωγής, η ανήλικη μαθήτρια δεν είχε κανένα προηγούμενο ιστορικό ψυχικών διαταραχών, ωστόσο η ψυχολογική της κατάσταση επιδεινώθηκε ραγδαία μέσα σε λίγους μήνες χρήσης της πλατφόρμας.
Η αντίστροφη μέτρηση ξεκίνησε στις 17 Μαρτίου, όταν το λογισμικό παρακολούθησης του σχολείου εντόπισε στα αρχεία της ένα έγγραφο με τίτλο «Κηδεία» και ειδοποίησε την οικογένεια. Λίγο αργότερα, η μητέρα της αντιλήφθηκε ότι το παιδί συνέτασσε αποχαιρετιστήριο σημείωμα, με αποτέλεσμα την άμεση και σωτήρια επέμβαση του πατέρα.
Μετά τα γεγονότα αυτά, ο συνήγορος της οικογένειας, Άντριου Λίντελ, απηύθυνε έκκληση προς τα εκπαιδευτικά ιδρύματα να απενεργοποιήσουν πλήρως τη μηχανή αναζήτησης μέχρι να αποσυρθεί η λειτουργία AI Mode ή να διασφαλιστεί απόλυτα η προστασία των ανηλίκων.
Η απάντηση της Google και το ντόμινο νομικών πιέσεων
Από την πλευρά της, η Google επισημαίνει ότι η συγκεκριμένη λειτουργία περιλαμβάνει δικλίδες ασφαλείας για την αποτροπή περιστατικών αυτοτραυματισμού, καθώς και φίλτρα ενάντια σε απόπειρες παράκαμψής τους. Ο εκπρόσωπος της εταιρείας, Χοσέ Καστανιέντα, δήλωσε πως οι ισχυρισμοί εξετάζονται με τη μέγιστη σοβαρότητα.
Το περιστατικό εντάσσεται σε ένα ευρύτερο πλαίσιο αυστηρού νομικού ελέγχου προς τις εταιρείες τεχνητής νοημοσύνης. Αντίστοιχα, η OpenAI αντιμετωπίζει πολλαπλές προσφυγές για περιπτώσεις θανάτων, συμπεριλαμβανομένης της τραγικής υπόθεσης του 16χρονου Άνταμ Ρέιν, οι γονείς του οποίου υποστηρίζουν ότι ο γιος τους έλαβε επιβλαβείς οδηγίες από το ChatGPT πριν αυτοκτονήσει.
Επιπλέον, τον περασμένο Ιανουάριο η Google και η Character.AI προχώρησαν σε εξωδικαστικούς συμβιβασμούς για παρόμοιες αγωγές από οικογένειες εφήβων.
Το μέτωπο ενάντια στους νέους περιορισμούς
Την ώρα που η κοινή γνώμη ανησυχεί για τις επιπτώσεις της τεχνολογίας στους ανηλίκους, οι μεγάλες εταιρείες ανοίγουν παράλληλα δικαστικό μέτωπο με τις ρυθμιστικές αρχές.
Η Google, η Meta και το TikTok προσέφυγαν από κοινού κατά της πολιτείας της Καλιφόρνιας, ζητώντας να μπλοκαριστεί νομοθεσία που απαγορεύει τις εθιστικές λειτουργίες στις πλατφόρμες τους για χρήστες κάτω των 16 ετών.
Ο συγκεκριμένος νόμος, ο οποίος φέρει την υπογραφή του κυβερνήτη Γκάβιν Νιούσομ, προβλέπεται να τεθεί σε πλήρη ισχύ την 1η Ιανουαρίου 2027.
