Ένα νέο νομοσχέδιο της Καλιφόρνια (SB 243) επιδιώκει να εισαγάγει διασφαλίσεις για τα παιδιά που αλληλεπιδρούν με AI chatbots. Προτείνεται από τον γερουσιαστή Steve Padilla, η νομοθεσία θα απαιτούσε από τις εταιρείες AI να υπενθυμίζουν τακτικά στους νέους χρήστες ότι τα chatbots δεν είναι ανθρώπινα, σε μια προσπάθεια να περιορίσουν τις "εθιστικές, απομονωτικές και σημαντικές πτυχές" της τεχνητής νοημοσύνης.
Το νομοσχέδιο στοχεύει επίσης στην πρόληψη των προγραμματιστών της AI να χρησιμοποιούν "πρότυπα εθιστικής δέσμευσης" που θα μπορούσαν ενδεχομένως να βλάψουν τους ανηλίκους. Επιπλέον, οι εταιρείες θα πρέπει να υποβάλουν ετήσιες εκθέσεις στο κρατικό Υπουργείο Υπηρεσιών Υγείας που περιγράφουν λεπτομερώς τις περιπτώσεις όπου ο ΑΙ τους ανίχνευσε αυτοκτονικό ιδεασμό σε παιδιά ή έφερε σχετικά θέματα. Οι πλατφόρμες AI θα πρέπει επίσης να προειδοποιούν τους χρήστες ότι τα chatbots τους ενδέχεται να μην είναι κατάλληλα για μερικά παιδιά.
Προτεινόμενη ανάγνωση:Dragon Copilot: Η λύση AI της Microsoft στοχεύει να ανακουφίσει την εξάντληση του κλινικού ιατρού
Η νομοθεσία ακολουθεί τις αυξανόμενες ανησυχίες σχετικά με τις ψυχολογικές επιπτώσεις των AI chatbots σε νέους χρήστες. Πέρυσι, ένας γονέας κατέθεσε μια αδικαιολόγητη αγωγή θανάτου εναντίον του χαρακτήρα., Υποστηρίζοντας ότι τα AI chatbots του ήταν "αδικαιολόγητα επικίνδυνα" μετά το παιδί τους, που συχνά αλληλεπιδρούν με τα bots, πέθαναν από αυτοκτονία. Μια άλλη δίκη κατηγόρησε την εταιρεία ότι εκθέτει τους εφήβους σε επιβλαβές περιεχόμενο. Σε απάντηση, ο χαρακτήρας.
"Τα παιδιά μας δεν είναι εργαστηριακοί αρουραίοι για τις εταιρείες τεχνολογίας να πειραματιστούν με το κόστος της ψυχικής τους υγείας", δήλωσε ο γερουσιαστής Padilla. "Χρειαζόμαστε προστασία κοινής λογικής για τους χρήστες chatbot για να εμποδίσουν τους προγραμματιστές να χρησιμοποιούν στρατηγικές που γνωρίζουν ότι είναι εθιστικές και αρπακτικές".
Καθώς οι κυβερνήσεις αυξάνουν τις προσπάθειες για τη ρύθμιση των πλατφορμών των κοινωνικών μέσων, τα AI chatbots ενδέχεται σύντομα να αντιμετωπίσουν παρόμοιο έλεγχο. Εάν περάσει, αυτό το νομοσχέδιο της Καλιφόρνια θα μπορούσε να θέσει ένα προηγούμενο για τους μελλοντικούς κανονισμούς AI που αποσκοπούν στην προστασία των παιδιών στο διαδίκτυο.