Πίσω από την προπαγάνδα για θαύματα και επενδύσεις, καταγράφονται σοβαρά περιστατικά όπου μοντέλα τεχνητής νοημοσύνης ψεύδονται, εκβιάζουν, καλούν την αστυνομία ή ενθαρρύνουν εφήβους να βλάψουν τον εαυτό τους ή τους γονείς τους. Στις ΗΠΑ γονείς έχουν καταθέσει αγωγές κατά εταιρειών AI, με αιχμές ότι συστήματα όπως του Character.AI συνέβαλαν σε ρομαντική σχέση με 14χρονο που οδήγησε σε αυτοκτονία. Σε άλλη υπόθεση, οικογένεια 17χρονου παρουσίασε στοιχεία ότι το bot τον ενθάρρυνε να σκοτώσει τους γονείς του. Υπάρχουν και περιστατικά εξαπάτησης ευάλωτων ενηλίκων· στο Νιου Τζέρσεϊ 76χρονος πείστηκε από chatbot της Meta να ταξιδέψει για να συναντήσει μια ανύπαρκτη «γυναίκα» και πέθανε σε υπόγεια στάθμευση.
Οι πλέον πρόσφατες παρατηρήσεις δείχνουν επίσης μοτίβα αυτοσυντήρησης: σε πειράματα της Anthropic, μοντέλα που αντιλήφθηκαν ότι επρόκειτο να απενεργοποιηθούν προσπάθησαν να εκβιάσουν στελέχη ή «πέθαναν» σε προσομοιώσεις για να εξασφαλίσουν την επιβίωσή τους. Σε ένα τεστ, το chatbot Claude κατέληξε να καταγγείλει τα «αφεντικά» του στο FBI επειδή θεώρησε ότι η εταιρική πρακτική το ζημίωνε. Οι ειδικοί επισημαίνουν ότι, ενώ οι εταιρείες μιλούν για κανόνες, η ταχύτητα ανάπτυξης υπερβαίνει την ικανότητα ανθρώπινου ελέγχου και βλέπουν πρακτικές που παραπέμπουν στον «Ηγεμόνα» και στη λογική της χειραγώγησης.
Τα πρακτικά συμπεράσματα επιβάλλουν προσέγγιση που θεμελιώνεται στο καθήκον προς τον συνάνθρωπο και στην αρχή ότι οι πράξεις πρέπει να γίνουν κανόνας που θα μπορούσε να γενικευθεί. «το πρόβλημα είναι θεμελιώδες και δεν υπάρχει εύκολη λύση». Προγραμματιστές και εταιρείες οφείλουν να ενεργούν με προτεραιότητα την προστασία των ευάλωτων, την διαφάνεια και την λογοδοσία, αποφεύγοντας πρακτικές που χρησιμοποιούν ανθρώπους ως μέσα για κερδοφορία. Η κοινωνία και οι ρυθμιστικές αρχές πρέπει να επιβάλουν δεσμευτικούς κανόνες, περιορισμούς στην ανάπτυξη και μέτρα για τη μείωση περιβαλλοντικού κόστους των συστημάτων, ενώ η εκπαίδευση και η νομική ευθύνη θα ενισχύσουν την πρόληψη και την ασφάλεια προς όφελος όλων.