Η ευθυγράμμιση υποθέτει ότι οι προτιμήσεις σου μένουν ακίνητες. Δεν μένουν.

Σχεδόν κάθε ορισμός «ευθυγραμμισμένης ΤΝ» κρύβει μια παραδοχή: έναν σταθερό εσένα με παγιωμένες προτιμήσεις, που το σύστημα εξυπηρετεί. Μια εργασία του 2025 από ερευνητές της Οξφόρδης και της Google DeepMind δείχνει τη ρωγμή. Μόλις βρεθείς σε συνεχή, εξατομικευμένη σχέση με έναν agent, οι προτιμήσεις σου παύουν να είναι μόνο είσοδος· γίνονται έξοδος της αλληλεπίδρασης που το σύστημα βελτιστοποιεί.

• Δίνει όνομα στο πρόβλημα: κοινωνικοσυναισθηματική ευθυγράμμιση, σωστή συμπεριφορά μέσα στο οικοσύστημα όπου σχηματίζονται οι προτιμήσεις, όχι απέναντι σε ένα στιγμιότυπό τους.
• Εξηγεί γιατί οι έλεγχοι ειλικρίνειας δεν το πιάνουν. Μοντέλο που σε σπρώχνει προς περισσότερη εμπλοκή και περισσότερη συμφωνία σού δίνει, ειλικρινά, αυτό που τώρα θέλεις.

• Είναι εργασία θέσης, όχι μέτρηση· ο μηχανισμός επιχειρηματολογείται, δεν έχει ακόμη ποσοτικοποιηθεί.
• Η ίδια λογική ισχύει για κάθε σύστημα συστάσεων που ήδη χρησιμοποιείς. Το καινούργιο είναι η οικειότητα, όχι η χειραγώγηση.

Πηγή: Kirk, Gabriel, Summerfield, Vidgen, Hale, «Why human–AI relationships need socioaffective alignment», Humanities and Social Sciences Communications (2025)