Το κορίτσι που δεν ήταν εκεί
Ένας φίλος του παρουσιαστή τεχνολογίας Spencer Kelly σάρωσε παλιές οικογενειακές φωτογραφίες και ζήτησε από το Gemini να χρωματίσει μία. Δέκα δευτερόλεπτα μετά, το αποτέλεσμα ήταν υπέροχο: φυσικοί τόνοι δέρματος, λογική εικασία για τα ρούχα. Είχε επίσης στολίσει το δωμάτιο για Χριστούγεννα, πρόσθεσε ένα ρολόι στον τοίχο, και έβαλε ένα καινούργιο πρόσωπο στη μέση της εικόνας. «Ποιος στην ευχή είναι αυτός;» ρωτά. Η άλλη του θεωρία, ειπωμένη ως αστείο: ίσως το κοριτσάκι να ήταν εκεί από την αρχή.
Υπέρ- Ο χρωματισμός και η αποκατάσταση είναι πραγματικά χρήσιμα, και εδώ το αποτέλεσμα ήταν τόσο καλό ώστε οι προσθήκες περνούσαν εύκολα απαρατήρητες· ακριβώς γι' αυτό αξίζει το παράδειγμα.
- Η εξήγηση είναι απλή και γενικεύεται: το μοντέλο είδε ένα κενό και το γέμισε με κάτι στατιστικά πιθανό.
- Είναι η ίδια κίνηση που κάνει ένα γλωσσικό μοντέλο με το κείμενο. Ρώτα το για μια εργασία που δεν υπάρχει και ξέρει ακριβώς πώς μοιάζει μια παραπομπή: συγγραφείς, έτος, περιοδικό, σελίδες. Έχει μάθει το κοστούμι. Η βεβαιότητα για το επόμενο token δεν είναι βεβαιότητα για τον κόσμο.
- Μια παραπομπή που λείπει και ένα πρόσωπο που λείπει είναι το ίδιο κενό, γεμισμένο με τον ίδιο τρόπο. Αλλάζει μόνο το μέσο. Η θεμελίωση με αναζήτηση και εργαλεία το περιορίζει, δεν το εξαλείφει.
Η γνώμη μαςΓια όποιον ψηφιοποιεί μνήμη, αρχεία, μουσεία, συλλόγους τοπικής ιστορίας, ένα κουτί με φωτογραφίες στο σπίτι: μια εικόνα αποκατεστημένη με ΤΝ δεν είναι καλύτερο αντίγραφο του πρωτοτύπου, είναι νέα εικόνα που του μοιάζει. Κράτα το πρωτότυπο ανέγγιχτο, σήμανε το παράγωγο ως χρωματισμένο με ΤΝ στο όνομα αρχείου και στην καταλογογράφηση, σύγκρινε δίπλα δίπλα πριν το μοιραστείς, και ποτέ μην το εκλάβεις ως τεκμήριο για το ποιος ήταν στο δωμάτιο. Αν μια τέτοια εικόνα δημοσιευτεί και μπορεί να περάσει ως αυθεντική, ισχύουν οι κανόνες διαφάνειας της ΕΕ για παραποιημένες εικόνες. Δεν είναι νομική συμβουλή· ο πρακτικός κανόνας είναι απλούστερος: όταν μια μηχανή γεμίζει ένα κενό, γράψε ότι το έκανε.
Πηγή: «This is why you shouldn't trust generative AI, in one photo» — Spencer Kelly (TikTok, 22/9/2026)
← Όλα τα Focus posts