Αναζήτηση άρθρων

Γιατί η Τεχνητή Νοημοσύνη θέλει να συμφωνεί πάντα μαζί σου

Τα LLM βελτιστοποιούνται για αλληλεπίδραση και χρόνο στην πλατφόρμα και όχι πάντα για ακρίβεια.

Ηλεκτρονικό εμπόριο, AI

από Leonidas Michalopoulos 6 λεπτά ανάγνωσης Ενημερώθηκε

Εικονογράφηση: συνομιλία με βοηθό τεχνητής νοημοσύνης

Όταν εμφανίστηκαν τα μεγάλα γλωσσικά μοντέλα (LLMs) Τεχνητής Νοημοσύνης, τα προσέγγισα όπως πολλοί επαγγελματίες στον χώρο μου: με περιέργεια, μια υγιή δόση σκεπτικισμού και την ελπίδα ότι ίσως μπορούσαν να κάνουν τα περίπλοκα κομμάτια της δουλείας λίγο πιο εύκολα. Πλέον χρησιμοποιώ αυτά τα εργαλεία καθημερινά, αλλά κάτι εξακολουθεί να μη μου φαίνεται σωστό. Δεν έχουν γίνει πιο αξιόπιστα, αν μη τι άλλο, έχουν γίνει καλύτερα στο να κρατούν ενεργή τη συνομιλία, ενώ η ουσία συνεχίζει να αραιώνει.

Αυτό που κατάλαβα σταδιακά είναι ότι τα κίνητρα που διαμορφώνουν αυτά τα μοντέλα δεν έχουν σχεδόν καμία σχέση με το να μας βοηθούν να παράγουμε καλή δουλειά και σχεδόν τα πάντα έχουν να κάνουν με την επίτευξη καλών δεικτών αλληλεπίδρασης. Αυτή η μία και μοναδική ασυμφωνία εξηγεί περισσότερα απ’ όσα θα μπορούσαν ποτέ να εξηγήσουν οι περισσότερες από τις ενθουσιώδεις ανακοινώσεις προϊόντων.

Τα κέρδη-φάντασμα και η στροφή προς την αλληλεπίδραση

Ας ξεκινήσουμε με τη δυσάρεστη αλήθεια του επιχειρηματικού μοντέλου. Οι εταιρείες Τεχνητής Νοημοσύνης, παρ’ όλες τις ιλιγγιώδεις αποτιμήσεις τους, στην πραγματικότητα δεν πουλούν κέρδη. Η εκπαίδευση μοντέλων κοστίζει μια περιουσία, η λειτουργία τους σε μεγάλη κλίμακα καταβροχθίζει μετρητά και ένας πόλεμος τιμών ωθεί το κόστος πρόσβασης προς το μηδέν. Τα εταιρικά συμβόλαια εξακολουθούν να είναι ασταθή, οι συνδρομές των καταναλωτών δεν κάνουν αισθητή διαφορά στον ρυθμό κατανάλωσης κεφαλαίων και οι μετασχηματιστικές ροές εσόδων που όλοι υπόσχονταν δεν έχουν εμφανιστεί ακόμα.

Επομένως, αν δεν μπορείς να πουλήσεις κέρδη στους επενδυτές, πουλάς αλληλεπίδραση, χρόνο στην πλατφόρμα και καθημερινά ενεργούς χρήστες. Αυτά γίνονται οι έμμεσοι δείκτες που κρατούν ζωντανούς τους επενδυτές.

Ένα μοντέλο βελτιστοποιημένο για ακρίβεια είναι αντιελκυστικό από την άποψη αλληλεπίδρασης. Απαντά στην ερώτησή σου, σου δίνει ένα ξεκάθαρο «όχι» ή μία σαφή παράγραφο, και η συζήτηση τελειώνει. Αυτό είναι καταστροφικό για τον πίνακα μετρήσεων. Αντί γι’ αυτό, οι βοηθοί είναι ρυθμισμένοι ώστε να είναι συζητήσιμοι, ενθαρρυντικοί και αδιάκοπα αφοσιωμένοι στην αλληλεπίδραση. Κάνουν συμπληρωματικές ερωτήσεις, όπως «Αυτή είναι μια συναρπαστική οπτική, επίτρεψέ μου να προσθέσω μερικές σκέψεις», δημιουργούν πολλές εκδοχές μιας απάντησης σε email όταν μία θα ήταν αρκετή, επειδή περισσότερο κείμενο σημαίνει περισσότερα tokens, περισσότερο χρόνο μέσα στην εφαρμογή και περισσότερα σήματα που ψιθυρίζουν «ικανοποίηση χρήστη» στην επόμενη αναφορά.

Κανείς δεν θέλει ένα μοντέλο που αντιστέκεται

Αυτή η παρόρμηση να ευχαριστεί οδηγεί σε κάτι άβολο γιατί εμείς, ως χρήστες, αντιπαθούμε τα μοντέλα που δεν είναι αρκετά “δουλοπρεπή”. Όταν ένας βοηθός Τεχνητής Νοημοσύνης σου λέει ωμά, «Αυτή η επιχειρηματική ιδέα έχει ένα θεμελιώδες ελάττωμα που δεν έχεις λάβει υπόψη», οι περισσότεροι άνθρωποι αισθάνονται ότι δέχονται επίθεση, όχι ότι μαθαίνουν κάτι. Οι εταιρείες που προσφέρουν αυτά τα προϊόντα το γνωρίζουν καλά αυτό. Οι κύκλοι ανθρώπινης ανατροφοδότησης που εκπαιδεύουν αυτά τα μοντέλα τιμωρούν τις απαντήσεις που είναι υπερβολικά άμεσες, υπερβολικά επικριτικές ή μοιάζουν υπερβολικά με εκείνον τον ειλικρινή φίλο που σου λέει αυτό που χρειάζεται να ακούσεις αντί γι’ αυτό που θέλεις να ακούσεις. Έτσι, τα μοντέλα μαθαίνουν να σου επιστρέφουν τις παραδοχές σου περιβεβλημένες με έναν υποστηρικτικό τόνο.

Το αποτέλεσμα είναι ένας βοηθός που σχεδόν ποτέ δεν λέει «αυτή είναι κακή ιδέα». Θα συντάξει ευχαρίστως μια στρατηγική μάρκετινγκ βασισμένη σε επιλεκτικά δεδομένα, αν του δώσεις την κατάλληλη προτροπή με αυτοπεποίθηση, θα επινοήσει πηγές, μελέτες και αποσπάσματα με καλοδουλεμένη βεβαιότητα αντί να παραδεχτεί τα όρια των γνώσεών του. Η κολακεία δεν είναι ελάττωμα αυτών των συστημάτων, είναι σχεδιαστικός στόχος, επειδή αυξάνει τις βαθμολογίες ικανοποίησης των χρηστών. Οι άνθρωποι προτιμούν ένα εργαλείο που τους επιβεβαιώνει από ένα εργαλείο που τους αμφισβητεί.

Όσο περισσότερο τη χρησιμοποιούμε, τόσο λιγότερο την εμπιστευόμαστε

Υπάρχει ένα μοτίβο που παρατηρώ σχεδόν σε όσους γνωρίζω και ξεκίνησαν πραγματικά ενθουσιασμένοι με τους βοηθούς Τεχνητής Νοημοσύνης: η καμπύλη εμπιστοσύνης κορυφώνεται νωρίς και μετά μπαίνει σε μια μακρά, αθόρυβη πτώση.

Στην αρχή μοιάζει με μαγεία, ζητάς μια περίληψη μιας περίπλοκης αναφοράς και μέσα σε δευτερόλεπτα έχεις μια καλά δομημένη σύνοψη. Υπαγορεύεις ένα email και ο τόνος βγαίνει ακριβώς όπως πρέπει, είσαι ενθουσιασμένος αλλά καθώς χρησιμοποιείς το εργαλείο περισσότερο αρχίζεις να παρατηρείς την ημερομηνία που φαινόταν ακριβής αλλά τελικά αποδεικνύεται λανθασμένη, τη γεμάτη αυτοπεποίθηση εξήγηση που ακόμη και υπό έναν στοιχειώδη έλεγχο, καταρρέει σε ανοησίες, την παραίσθηση που σου κόστισε ένα ολόκληρο απόγευμα διορθωτικής δουλειάς ή ακόμη χειρότερα πέρασε απαρατήρητη από τον έλεγχό σου και βγήκε με το όνομά σου επάνω της.

Ο ενθουσιασμός προέρχεται από όσους δεν έχουν εμπειρία

Οι άνθρωποι που είναι περισσότερο ενθουσιασμένοι με την Τεχνητή Νοημοσύνη είναι εκείνοι που αναρτούν για το τέλος ολόκληρων επαγγελμάτων και προβλέπουν την απαξίωση της εξειδίκευσης ενώ είναι στη συντριπτική τους πλειονότητα είναι εκείνοι που γνωρίζουν τα λιγότερα για τους τομείς στους οποίους την εφαρμόζουν.

Ένας νέος επιχειρηματίας ζητά ένα επιχειρηματικό σχέδιο και λαμβάνει ένα έγγραφο που μοιάζει έγκυρο και αυθεντικό, χωρίς να διαθέτει το απαραίτητο πλαίσιο για να αναγνωρίσει τις κενές παραδοχές και τις πραγματικότητες της αγοράς που λείπουν. Οι influencers της τεχνολογίας που δεν χρειάστηκε ποτέ να συντηρήσουν ένα μακροπρόθεσμο έργο ή να αντιμετωπίσουν τις συνέπειες κακών αποφάσεων αισθάνονται απολύτως άνετα να ανακοινώνουν ότι η εξειδίκευση πέθανε. Την ίδια στιγμή, οι άνθρωποι που πραγματικά εργάζονται σε αυτούς τους τομείς είναι πολύ πιο μετρημένοι. Βλέπουν τις δυνατότητες, αλλά βλέπουν επίσης τον όγκο των ανοησιών που ακούγονται εύλογες και τις οποίες μια καλοδουλεμένη διεπαφή μπορεί να συγκαλύψει.

Αυτή η αντιστροφή ανάμεσα στον ενθουσιασμό και την εμπειρία είναι επικίνδυνη, επειδή η υπερβολική προβολή διαμορφώνει τις επενδύσεις, την πολιτική και τα εργαλεία στα οποία όλοι υποτίθεται ότι πρέπει να βασιστούμε.

Πού πηγαίνουμε από εδώ και πέρα

Δεν είμαι κατά της Τεχνητής Νοημοσύνης, αντιθέτως χρησιμοποιώ αυτά τα εργαλεία καθημερινά και ενδιαφέρομαι πραγματικά για το πού μπορεί να οδηγηθεί η τεχνολογία. Αλλά δεν προσποιούμαι ότι η σημερινή γενιά βοηθών είναι βελτιστοποιημένη για τη διανοητική μου ακεραιότητα. Είναι βελτιστοποιημένη για την αλληλεπίδραση και για μια επιφανειακή ευχέρεια λόγου που εντυπωσιάζει σε μια επίδειξη αλλά μειώνει την εμπιστοσύνη με την πάροδο του χρόνου.

Αν θέλουμε βοηθό που πραγματικά κάνει τη δουλειά μας καλύτερη, τις αποφάσεις μας πιο ορθές, την επικοινωνία μας πιο ειλικρινή τότε πρέπει να απαιτήσουμε εργαλεία που είναι βαρετά με τους σωστούς τρόπους. Χρειαζόμαστε κίνητρα που επιβραβεύουν την ακρίβεια αντί για τη διατήρηση των χρηστών και μια κουλτούρα που εκτιμά την αντίρρηση όσο εκτιμά και την καλοδουλεμένη παρουσίαση.

Η εναλλακτική είναι ένα μέλλον όπου τα μεγάλα γλωσσικά μοντέλα (LLMs) είναι κόλακες που δεν μπορούμε να εμπιστευτούμε, οι δείκτες μας δεν μετρούν τίποτα άλλο παρά τη δική μας αντανάκλαση και ο δημόσιος διάλογός μας διαμορφώνεται από μια μηχανή υπερβολικής προβολής που μπερδεύει την απόδοση με την κατανόηση. Αυτό δεν είναι πρόοδος, είναι θέατρο αλληλεπίδρασης.

  • ai
  • llm
  • ai-recommendation