Τα μεγάλα γνωστικά μοντέλα, όπως το ChatGPT και το LLaMA, είναι διάσημα για τις άπταιστες και μερικές φορές ιδιαίτερα ανθρώπινες απαντήσεις τους. Όμως, έχουν γίνει γνωστά και για την παραγωγή λανθασμένων πληροφοριών, τις οποίες όμως παρουσιάζουν με απόλυτη σιγουριά. Τώρα, έχουμε μια νέα μελέτη που δείχνει πως ο τρόπος με τον οποίο επεξεργάζεται η AI τις πληροφορίες, έχει τρομερές ομοιότητες με τον τρόπο που λειτουργούν ορισμένες διαταραχές του ανθρωπίνου εγκεφάλου.
Ερευνητές από το Πανεπιστήμιο του Τόκιο μελέτησαν τη δυναμική των εσωτερικών σημάτων, σε μεγάλα γλωσσικά μοντέλα και έκαναν συγκρίσεις με πρότυπα εγκεφαλικής δραστηριότητας που παρατηρούσε σε άτομα με αφασία Wemicke, μια πάθηση κατά την οποία τα άτομα μιλούν με έναν άπταιστο λόγο, αλλά συχνά χωρίς νόημα και με συγκεχυμένο τρόπο.
Στη μελέτη, οι ερευνητές χρησιμοποίησαν μια μέθοδο που ονομάζεται ανάλυση ενεργειακού τοπίου, ώστε να χαρτογραφήσουν τον τρόπο με τον οποίο οι πληροφορίες ταξιδεύουν τόσο στον ανθρώπινο εγκέφαλο όσο και στα συστήματα τεχνητής νοημοσύνης.
Και στις δύο περιπτώσεις, οι επιστήμονες βρήκαν ακανόνιστα ή άκαμπτα μοτίβα που περιόριζαν την ουσιαστική επικοινωνία, τόσο στην τεχνητή νοημοσύνη του ChatGPT όσο και στα άτομα με αφασία Wamicke. Αυτό που δείχνουν τα εν λόγω μοτίβα, είναι πως οι πληροφορίες ακολουθούν εσωτερικές διαδρομές, που κάνουν δύσκολη την πρόσβαση και την οργάνωση της σχετικής γνώσης.
Αυτή η μελέτη ρίχνει περισσότερο φως στον τρόπο με τον οποίο η AI επεξεργάζεται πληροφορίες. Αν και έχουν εκπαιδευτεί με τεράστιο όγκο δεδομένων, μοντέλα σαν το ChatGPT εμπίπτουν σε αυτό που οι επιστήμονες ονομάζουν εσωτερικούς βρόγχους. Αυτοί οι βρόγχοι ακούγονται συνεκτικοί, όμως παράγουν ανακριβείς και άχρηστες απαντήσεις.
Αυτό δεν συμβαίνει επειδή η Τεχνητή Νοημοσύνη δυσλειτουργεί, αλλά επειδή η εσωτερική της δομή μπορεί να μοιάζει με ένα είδος άκαμπτης επεξεργασίας προτύπων, παρόμοιο με αυτό που συμβαίνει στην αφασία Wemicke.
Τα ευρήματα, ωστόσο, έχουν επιπτώσεις πέρα από την απλή Τεχνητή Νοημοσύνη. Για τη νευροεπιστήμη, προτείνουν νέους τρόπους ταξινόμησης ή διάγνωσης της αφασίας, εξετάζοντας τον τρόπο με τον οποίο ο εγκέφαλος χειρίζεται εσωτερικά τις πληροφορίες. Με αυτό τον τρόπο, η τεχνητή νοημοσύνη μπορεί να δώσει έμμεσα, πολύ ενδιαφέροντα δεδομένα για την θεραπεία ιατρικών παθήσεων.
Για τους μηχανικούς της τεχνητής νοημοσύνης, τα δεδομένα αυτά αποτελούν μια σημαντική ανακάλυψη, που μπορεί να δώσει ένα σχέδιο δράσης για τα μελλοντικά γλωσσικά μοντέλα τεχνητής νοημοσύνης. Η κατανόηση των παραλληλισμών που κάνει η τεχνητή νοημοσύνη, μπορεί να είναι το κλειδί για τον σχεδιασμό πιο αξιόπιστων εργαλείων στο μέλλον, αλλά και στην εύρεση νέων θεραπειών για άτομα με εγκεφαλικές διαταραχές.
techmaniacs