Ο νομπελίστας Hinton προειδοποιεί για παραλήψεις στην ασφάλεια ανάπτυξης της τεχνητής νοημοσύνης

Ο Geoffrey E. Hinton, πρωτοπόρος στον τομέα της τεχνητής νοημοσύνης (ΤΝ), υπεύθυνος για την ανάπτυξη «νευρωνικών δικτύων», τιμήθηκε με το Νόμπελ 2024 μαζί με τον John J. Hopfield. Οι δύο επιστήμονες κέρδισαν το βραβείο για την πρωτοποριακή εργασία τους στη νοημοσύνη μηχανών, ανοίγοντας έτσι το δρόμο για έναν επαναστατικό νέο τρόπο χρήσης των υπολογιστών.

Ο Hinton μόλις πέρυσι είχε αποσπάσει την προσοχή της παγκόσμιας δημοσιότητας όταν έφυγε από την Google προειδοποιώντας το κοινό για τους πιθανούς κινδύνους των νέων συστημάτων ΤΝ. Παρομοίασε μάλιστα την επανάσταση της Τεχνητής Νοημοσύνης με τη Βιομηχανική Επανάσταση του δέκατου ένατου αιώνα, μόνο που αυτή τη φορά, δεν θα είναι οι φυσικές μας ικανότητες που θα υπερνικηθούν από τη μηχανή, αλλά η διάνοιά μας. Οι New York Times αναφέρουν,

«Θα είναι συγκρίσιμη με τη Βιομηχανική Επανάσταση», είπε. «Αντί να υπερβαίνει τους ανθρώπους σε σωματική δύναμη, θα ξεπεράσει τους ανθρώπους σε πνευματικές ικανότητες. Δεν έχουμε εμπειρία για το πώς είναι να έχεις πράγματα πιο έξυπνα από εμάς».

Οι συνέπειες της διαφημιστικής εκστρατείας της τεχνητής νοημοσύνης έχουν ήδη αποδειχθεί σημαντικές. Τα πάντα, από τις εκθέσεις πρωτοετών φοιτητών μέχρι και ολόκληρα περιοδικά, αποκαλύπτουν ότι η λογοκλοπή ChatGPT οφείλεται στα νευρωνικά δίκτυα που βοήθησε ο Hinton να γίνουν εφικτά πριν από περίπου πενήντα χρόνια. Στο μεταξύ, καλλιτέχνες και συγγραφείς έχουν συνενωθεί και έχουν καταθέσει μήνυση καταδικάζοντας την εισβολή περιεχομένου που δημιουργείται μέσω ΤΝ στη δημιουργική τους επικράτεια. Εν ολίγοις, οι ανησυχίες σχετικά με τα πνευματικά και τα καλλιτεχνικά δικαιώματα έχουν αξία.

Ένα αίτημα που απαιτεί προσοχή

Ο Hinton, σύμφωνα με τους New York Times,  πιστεύει ότι η κατάκτηση του Νόμπελ θα κάνει τους ανθρώπους να ακούν πιο προσεκτικά αυτά που λέει, συμπεριλαμβανομένων των προειδοποιήσεών του.

Με κάθε τεχνολογική εφεύρεση, προκύπτουν δυνατότητες και κίνδυνοι. Το ερώτημα τώρα είναι αν έχουμε κατανοήσει πλήρως το εύρος των επιπτώσεων της τεχνητής νοημοσύνης και αν έχουμε την ηθική ευθύνη να την χρησιμοποιήσουμε σωστά. Όσον αφορά την ανησυχία του Hinton σχετικά με τις μηχανές που ξεπερνούν την ανθρώπινη διάνοια, η κοινότητα της φιλοσοφίας του νου πρέπει να κάνει κάποιες βαθιές συζητήσεις σχετικά με το τι σημαίνει εξαρχής το να έχεις «διάνοια». Είναι ένας νοητικός συλλογισμός συγκρίσιμος με έναν υπολογιστικό αλγόριθμο; Είναι ο ανθρώπινος εγκέφαλος το ίδιο ντετερμινιστικός; Ή μήπως το επί μακρόν αμφισβητούμενο στοιχείο της ελεύθερης βούλησης διαμορφώνει τον τρόπο με τον οποίο πρέπει να κατανοήσει κανείς τη νοημοσύνη;

‘Ο Άλτμαν νοιάζεται περισσότερο για τα χρήματα’, λέει ο Hinton

Ο Hinton έκανε επίσης ένα σύντομο βίντεο ευχαριστώντας τους πρώην μαθητές του στο ταξίδι του προς το Νόμπελ, αλλά αφιέρωσε επίσης και χρόνο για να επικρίνει τον Sam Altman, Διευθύνοντα Σύμβουλο της εταιρίας OpenAI, ότι νοιάζεται λιγότερο για την ασφάλεια της τεχνητής νοημοσύνης (την οποία, όπως λέει ο Hinton, η OpenAI είχε αρχικά σκοπό να προωθήσει) και περισσότερα για τα κέρδη. Τον περασμένο Νοέμβριο, ο Altman εκδιώχθηκε από τη θέση του στο διοικητικό συμβούλιο της εταιρίας, αλλά ανέβηκε πάλι στην κορυφή της λίγες μέρες αργότερα.

Η ειδική σε τέτοια θέματα δημοσιογράφος Kylie Robison γράφει στο περιοδικό The Verge,

Η OpenAI ξεκίνησε με μια περίφημη αλτρουιστική αποστολή: να βοηθήσει την ανθρωπότητα να αναπτύξει γενική τεχνητή νοημοσύνη. Αλλά στην πορεία κατάφερε να γίνει μια από τις καλύτερα χρηματοδοτούμενες εταιρείες στο Silicon Valley. Τώρα, η ένταση μεταξύ αυτών των δύο στόχων φτάνει στα άκρα.

Η μάχη συνεχίζεται

Σύμφωνα με την έκθεση της Robison, οι υποψίες του Hinton για τον Altman είναι βάσιμες, με τρεις κορυφαίους υπαλλήλους της εταιρείας να έχουν αποχωρήσει τον τελευταίο χρόνο μετά την προσωρινή απόλυση του Altman. «Τι γίνεται λοιπόν το OpenAI;» ρωτάει η Ρόμπισον.

Όλα τα σημάδια δείχνουν μια συμβατική εταιρεία τεχνολογίας υπό τον έλεγχο ενός ισχυρού στελέχους της – ακριβώς η δομή που η ίδια κατασκευάστηκε για να αποφύγει.

Η μάχη της τεχνητής νοημοσύνης θα συνεχίσει να αντικατοπτρίζει την τάση μεγάλων τεχνολογικών εταιριών για εκρίζωση χρημάτων που προκαλούν ρύθμιση από κρατικούς μηχανισμούς, και, σε κάποιες ακραίες περιπτώσεις, ηθική αντίσταση. Όταν κάποιες start up  της τεχνητής νοημοσύνης επιτρέπουν σε νεκρούς να καταντούν chatbot, κάτι που συνέβη πρόσφατα μέσω της εταιρίας Character.AI, είναι καιρός να αρχίσει να αναρωτιέται κανείς πώς μπορούν να αποφευχθούν τέτοιες ηθικές παραβιάσεις. Μπορούν, δεδομένης της τεχνολογίας και της έλλειψης ορίων; Ακόμα κι αν ο Hinton προειδοποιεί για την τεχνολογία που ο ίδιος βοήθησε να δημιουργηθεί, θα τον ακούσουν και θα συμμορφωθούν άραγε οι γίγαντες της τεχνητής νοημοσύνης στο Silicon Valley;

Πηγή: Peter Biles στο περιοδικό Mind Matters, 10 Οκτωβρίου 2024