Τι είναι το OpenAI Project Q*; – Θα μπορούσε ενδεχομένως να αποτελέσει απειλή για την ανθρωπότητα;

Με την ηγεσία του OpenAI στο χάος, εδώ είναι όλα όσα πρέπει να γνωρίζετε για το μυστικό έργο AGI των

εταιρειών.

Καθώς η σκόνη εξακολουθεί να πέφτει μετά το τελευταίο δράμα του OpenAI, εμφανίστηκε μια επιστολή από αρκετούς ερευνητές του προσωπικού που αναφέρουν ανησυχίες για ένα υπό ανάπτυξη μοντέλο υπερπληροφορίας AI που θα μπορούσε ενδεχομένως να αποτελέσει απειλή για την ανθρωπότητα, σύμφωνα με άτομα κοντά στην πηγή. Η επιστολή που δεν είχε αποκαλυφθεί προηγουμένως είναι κατανοητό ότι ήταν ο πραγματικός λόγος για τον οποίο ο Sam Altman απολύθηκε  από την εταιρεία.

Το μοντέλο, γνωστό εσωτερικά ως Project Q*, θα μπορούσε να αντιπροσωπεύει μια σημαντική ανακάλυψη στην επιδίωξη της εταιρείας για την τεχνητή γενική νοημοσύνη (AGI) – έναν εξαιρετικά αυτόνομο κλάδο της υπερνοημοσύνης AI ικανός να αθροίζει τη μάθηση και να ξεπερνά τους ανθρώπους στις περισσότερες εργασίες. Και ανησυχούσατε μήπως το ChatGPT θα πάρει όλες τις δουλειές μας;

Με τον Sam Altman τώρα σταθερά πίσω στην εταιρεία και ένα νέο διοικητικό συμβούλιο OpenAI, εδώ είναι όλες οι λεπτομέρειες του Project Q*, καθώς και οι πιθανές επιπτώσεις του AGI στη μεγαλύτερη εικόνα.

Τι είναι το Project Q* AGI;

Το Project Q* – προφέρεται «Q-Star» – αναφέρεται σε ένα νέο μοντέλο τεχνητής νοημοσύνης που αναπτύσσεται από την εταιρεία παραγωγής τεχνητής νοημοσύνης και τον ιδιοκτήτη του ChatGPT OpenAI .

Σύμφωνα με ανθρώπους κοντά στην πηγή, το Q* θα μπορούσε να σηματοδοτήσει ένα σημαντικό άλμα προς τα εμπρός στον τομέα της τεχνητής νοημοσύνης βελτιώνοντας ριζικά τη λογική της τεχνητής νοημοσύνης και φέρνοντας την εταιρεία πιο κοντά σε μια σημαντική ανακάλυψη στην ανάπτυξη του AGI.

Σε αντίθεση με τα τρέχοντα μοντέλα παραγωγής τεχνητής νοημοσύνης , τα οποία είναι σε θέση να δημιουργούν απαντήσεις με βάση τις πληροφορίες που έχει μάθει προηγουμένως, το AGI είναι ένα αυτόνομο σύστημα που μπορεί να εφαρμόσει το λόγο στις αποφάσεις, παρέχοντάς του δυνατότητες επίλυσης προβλημάτων σε ανθρώπινο επίπεδο.

Ενώ το AGI δεν έχει ακόμη ολοκληρωθεί πλήρως, πολλοί ειδικοί πιστεύουν ότι η τεχνολογία θα είναι επίσης ικανή για αθροιστική μάθηση, ένα άλλο χαρακτηριστικό της ανθρώπινης γνώσης που θα μπορούσε να της δώσει τη δύναμη να βελτιώνεται εκθετικά.

Αρκετές πηγές ισχυρίζονται ότι το Q*’s μπόρεσε να επιδείξει αυτά τα χαρακτηριστικά κατά την επίλυση μαθηματικών προβλημάτων. Χάρη στην τεράστια υπολογιστική ισχύ του μοντέλου, το Q* μπόρεσε να ξεπεράσει τους μαθητές του δημοτικού σχολείου, υπονοώντας ότι οι συλλογιστικές του ικανότητες και οι γνωστικές του ικανότητες αντικαθιστούν τις λειτουργίες της τρέχουσας τεχνολογίας AI.

Δεν είναι σαφές πόσο καιρό το Project Q* βρίσκεται υπό ανάπτυξη και ποιες μπορεί να είναι οι εφαρμογές του, αλλά το OpenAI ειδοποίησε τα μέλη του προσωπικού και τα μέλη του διοικητικού συμβουλίου για το έργο Q* πριν από τα γεγονότα του περασμένου Σαββατοκύριακου.

Οι ερευνητές του OpenAI εκφράζουν ηθικές ανησυχίες σχετικά με το έργο Q*

Ενώ ο Διευθύνων Σύμβουλος του OpenAI Sam Altman αισθάνεται σίγουρος ότι η τεχνολογία AGI θα οδηγήσει την καινοτομία προς τα εμπρός, αρκετοί ερευνητές έσπευσαν να αναφέρουν τους πιθανούς κινδύνους του Project Q*.

Αφού οι ερευνητές ανακάλυψαν το έργο, έγραψαν μια επιστολή στο διοικητικό συμβούλιο του OpenAI, προειδοποιώντας τους για τον πιθανό κίνδυνο του ισχυρού αλγόριθμου για την ανθρωπότητα. Συγκεκριμένες ανησυχίες σχετικά με την ηθική της τεχνητής νοημοσύνης που σημειώθηκαν στην επιστολή δεν αποκαλύφθηκαν, αλλά οι προειδοποιήσεις ήταν αρκετά προαισθαντικές ώστε το διοικητικό συμβούλιο να απολύσει τον Άλτμαν από τη θέση του ως Διευθύνοντος Συμβούλου την περασμένη Παρασκευή.

Μετά τη σοκαριστική αποχώρηση του Άλτμαν, η οποία αρχικά θεωρήθηκε ότι οφειλόταν στην «κακή επικοινωνία», βρήκε μια νέα θέση στη Microsoft. Αυτή η ενέργεια ώθησε 700 από τα 770 μέλη του προσωπικού του OpenAI να απειλήσουν να κάνουν το ίδιο εάν ο Διευθύνων Σύμβουλος δεν αποκατασταθεί στη θέση του αρχηγού των νεοφυών επιχειρήσεων.

Με την εταιρεία να κινδυνεύει να καταρρεύσει, το διοικητικό συμβούλιο του OpenAI αναγκάστηκε να επαναδιορίσει τον Altman στην κορυφαία θέση – με αποτέλεσμα μια μαζική αναθεώρηση της επιτροπής της εταιρείας και τονίζοντας τις βαθιές διαφορές μεταξύ της ηγεσίας της.

Τώρα με τον Altman πίσω στο τιμόνι και το Project Q* πιθανόν να πάρει το πράσινο φως, τι σημαίνει αυτό για όσους βρίσκονται στο κάτω μέρος της τροφικής αλυσίδας AI;