Η Anthropic προειδοποιεί ότι η Τεχνητή Νοημοσύνη μπορεί σύντομα να ξεφύγει από τον ανθρώπινο έλεγχο και ζητά παγκόσμιο πάγωμα της ανάπτυξης

Τα μοντέλα Τεχνητής Νοημοσύνης βελτιώνονται με ταχείς ρυθμούς, τόσο γρήγορα που σύντομα ενδέχεται να μπορούν να αναπτύσσονται μόνα τους χωρίς ανθρώπινη συμμετοχή. Γι’ αυτό η «Anthropic» απευθύνει προειδοποίηση προς τον κλάδο της Τεχνητής Νοημοσύνης: πρέπει να κατασκευαστεί ένα «πεντάλ φρένου», αλλιώς οι εταιρείες κινδυνεύουν να χάσουν τον έλεγχο των δημιουργημάτων τους.

Τα συστήματα Τεχνητής Νοημοσύνης που μπορούν να εξελίσσονται μόνα τους, γνωστά ως συστήματα «πλήρους αναδρομικής αυτοβελτίωσης», μπορεί να έχουν τεράστιες δυνατότητες για την επιστήμη και την υγειονομική περίθαλψη, αλλά ενέχουν επίσης μεγάλους κινδύνους για την ανθρωπότητα, σύμφωνα με ανάρτηση που υπογράφουν η Μαρίνα Φαβάρο, επικεφαλής του Ινστιτούτου Anthropic, και ο Τζακ Κλαρκ, συνιδρυτής της «Anthropic».

«Η πλήρης αναδρομική αυτοβελτίωση ενδέχεται επίσης να αυξήσει τους κινδύνους απώλειας του ανθρώπινου ελέγχου επί των συστημάτων Τεχνητής Νοημοσύνης», έγραψαν.

«Αν τα συστήματα είναι ικανά να κατασκευάζουν πλήρως τους διαδόχους τους, οι τρόποι με τους οποίους τα ασφαλίζουμε, τα παρακολουθούμε και διαμορφώνουμε τη συμπεριφορά τους αποκτούν πολύ μεγαλύτερη σημασία».

Ο κλάδος βρίσκεται πολύ πιο κοντά στην αυτοβελτιούμενη Τεχνητή Νοημοσύνη από ό,τι αναμενόταν, προειδοποιούν.

Γι’ αυτό οι εταιρείες τεχνολογίας θα πρέπει να εξετάσουν το ενδεχόμενο επιβράδυνσης ή παύσης της ανάπτυξης συστημάτων Τεχνητής Νοημοσύνης αιχμής, ώστε να δοθεί χρόνος στους ερευνητές να κατανοήσουν καλύτερα τις πιθανές κοινωνικές βλάβες που θα μπορούσε να προκαλέσει η αυτοβελτιούμενη Τεχνητή Νοημοσύνη.

Οι ερευνητές θα πρέπει επίσης να δημιουργήσουν έναν μηχανισμό που να επιτρέπει την ανθρώπινη παρέμβαση σε περίπτωση που τα πράγματα ξεφύγουν, τόνισαν.

Σε συνέντευξή του στο CNN το βράδυ της Πέμπτης 04/06, ο Κλαρκ ζήτησε από τον κλάδο να εφοδιαστεί με ένα «πεντάλ φρένου».

«Όταν κοιτάζω κάτω στο αυτοκίνητο που οδηγούμε, το μόνο που έχω είναι ένα πεντάλ γκαζιού.

»Δεν έχω πεντάλ φρένου, και σίγουρα κάποια στιγμή στο μέλλον μπορεί να θέλουμε αυτή την επιλογή», δήλωσε στον Άντερσον Κούπερ.

Ο Κούπερ ανέφερε το παράδειγμα ταινιών επιστημονικής φαντασίας στις οποίες η Τεχνητή Νοημοσύνη εξεγείρεται και σκοτώνει ανθρώπους, και ρώτησε αν αυτό ανησυχεί τον Κλαρκ.

«Ναι, διαβάζουμε επιστημονική φαντασία και βλέπουμε ταινίες επιστημονικής φαντασίας κι εμείς εδώ, οπότε δεν μας διαφεύγει», απάντησε ο Κλαρκ.

Η αδυναμία επικύρωσης, επαλήθευσης και εμπιστοσύνης στη συμπεριφορά της Τεχνητής Νοημοσύνης αποτελεί σημαντικό κίνδυνο για την ανάπτυξή της, πρόσθεσε.

Η προειδοποίηση έρχεται μετά την υποβολή αίτησης από την «Anthropic» για αρχική δημόσια προσφορά μετοχών, μια κίνηση που θα μπορούσε να αντλήσει δεκάδες δισεκατομμύρια δολάρια από επενδυτές για την επιτάχυνση της κατασκευής κέντρων δεδομένων και υπολογιστών που απαιτούνται για την Τεχνητή Νοημοσύνη.

Η SpaceX, η οποία πέρα από τις δραστηριότητές της σε πυραύλους και δορυφόρους διαθέτει και τμήμα Τεχνητής Νοημοσύνης, πρόκειται να πραγματοποιήσει την επόμενη εβδομάδα αυτό που θα είναι η μεγαλύτερη αρχική δημόσια προσφορά που έχει καταγραφεί ποτέ, αντλώντας 75 δισεκατομμύρια δολάρια.

Η συνεργασία μεγάλων εταιρειών Τεχνητής Νοημοσύνης όπως η «Anthropic», η SpaceX και η OpenAI για τη δημιουργία μηχανισμών φρεναρίσματος μπορεί να φαίνεται αντίθετη με έναν ανταγωνιστικό κλάδο όπου διακυβεύονται δισεκατομμύρια αν όχι τρισεκατομμύρια δολάρια.

Όμως μια τέτοια συνεργασία είναι εφικτή, επέμεινε ο Κλαρκ.

«Το έχουμε ξανακάνει. Στην κορύφωση του Ψυχρού Πολέμου, υπό εξαιρετικά τεταμένες συνθήκες μεταξύ αντίπαλων χωρών, βρέθηκαν τρόποι να σταθεροποιηθούν πτυχές της κούρσας πυρηνικών εξοπλισμών», δήλωσε ο Κλαρκ στο CNN.

«Όλα αυτά έχουν γίνει στο παρελθόν σε άλλους τομείς, και ίσως χρειαστεί να τα κάνουμε και στον τομέα της Τεχνητής Νοημοσύνης».