Μυστική διπλωματία ΗΠΑ-Κίνας για την ασφάλεια στην AI

Οι αμερικανικές εταιρείες τεχνητής νοημοσύνης OpenAI, Anthropic και Cohere έχουν εμπλακεί σε μυστική διπλωματία με Κινέζους εμπειρογνώμονες τεχνητής νοημοσύνης, εν μέσω κοινής ανησυχίας για το πώς η εν λόγω τεχνολογία μπορεί να διαδώσει παραπληροφόρηση και να απειλήσει την κοινωνική συνοχή.

Σύμφωνα με τα όσα αναφέρει δημοσίευμα των Financial Times, δύο συναντήσεις πραγματοποιήθηκαν στη Γενεύη τον Ιούλιο και τον Οκτώβριο του περασμένου έτους, στις οποίες συμμετείχαν επιστήμονες και εμπειρογνώμονες πολιτικής από τις αμερικανικές ομάδες τεχνητής νοημοσύνης, μαζί με εκπροσώπους του Πανεπιστημίου Tsinghua και άλλων κινεζικών κρατικών ιδρυμάτων.

Οι συμμετέχοντες δήλωσαν ότι οι συνομιλίες επέτρεψαν στις δύο πλευρές να συζητήσουν τους κινδύνους από την αναδυόμενη τεχνολογία και να ενθαρρύνουν τις επενδύσεις στην έρευνα για την ασφάλεια της τεχνητής νοημοσύνης. Πρόσθεσαν ότι ο απώτερος στόχος ήταν να βρεθεί μια επιστημονική πορεία προς τα εμπρός για την ασφαλή ανάπτυξη πιο εξελιγμένης τεχνολογίας AI.

«Δεν υπάρχει τρόπος να θέσουμε διεθνή πρότυπα γύρω από την ασφάλεια και την ευθυγράμμιση της τεχνητής νοημοσύνης χωρίς συμφωνία μεταξύ του συνόλου φορέων», δήλωσε στους Financial Times πρόσωπο που ήταν παρόν στις συνομιλίες. «Και αν συμφωνήσουν, είναι πολύ πιο εύκολο να φέρουμε και τους άλλους μαζί μας», σημείωσε.

Σπάνια περίπτωση συνεργασίας

Οι συνομιλίες που δεν είχαν αναφερθεί προηγουμένως αποτελούν μια εξαιρετικά σπάνια περίπτωση συνεργασίας Κίνας-ΗΠΑ εν μέσω ενός αγώνα δρόμου για την υπεροχή μεταξύ των δύο μεγάλων δυνάμεων στον τομέα των τεχνολογιών αιχμής, όπως η τεχνητή νοημοσύνη και η κβαντική πληροφορική. Επί του παρόντος, η Ουάσιγκτον έχει εμποδίσει τις αμερικανικές εξαγωγές των τσιπ υψηλής απόδοσης που κατασκευάζονται από εταιρείες όπως η Nvidia, τα οποία είναι απαραίτητα για την ανάπτυξη εξελιγμένου λογισμικού τεχνητής νοημοσύνης.

Αλλά το θέμα της ασφάλειας στην τεχνητή νοημοσύνη έχει γίνει σημείο κοινού ενδιαφέροντος μεταξύ των προγραμματιστών της τεχνολογίας και στις δύο χώρες, δεδομένων των πιθανών υπαρξιακών κινδύνων για την ανθρωπότητα.

Οι συναντήσεις στη Γενεύη οργανώθηκαν εν γνώσει του Λευκού Οίκου καθώς και των κυβερνητικών αξιωματούχων του Ηνωμένου Βασιλείου και της Κίνας, σύμφωνα με έναν παριστάμενο διαπραγματευτή, ο οποίος αρνήθηκε να κατονομαστεί.

«Η Κίνα υποστηρίζει τις προσπάθειες να συζητηθεί η ρύθμιση της τεχνητής νοημοσύνης και να αναπτυχθούν τα αναγκαία πλαίσια, κανόνες και πρότυπα με βάση την ευρεία συναίνεση», δήλωσε η κινεζική πρεσβεία στο Ηνωμένο Βασίλειο.

«Η Κίνα είναι έτοιμη να πραγματοποιήσει επικοινωνία, ανταλλαγή και πρακτική συνεργασία με διάφορα μέρη σχετικά με την παγκόσμια ρύθμιση της τεχνητής νοημοσύνης και να διασφαλίσει ότι η AI θα αναπτυχθεί με τρόπο που θα προάγει τον ανθρώπινο πολιτισμό», καταλήγει η δήλωση.

Οι συνομιλίες συγκλήθηκαν από την ομάδα Shaikh, έναν ιδιωτικό οργανισμό διαμεσολάβησης που διευκολύνει τον διάλογο μεταξύ βασικών παραγόντων σε περιοχές με συγκρούσεις, ιδίως στη Μέση Ανατολή.

«Είδαμε μια ευκαιρία να φέρουμε κοντά βασικούς παράγοντες των ΗΠΑ και της Κίνας που εργάζονται για την Τεχνητή Νοημοσύνη. Κύριος στόχος μας ήταν να υπογραμμίσουμε τα τρωτά σημεία, τους κινδύνους και τις ευκαιρίες που συνοδεύουν την ευρεία ανάπτυξη μοντέλων AI  που μοιράζονται σε όλο τον κόσμο», δήλωσε ο Σαλμάν Σαΐχ, διευθύνων σύμβουλος του ομίλου.

«Η αναγνώριση αυτού του γεγονότος μπορεί, κατά την άποψή μας, να αποτελέσει το θεμέλιο για τη συνεργατική επιστημονική εργασία, οδηγώντας τελικά σε παγκόσμια πρότυπα γύρω από την ασφάλεια των μοντέλων AI», κατέληξε.

Τι συζητήθηκε

Οι εμπλεκόμενοι στις συνομιλίες δήλωσαν ότι κινεζικές εταιρείες τεχνητής νοημοσύνης, όπως οι ByteDance, Tencent και Baidu, δεν συμμετείχαν- ενώ η Google DeepMind ενημερώθηκε για τις λεπτομέρειες των συζητήσεων, αλλά επίσης δεν συμμετείχε.

Κατά τη διάρκεια των συνομιλιών, εμπειρογνώμονες επί θεμάτων τεχνητής νοημοσύνης και από τις δύο πλευρές συζήτησαν για πιθανότητα δέσμευσης σε τεχνική συνεργασία, καθώς και πιο συγκεκριμένες προτάσεις πολιτικής που τροφοδοτούν τις συζητήσεις γύρω από τη συνεδρίαση του Συμβουλίου Ασφαλείας του ΟΗΕ για την AI τον Ιούλιο του 2023 και τη σύνοδο κορυφής του Ηνωμένου Βασιλείου για την AI τον περασμένο Νοέμβριο.

Η επιτυχία των συναντήσεων οδήγησε σε σχέδια για μελλοντικές συζητήσεις που θα επικεντρωθούν σε επιστημονικές και τεχνικές προτάσεις για τον τρόπο ευθυγράμμισης των συστημάτων τεχνητής νοημοσύνης με τους νομικούς κώδικες και τους κανόνες και τις αξίες κάθε κοινωνίας, σύμφωνα με τον παριστάμενο διαπραγματευτή.

Σημειώνεται ότι έχουν αυξηθεί οι εκκλήσεις για συνεργασία μεταξύ των ηγετικών δυνάμεων για την αντιμετώπιση της ανόδου της τεχνητής νοημοσύνης.

Τον Νοέμβριο, Κινέζοι επιστήμονες που ασχολούνται με την τεχνητή νοημοσύνη ενώθηκαν με δυτικούς ακαδημαϊκούς για να ζητήσουν αυστηρότερους ελέγχους στην τεχνολογία, υπογράφοντας μια δήλωση που προειδοποιούσε ότι η προηγμένη τεχνητή νοημοσύνη θα αποτελέσει «υπαρξιακό κίνδυνο για την ανθρωπότητα» τις επόμενες δεκαετίες.

MUST READ

Αν είσαι Μεντιλίμπαρ, τι διαλέγεις;

Η ομάδα, στην οποία συμμετείχε ο Άντριου Γιάο, ένας από τους πιο διακεκριμένους επιστήμονες πληροφορικής της Κίνας, ζήτησε τη δημιουργία ενός διεθνούς ρυθμιστικού φορέα, την υποχρεωτική εγγραφή και τον έλεγχο των προηγμένων συστημάτων τεχνητής νοημοσύνης, τη συμπερίληψη διαδικασιών άμεσου «τερματισμού λειτουργίας», καθώς και την υποχρέωση των προγραμματιστών να δαπανούν το 30% του προϋπολογισμού της έρευνάς τους για την ασφάλεια της τεχνητής νοημοσύνης.