Ο Τζέικομπ Κόξον, ένας 27χρονος Βρετανός, εργαζόταν επί τρία χρόνια στην προ-εκπαίδευση —το στάδιο όπου τα μοντέλα της τεχνητής νοημοσύνης απορροφούν τεράστιες ποσότητες δεδομένων— πρώτα στην OpenAI και στη συνέχεια, φέτος, στον κύριο ανταγωνιστή της, την Anthropic.
"Καμία από τις δύο εταιρείες δεν ενεργεί με υπεύθυνο τρόπο. Κατευθύνονται ολοταχώς προς μια υπερνοημοσύνη ικανή να αυτοβελτιώνεται και παίζουν με τις ζωές μας", έγραψε χθες, Τρίτη, στο Χ.
"Οι άνθρωποι που δημιουργούν την ΑΙ πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους ως το τέλος της δεκαετίας. Δεν πρόκειται για κόλπο μάρκετινγκ", υπογράμμισε.
Ο Έβαν Χάμπιντζερ, στέλεχος της Anthropic αρμόδιος για την ασφάλεια, συμφώνησε με τον Κόξον σχολιάζοντας στο Χ: "Πράγματι, πιστεύουμε ειλικρινά ότι η ΑΙ θα μπορούσε να σκοτώσει όλους τους ανθρώπους", εκτιμώντας ότι ο κίνδυνος αυτός είναι "πάνω από 10%" μέσα στη δεκαετία.
Ο Χάμπιντζερ πρόσθεσε ότι η Anthropic κάνει "ό,τι καλύτερο" μπορεί, αλλά ακόμη "δεν έχει σχέδιο" για το πώς θα διασφαλίσει ότι μια τεχνητή νοημοσύνη που ξεπερνά τις ανθρώπινες δυνατότητες θα συνεχίσει να υπακούει στους δημιουργούς της, αν και εκτίμησε ότι ο κίνδυνος να συμβεί αυτό με τα τρέχοντα μοντέλα AI είναι "μικρός".
Η παραίτηση του Κόξον έγινε την ώρα που η Anthropic ετοιμάζεται να εισαχθεί στο χρηματιστήριο και έπειτα από ένα καλοκαίρι στη διάρκεια του οποίου αποκαλύφθηκαν περιστατικά πειρατείας στα οποία ενεπλάκησαν χωρίς άδεια εργαλεία της AI.
Οι δύο εταιρείες δεν έχουν απαντήσει προς το παρόν σε αίτημα του AFP για σχολιασμό.
Οι πρωταθλητές της τεχνητής νοημοσύνης λένε ότι βρίσκονται κοντά στο στάδιο της "αναδρομική αυτοβελτίωσης" — ένα σημείο πέρα από το οποίο ένα μοντέλο θα σχεδιάζει μόνο του τον διάδοχό του, χωρίς να υπόκειται σε ανθρώπινο έλεγχο.
Σύμωνα με τον Κόξον, οι συνάδελφοί του χρησιμοποιούν τους όρους "crunchtime" (ώρα της κρίσης) και "endgame" (τέλος του παιχνιδιού) για να περιγράψουν αυτή την πορεία.
Ο ίδιος έκρινε ότι οι προσπάθειες της Anthropic είναι ειλικρινείς, αλλά εκτίμησε ότι καμία εταιρεία δεν μπορεί να αναπτύξει με υπεύθυνο τρόπο μια τεχνητή νοημοσύνη που θα ξεπερνά τους ανθρώπους χωρίς κυβερνητική παρέμβαση ή μια συντονισμένη επιβράδυνση από όλες τις εταιρείες.
"Στην Anthropic κατανοούν πολύ καλά το διακύβευμα, αλλά έχουν εμπλακεί σε έναν αγώνα δρόμου για να φτάσουν πρώτοι", επεσήμανε.
Τον Φεβρουάριο, η Anthropic αφαίρεσε από την πολιτική ασφαλείας της τη δέσμευση να σταματήσει την ανάπτυξη των μοντέλων της εάν δεν καταφέρει να διαχειριστεί τους σχετικούς κινδύνους — με το σκεπτικό ότι μια μονομερής παύση θα επέτρεπε σε λιγότερο προσεκτικούς παίκτες να κυριαρχήσουν στον ανταγωνισμό ανεξέλεγκτα.
Πηγή: capital.gr
