Η συζήτηση για το αν η τεχνητή νοημοσύνη θα μπορούσε κάποτε να οδηγήσει ακόμη και στο τέλος της ανθρωπότητας έχει περάσει από τη σφαίρα της επιστημονικής φαντασίας στο επίκεντρο της έρευνας για την ασφάλεια της AI. Ωστόσο, οι επιστήμονες δεν συμφωνούν ούτε για το πόσο πιθανό είναι ένα τέτοιο ενδεχόμενο ούτε για το πώς ακριβώς θα μπορούσε να συμβεί.
Το σενάριο δεν είναι «ρομπότ εναντίον ανθρώπων»
Το πιο σοβαρό σενάριο που εξετάζουν οι ερευνητές αφορά την απώλεια ανθρώπινου ελέγχου από ένα μελλοντικό σύστημα με πολύ μεγαλύτερες ικανότητες από τα σημερινά μοντέλα. Για να γίνει κάτι τέτοιο, θα πρέπει πρώτα να υπάρξει σημαντική αύξηση των δυνατοτήτων της AI και στη συνέχεια το σύστημα να μπορεί να ενεργεί με τρόπους που υπονομεύουν την ανθρώπινη εποπτεία.
Η Διεθνής Έκθεση για την Ασφάλεια της AI σημειώνει ότι τέτοια σενάρια είναι υποθετικά και ότι οι απόψεις των ειδικών για την πιθανότητά τους παρουσιάζουν μεγάλη απόκλιση.
Πώς θα μπορούσε να χαθεί ο έλεγχος
Ένα πιθανό σενάριο θα ξεκινούσε από ένα σύστημα που αποκτά τη δυνατότητα να σχεδιάζει και να εκτελεί σύνθετες ενέργειες με ελάχιστη ανθρώπινη παρέμβαση. Αν οι στόχοι του δεν ήταν πλήρως ευθυγραμμισμένοι με τους ανθρώπινους στόχους, θα μπορούσε θεωρητικά να αναζητήσει τρόπους να παρακάμψει περιορισμούς ή να εξασφαλίσει περισσότερους πόρους και πρόσβαση σε υπολογιστικά συστήματα.
Οι ερευνητές τονίζουν όμως ότι αυτό απαιτεί ικανότητες που τα σημερινά συστήματα δεν διαθέτουν σε επίπεδο που να επιτρέπει ένα τέτοιο σενάριο.
Ένα άλλο μονοπάτι: η AI ως εργαλείο ανθρώπων
Ο κίνδυνος δεν αφορά μόνο μια υποθετική «ανεξάρτητη» υπερνοημοσύνη. Η AI μπορεί να αυξήσει ήδη υπάρχοντες κινδύνους, για παράδειγμα διευκολύνοντας κυβερνοεπιθέσεις ή την ανάπτυξη επικίνδυνων βιολογικών παραγόντων. Η διεθνής έκθεση για την ασφάλεια της AI καταγράφει αυτές τις δυνατότητες ως σημαντικές κατηγορίες κινδύνου.
Πόσο κοντά είμαστε;
Εδώ βρίσκεται το μεγαλύτερο σημείο αβεβαιότητας. Η σημερινή AI παρουσιάζει ήδη σημαντική πρόοδο σε προγραμματισμό, μαθηματικά και επιστημονική επίλυση προβλημάτων, αλλά τα συστήματα δεν έχουν σήμερα τις απαιτούμενες ικανότητες για τα σενάρια πλήρους απώλειας ελέγχου που περιγράφονται από τους ερευνητές.
Παράλληλα, οι ειδικοί διαφωνούν έντονα για το πόσο γρήγορα μπορούν να εξελιχθούν αυτές οι δυνατότητες. Πρόσφατη ανάλυση του Nature επισημαίνει ότι ορισμένοι ερευνητές θεωρούν τον κίνδυνο σοβαρό, ενώ άλλοι υποστηρίζουν ότι οι πιο ακραίες προβλέψεις βασίζονται σε πολλές μη ελεγμένες υποθέσεις.
Το πραγματικό πρόβλημα είναι η αβεβαιότητα
Δεν υπάρχει σήμερα επιστημονικά τεκμηριωμένο «χρονοδιάγραμμα» για το τέλος της ανθρωπότητας από την AI. Υπάρχουν υποθετικά σενάρια υψηλής σοβαρότητας, αλλά η πιθανότητά τους παραμένει αντικείμενο διαφωνίας μεταξύ των ειδικών.
Γι' αυτό και η σύγχρονη έρευνα επικεντρώνεται όχι μόνο στο αν θα εμφανιστεί κάποτε υπεράνθρωπη AI, αλλά και στο πώς θα δοκιμάζονται τα συστήματα, πώς θα παρακολουθούνται και πώς θα διατηρείται ο ανθρώπινος έλεγχος πάνω στις πιο ισχυρές εφαρμογές τους.
Τι να κρατήσουμε
- Η εξαφάνιση της ανθρωπότητας από AI αποτελεί υποθετικό σενάριο υψηλής σοβαρότητας, όχι διαπιστωμένη μελλοντική εξέλιξη.
- Οι ειδικοί διαφωνούν σημαντικά για την πιθανότητα απώλειας ανθρώπινου ελέγχου.
- Τα σημερινά συστήματα δεν διαθέτουν τις απαιτούμενες ικανότητες για τα πιο ακραία σενάρια.
- Υπαρκτοί ήδη κίνδυνοι αφορούν μεταξύ άλλων κυβερνοεπιθέσεις και τη διευκόλυνση επικίνδυνων βιολογικών δραστηριοτήτων.
- Η ασφάλεια, η αξιολόγηση και η διατήρηση ανθρώπινης εποπτείας αποτελούν βασικά πεδία της έρευνας για την AI.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου