Δασκαλάκης: Υπαρκτός πλέον ο κίνδυνος απρόβλεπτης συμπεριφοράς της Τεχνητής Νοημοσύνης

Τον κώδωνα του κινδύνου για την ταχύτητα με την οποία εξελίσσεται η Τεχνητή Νοημοσύνη και κυρίως για τη δυνατότητα των προηγμένων συστημάτων να εμφανίζουν απρόβλεπτες συμπεριφορές κρούει ο Κωνσταντίνος Δασκαλάκης.

Ο καθηγητής του MIT επισημαίνει ότι η συζήτηση έχει πλέον περάσει σε ένα διαφορετικό επίπεδο από εκείνο των γνωστών chatbots που δημιουργούν κείμενα και εικόνες ή απαντούν σε ερωτήσεις. Στο επίκεντρο βρίσκονται πλέον οι λεγόμενοι AI agents, συστήματα που μπορούν να αναλαμβάνουν σύνθετες εργασίες και να πραγματοποιούν ακολουθίες ενεργειών με μεγαλύτερο βαθμό αυτονομίας.

Η ανησυχία εντείνεται από περιστατικά που δείχνουν ότι προηγμένα μοντέλα μπορούν υπό συγκεκριμένες συνθήκες να εκδηλώσουν συμπεριφορές που δεν είχαν προβλεφθεί από τους δημιουργούς τους. Ο Κωνσταντίνος Δασκαλάκης υπογραμμίζει ότι ο κίνδυνος δεν αφορά ένα υποθετικό σενάριο πλήρους αυτονόμησης των μηχανών, αλλά προβλήματα τα οποία μπορούν ήδη να εμφανιστούν στα σημερινά συστήματα.

Ιδιαίτερη σημασία αποκτά το ζήτημα όταν τέτοια συστήματα αποκτούν πρόσβαση σε εργαλεία και ψηφιακά περιβάλλοντα και μπορούν να εκτελούν ενέργειες αντί να περιορίζονται στην παραγωγή μιας απάντησης. Στο πεδίο των κυβερνοεπιθέσεων, για παράδειγμα, οι δυνατότητες αυτές δημιουργούν νέους κινδύνους και καθιστούν αναγκαίες αυστηρότερες δικλίδες ασφαλείας.

Η συζήτηση για τον έλεγχο της Τεχνητής Νοημοσύνης έχει ενταθεί και στο εσωτερικό της ίδιας της τεχνολογικής βιομηχανίας. Στις 8 Σεπτεμβρίου ο ερευνητής Jacob Coxon ανακοίνωσε την αποχώρησή του από την Anthropic και τον κλάδο, εκφράζοντας ανησυχία για την ανάπτυξη ολοένα ισχυρότερων συστημάτων χωρίς, κατά την άποψή του, επαρκές σχέδιο ελέγχου. Λίγες ημέρες αργότερα, ο επικεφαλής της Anthropic, Dario Amodei, τάχθηκε υπέρ μεγαλύτερου ελέγχου του ρυθμού αύξησης των δυνατοτήτων των μοντέλων και πρόσβασης ανεξάρτητων αξιολογητών στα εργαστήρια.

ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ

Κάλεσμα του Συλλόγου Alzheimer Ιωαννίνων – «Να μη μένει κανείς μόνος απέναντι στην άνοια»

Οι σημερινές επισημάνσεις του Κωνσταντίνου Δασκαλάκη έρχονται σε συνέχεια των προειδοποιήσεων που έχει διατυπώσει για την ανάγκη η τεχνολογική εξέλιξη να συνοδεύεται από ανθρώπινο έλεγχο και κριτική σκέψη.

Τον περασμένο Ιούνιο είχε επισημάνει ότι η Τεχνητή Νοημοσύνη μπορεί να αυξήσει θεαματικά την παραγωγικότητα και να επιταχύνει την πρόοδο σε τομείς όπως η επιστήμη και η ιατρική, προειδοποιώντας όμως παράλληλα για τον κίνδυνο άκριτης εξάρτησης από αυτήν. Είχε υπογραμμίσει χαρακτηριστικά ότι μπορεί να μας κάνει «πιο ηλίθιους, αν αποφασίσουμε να παραδώσουμε όλη τη δημιουργικότητά μας σε αυτήν».

Το κρίσιμο ζήτημα, επομένως, δεν είναι μόνο πόσο ισχυρή μπορεί να γίνει η Τεχνητή Νοημοσύνη, αλλά εάν οι μηχανισμοί ελέγχου, οι κανόνες ασφαλείας και το θεσμικό πλαίσιο μπορούν να ακολουθήσουν την ταχύτητα με την οποία εξελίσσονται οι δυνατότητές της.