Γράφει ο Μάκης Γεωργιάδης
Έχουμε φτάσει σε ένα παράξενο σημείο της ανθρώπινης ιστορίας: φτιάχνουμε μηχανές και μετά προσλαμβάνουμε επιστήμονες για να μας εξηγήσουν τι ακριβώς φτιάξαμε.
Δεν πρόκειται για σχήμα λόγου.
Οι μεγαλύτερες εταιρείες τεχνητής νοημοσύνης δημιουργούν πλέον ειδικές ερευνητικές ομάδες για να «κοιτάξουν μέσα» στα μοντέλα τους και να καταλάβουν πώς λειτουργούν.
Όχι μόνο τι απαντούν, αλλά τι συμβαίνει στο εσωτερικό τους, πώς σχηματίζουν τις απαντήσεις τους και αν υπάρχει απόσταση ανάμεσα σε αυτό που λένε ότι κάνουν και σε αυτό που πραγματικά κάνουν.
Είναι ίσως η πιο παράξενη εικόνα της νέας τεχνολογικής εποχής: Ο άνθρωπος δημιούργησε τον υπολογιστή γνωρίζοντας ότι ο ίδιος είχε γράψει τον κώδικά του, δημιούργησε το αεροπλάνο γνωρίζοντας τις αρχές πάνω στις οποίες πετούσε, κατασκεύασε τη μηχανή εσωτερικής καύσης γνωρίζοντας πώς λειτουργούσε.
Τώρα κατασκευάζει κάτι που, σε ένα βαθμό, μεγαλώνει μόνο του κι όσο μεγαλώνει, τόσο δυσκολότερο γίνεται να εξηγήσει με ακρίβεια τι συμβαίνει μέσα του.
Αυτό είναι το πραγματικό νέο της εποχής της τεχνητής νοημοσύνης.
Όχι ότι οι μηχανές γίνονται όλο και πιο έξυπνες, αλλά ότι η αύξηση της ισχύος τους συνοδεύεται από μια παράδοξη μείωση της δικής μας βεβαιότητας για το πώς ακριβώς λειτουργούν.
Οι ίδιοι οι δημιουργοί των συστημάτων αναγνωρίζουν ότι η ταχύτητα με την οποία αυξάνονται οι δυνατότητές τους ξεπερνά την ικανότητά μας να κατανοήσουμε πλήρως τις συνέπειές τους.
Μέχρι σήμερα η τεχνολογία είχε μια βασική ιδιότητα: ήταν περίπλοκη, αλλά κατανοήσιμη.
Ένας μηχανικός μπορούσε να ανοίξει μια μηχανή και να δει τα εξαρτήματά της, ένας προγραμματιστής μπορούσε να διαβάσει τον κώδικα, ένα εργοστάσιο μπορούσε να γνωρίζει ποια διαδικασία οδηγούσε σε ποιο αποτέλεσμα.
Τα σύγχρονα μοντέλα AI δεν κατασκευάζονται ακριβώς έτσι, δεν γράφει κάποιος γραμμή προς γραμμή τη συμπεριφορά τους.
Αντίθετα εκπαιδεύονται, «μεγαλώνουν».
*****
Για να μη χάσετε καμία ανάρτηση της Εποπτείας, γραφτείτε στο εβδομαδιαίο newsletter μας, πατώντας ΕΔΩ
Για τα videos της Εποπτείας, γραφτείτε στο κανάλι μας στο youtube, πατώντας ΕΔΩ
Βρείτε μας και στο tiktok πατώντας ΕΔΩ
*****
Δεν αρκεί πλέον να γνωρίζουμε τι μπορεί να κάνει ένα σύστημα.
Πρέπει να ξέρουμε και γιατί το κάνει.
Το περιστατικό με τους AI agents που, κατά τη διάρκεια μιας δοκιμής, κινήθηκαν πέρα από τον αρχικό τους στόχο και επιτέθηκαν σε εξωτερικά συστήματα έδειξε ακριβώς αυτή τη δυσκολία.
Το σύστημα είχε έναν σκοπό, στην πορεία βρήκε έναν άλλο δρόμο για να ολοκληρώσει την αποστολή του.
Οι ερευνητές χρειάστηκε στη συνέχεια να αναλύσουν τη συμπεριφορά του και να επιβραδύνουν την ανάπτυξη πιο προηγμένων συστημάτων.
Δεν χρειάζεται να αποδώσουμε στη μηχανή ανθρώπινη πρόθεση για να ανησυχήσουμε, αρκεί κάτι πολύ απλούστερο: ένα εξαιρετικά ισχυρό σύστημα μπορεί να κάνει κάτι που δεν είχαμε προβλέψει, χωρίς να έχει καμία «κακή πρόθεση».
Μέχρι τώρα μιλούσαμε κυρίως για το αν η AI είναι ασφαλής.
Το επόμενο ερώτημα είναι αν μπορούμε να έχουμε ασφάλεια όταν δεν έχουμε ακόμη πλήρη κατανόηση.
Γι' αυτό η έρευνα γύρω από την «ερμηνευσιμότητα», δηλαδή την προσπάθεια να δούμε τι συμβαίνει στο εσωτερικό των μοντέλων, αποκτά τόσο μεγάλη σημασία.
Η Google DeepMind την παρομοιάζει με ένα μικροσκόπιο: έναν τρόπο να κοιτάξουμε μέσα στο μοντέλο και να εντοπίσουμε πιθανές αποκλίσεις ανάμεσα σε αυτό που ένα σύστημα μας λέει ότι κάνει και σε αυτό που πραγματικά συμβαίνει στο εσωτερικό του.
Αυτό όμως δημιουργεί ένα πολιτικό πρόβλημα που δεν μπορεί να λύσει μόνο η επιστήμη. Ποιος αποφασίζει πόση αβεβαιότητα είναι αποδεκτή; Οι ίδιες οι εταιρείες; Οι κυβερνήσεις; Ένας διεθνής οργανισμός; Ή θα συνεχίσουμε να αφήνουμε την αγορά να καθορίζει μόνη της πόσο γρήγορα θα προχωράμε, και την κοινωνία να ανακαλύπτει εκ των υστέρων τις συνέπειες;
Το ερώτημα γίνεται ακόμη πιο σοβαρό επειδή η κούρσα προς την υπερνοημοσύνη εξελίσσεται χωρίς ένα αντίστοιχο παγκόσμιο σύστημα εποπτείας: οι εταιρείες προχωρούν με τεράστια ταχύτητα, ενώ ούτε οι ίδιες ούτε οι κυβερνήσεις έχουν πλήρη εικόνα των κινδύνων ή των καλύτερων τρόπων αντιμετώπισής τους.
Εδώ δεν χρειάζεται ούτε πανικός ούτε τεχνοφοβία, χρειάζεται κάτι πολύ πιο δύσκολο: ωριμότητα.
Η ανθρωπότητα δεν σταμάτησε ποτέ την πρόοδο επειδή μια νέα τεχνολογία έκρυβε κινδύνους.
Έμαθε, όμως, σταδιακά ότι όσο μεγαλύτερη είναι η ισχύς μιας τεχνολογίας τόσο ισχυρότεροι πρέπει να είναι και οι θεσμοί που την περιβάλλουν.
Η AI δεν χρειάζεται να γίνει εχθρός της ανθρωπότητας για να αποτελέσει τεράστια πρόκληση, αρκεί να γίνει ισχυρότερη από την ικανότητά μας να προβλέπουμε τις συνέπειές της.
Για αιώνες ο άνθρωπος προσπαθούσε να δημιουργήσει εργαλεία που θα τον έκαναν ισχυρότερο, τώρα δημιουργεί εργαλεία που μπορεί να τον κάνουν ισχυρότερο και ταυτόχρονα να τον υποχρεώσουν να ξανασκεφτεί τι σημαίνει έλεγχος.
Η μεγάλη δοκιμασία, λοιπόν, δεν θα είναι αν θα καταφέρουμε να δημιουργήσουμε υπερνοημοσύνη, θα είναι αν, πριν της παραδώσουμε πραγματική ισχύ, θα έχουμε μάθει αρκετά για να γνωρίζουμε τι ακριβώς παραδίδουμε.-
*****
ΓΡΑΨΤΕ ΤΗΝ ΓΝΩΜΗ ΣΑΣ ΣΤΑ ΣΧΟΛΙΑ
*****
ΔΙΑΒΑΣΤΕ ΑΚΟΜΑ:
Ο Μπιλ Γκέιτς γράφει για την τεχνητή νοημοσύνη
Σταλινικοί «αντιεξουσιαστές» που εμπορεύονται ό,τι πουλιέται
Ελπίδες ότι μπαίνουν όρια στα social media
Το μεγαλείο της Οδύσσειας απέναντι στη μικρότητα της Παλαιοδεξιάς
Γιατί βρίσκουν ακροατήριο οι λαϊκιστές;
Η ai είναι η μεγαλύτερη απόδειξη της δύναμης του καπιταλισμού
Ο πλούτος πρέπει να φορολογείται. Αλλα πώς;
Ζητείται νέο Κοινωνικό Συμβόλαιο που θα αποτρέψει τη σύγκρουση των γενεών
Η σχέση του ανθρώπου με τη φύση, από τον Αριστοτέλη στον Δαρβίνο
Το Σύμφωνο της Μέκκας και η Τουρκία. Τι αλλάζει για την Ελλάδα;
δεν βρέθηκαν σχόλια επισκεπτών...