- This topic has 8 replies, 6 voices, and was last updated 9 months, 2 weeks ago by
.
-
Posts
-
-
Καλησπέρα στην παρέα
Από το πρωί που ξύπνησα μου έχει κολλήσει ένα σενάριο και δεν ήξερα που να το πω. Λέω λοιπόν να το καταθέσω εδώ.
Από την εποχή του Πλάτωνα μέχρι τον Λεβιάθαν του Χομπς η ανάγκη για την δημιουργία ενός πολιτικού συστήματος που να λειτουργεί προς όφελος της κοινωνίας, υποθάλπει ιδέες για ανάθεση της εξουσίας σε ανθρώπους που θα έχουν την εκπαίδευση και ικανότητα να παίρνουν τις βέλτιστες δυνατές αποφάσεις.
Με άλλα λόγια, το βασικό κριτήριο για μια ευνομούμενη πολιτεία, τουλάχιστον για αυτή την εκδοχή οργάνωσης του κράτους, είναι η ορθότητα των αποφάσεών του.
Ακολουθώντας την ίδια λογική σκέψη, θα μπορούσε να φανταστεί κανείς στην σημερινή εποχή της ακμής της τεχνητής νοημοσύνης, ένα ψηφιακό εργαλείο με την ικανότητα να συλλέγει όλα τα δεδομένα, να έχει εκπαιδευτεί με χιλιάδες αποφάσεις και αποτελέσματα από το παρελθόν, και να μπορεί να λάβει τις βέλτιστες δυνατές αποφάσεις για το σύνολο της κοινωνίας.
Γιατί δεν θα μπορούσε ένα τέτοιο εργαλείο να αντικαταστήσει τις σημερινές εξουσίες (νομοθετική, εκτελεστική, δικαστική);
Επιχειρήματα υπέρ και κατά.
Φιλικά, με μια δόση υπερβολής,
Αντώνης
12.03.2024 -
Αντώνη, φίλοι, καλημέρα.
Τρεις σύντομες σκέψεις σαν απάντηση στην πρόκληση του Αντώνη…
1. Άμα οι υπόλοιποι δεν έχουμε αντίρρηση, αυτή θα μπορούσε να είναι μια πολύ ωραία ανάρτηση στην ιστοσελίδα μας, με πρόκληση για διάλογο στα σχόλια. Και ακόμα καλύτερα θα ήταν αν, σε δεύτερο χρόνο, την προωθούσαμε και μέσω social media, και να μαζεύαμε και από εκεί τις αξιόλογες απαντήσεις στα σχόλια κάτω από την ανάρτηση.
Θα ήταν ακόμα καλύτερα αν είχαμε ήδη προσαρτήσει στην ιστοσελίδα ένα forum, πράγμα που ελπίζω ότι θα έχει γίνει εντός των επομένων ημερών. Άρα, θα πρότεινα Αντώνη να περιμένουμε λίγο – έτσι κι αλλιώς το ζήτημα που θέτεις δεν έχει να κάνει με την τρέχουσα επικαιρότητα – και να το αναρτήσουμε σαν ένα από τα πρώτα θέματα του forum.
Πώς το βλέπεις/βλέπετε;
2. Κατά τα άλλα, επιφυλάσσομαι για μια επί της ουσίας συζήτηση σχετικά με το πώς βλέπει το ζήτημα ο Πλάτων, και πόσο τεράστια είναι η παρανόηση να τον συνδέει κανείς με τον Χομπς κλπ. Δεν φταίει μόνο ο Πόππερ και η φιλελεύθερη παρανάγνωση που κάνει στον Πλάτωνα. Φταίει η εγγενής δυσκολία που έχουμε να δούμε το θέμα έξω από το εννοιολογικό και ηθικό πλαίσιο του δυτικού πολιτισμού. (Διότι οι «Αρχαίοι ημών» ήταν κάτι εντελώς άλλο από αυτό που λέγεται, ότι δήθεν ο σύγχρονος δυτικός πολιτισμός θεμελιώνεται στην Αρχαία Ελλάδα). Αλλά -ξαναλέω- επιφυλάσσομαι για κάτι πιο σοβαρό από τη μεριά μου. Ίσως, αν θέλετε, μπορούμε να αναζητήσουμε και άλλους (και μεταξύ μας και εκτός ημών) και να εγκαινιάσουμε και έναν κύκλο θεωρητικών συζητήσεων περί Δημοκρατίας (με διαφορετικές, ή και με αντίθετες προσεγγίσεις).
3. Βέβαια, αυτά περί Πλάτωνος κλπ, δεν έχουν να κάνουν με την ουσία του ερωτήματος που θέτεις. Διότι στην ερώτησή σου, το ουσιώδες δεν είναι το τι λέει ο Πλάτων και ο Χομπς, αλλά το αν δεχόμαστε ή όχι την ανάθεση, και μάλιστα σε έναν υπερτέλειο και προγραμματισμένα «καλοπροαίρετο» και κοινωνικοπολιτικά «αντικειμενικό» υπερεγκέφαλο. Περί αυτού δεν πρόκειται;
Βξ
13.03.2024
-
Θεωρητικά θα μπορούσε να ισχύει αυτό που λέει ο Αντώνης. Και πάλι όμως, προϋπόθεση είναι η δημοκρατία, για τους εξής τουλάχιστον λόγους…
Πρώτον η ιδιοτέλεια, που αποτελεί εγγενές ανθρώπινο χαρακτηριστικό. Εννοώ κανείς δεν θα δώσει την εξουσία του στον άλλον, ακόμα και αν γνωρίζει πως εκείνος θα τη διαχειριστεί καλύτερα. Κατ’ επέκταση κανένα μη δημοκρατικό κατεστημένο δεν θα παραχωρήσει εξουσία σε άλλον με κριτήριο την ορθότητα της λήψης αποφάσεων. Και δεν εννοώ βέβαια πως στη δημοκρατία εξαφανίζεται η ανθρώπινη ιδιοτέλεια, απλά νομίζω πως οι ατομικές υστεροβουλίες με αντικοινωνικό πρόσημο σε μεγάλο βαθμό αλληλοεξουεδετερώνονται μέσα στη συνισταμένη της πλειοψηφίας.
Δεύτερο, η νοθεία που μπορεί να εμφιλοχωρήσει στην έννοια της ορθότητας (σκέψου την κατάντια της έννοιας της «πολιτικής ορθότητας»). Η πολιτική δεν είναι μαθηματικά, και οι αλγόριθμοι λήψης πολιτικών αποφάσεων δεν μπορεί παρά να βασίζονται: α) στην καθολικά προσβάσιμη γνώση, και β) στα χρηστά ήθη. Άρα για να εκπαιδευτεί αυτό το «εργαλείο» στη λήψη ορθών αποφάσεων πρέπει να πάρει δεδομένα από δημοκρατικές κοινωνίες.
-
-
Χαίρομαι ιδιαίτερα για την ανταπόκριση, και σας ευχαριστώ.
Το ερώτημα το επαναδιατύπωσε πολύ ωραία ο Βασίλης: Αν δεχόμαστε ή όχι την ανάθεση, και μάλιστα σε έναν υπερτέλειο και προγραμματισμένα «καλοπροαίρετο» και κοινωνικοπολιτικά «αντικειμενικό» υπερεγκέφαλο.
Αλλά και οι απαντήσεις που έχουν να κάνουν είτε με την πρακτικότητα ή ρεαλιστικότητα της μετάβασης σε ένα τέτοιο σενάριο (όπως η απάντηση του Γιώργου), είτε με την πρακτική δυνατότητα δημιουργίας ενός τέτοιου υπερεγκέφαλου, έχουν ενδιαφέρον.
Φιλικά,
Αντώνης -
Καλησπέρα
θα έλεγα ότι έχει προσεγγιστεί η «μηχανιστική» προσέγγιση της τέλειας λογικής μέσω AI που θα παίρνει αποφάσεις μέσω δεδομένων όπως περιγράφει ο Αντώνης, έχει εξεταστεί ως ενδεχόμενο σε ταινίες επιστημονικής φαντασίας και στον χώρο της τεχνοηθικής και φυσικά αναρωτιόμαστε και εμείς οι τεχνικοί εδώ και χρόνια….
Εικαστικά υπάρχουν ερωτήματα από την εποχή του Metropolis. Γνωστό έργο από τις αρχές του προηγούμενου αιώνα και φυσικά όλοι έχουμε δει το 2001: A Space Odyssey, το Elysium, το I am the robot και άλλα μάλλον κλασικά έργα του χώρου. Θα δεχόμασταν άραγε μια προσέγγιση πχ όπως στο Terminator, ή θα προτιμούσαμε κάτι σαν το Salvation; Ή μήπως τελικά ένα skynet σε επίπεδο τεχνητής ευφυίας θα μας απάλλασσε οριστικά από τα ερωτήματα που θέτει το Silo;
Ή τελικά θα αποδεχόσασταν τον τέλειο κόσμο που απεικονίζεται στο επεισόδιο 7 (justice) του πρώτου κύκλου το Star Trek «Next Generation»; Όπου η απόλυτη ουτοπία, επιβεβλημένη από την απόλυτη νοημοσύνη, οδηγεί σε δρακόντια νομοθεσία και κοινωνία μηδενικής ανοχής και κατανόησης της ατέλειας του ανθρώπινου είδους, που είναι το λάθος. Μήπως τελικά βέβαια θα ανοίγαμε το τέλος της ανθρωπότητας όπως στο Babylon-5 το τέλος του Ikara μέσα από την δραματοποιημενη αναζήτηση του καθαρού και αγνού πολίτη και την εξαφάνιση κάθε τι μη αγνού και μη καθαρού;
Επικές παρακαταθήκες και πολύ γνωστές, και ίσως πολύ καλύτερη παρουσίαση για την σύγχρονη απεικόνιση της «μηχανιστικής» ή νευρωνικής ή έστω αλγοριθμικής διακυβέρνησης.
Η άλλη προσέγγιση είναι το πώς συζητάμε φιλοσοφικά στον χώρο της τεχνοηθικής. Είναι δικαιοσύνη, είναι πολιτεία, είναι δημοκρατία, η επικράτηση ενός μοντέλου διακυβέρνησης χωρίς λάθη; χωρίς την σημαίνουσα ατέλεια του ανθρώπινου παράγοντα; χωρίς φαντασία, αλλά μόνο ως βάση την αλγοριθμική και προγραμματιστική επεξεργασία δεδομένων; Θα είναι άραγε μια στρακτουραλιστική κοινωνία που θα βασίζεται στο μηχανιστικό παράδοξο της ορθής χωρίς συναισθηματική βάση διακυβέρνησης; Πόσο απαλλαγμένη και ασφαλής θα ήταν η διακυβέρνηση αυτής της μορφής από ένα worm ή ένα έξυπνο παρεμβάτικο σενάριο στον πηγαίο κώδικα που θα οδηγούσε στην εξαφάνιση της διαφορετικότητας; ή του νομότυπου και αυστηρά καθορισμένου πλαίσιου ζωής;
Θα τελείωνε η έννοια της κοινωνικής εξέλιξης μιας και όλα θα ήταν «ρυθμισμένα»; και αν δεν ήταν “ρυθμισμένα” ποιος/οι θα έβαζαν τα όρια; Πχ οι διαδηλώσεις θα ήταν ενάντια στην AI, ή μήπως τελικά θα άφηνε κάποιες ελεγχόμενες; Και μήπως σε ένα σενάριο αυτής της μορφής οι εκλογές πάσης φύσεως περιττεύουν; ή θα πρέπει να υπάρχουν για να δικαιολογούν την ΑΙ; Και άλλωστε γιατί να υπάρχει προσωπική άποψη; Όλα θα τα ρυθμίσει μια ΑΙ.
Θεωρητικά ερωτήματα. Στην πράξη δεν έχουμε καν ΑΙ. Έχουμε ένα μεγάλο γλωσσικό μοντέλο, κάτι λίγο καλύτερο από ένα συνδυαστικό συνοθύλευμα no-sql δεδομένων, λίγο καλύτερο από αυτό που είχε προταθεί στο δικηγορικό σύλλογο Αθηνών για αναζήτηση στο χάος της νομολογίας.
Στην πράξη, το LLM ή το ELLM δεν έχουν περάσει καν τεστ Τούρινγκ – όχι τα εκτεταμένα, αλλά ούτε καν τα απλό μοντέλο. Ευτυχώς δηλαδή. Ή και δυστυχώς. Εξαρτάται βασικά ποιος/οι γράφουν τον πηγαίο κώδικα, ή τι δεδομένα θεωρούν «φυσιολογικά» ή «θεμιτά». Ή ποιος βάζει τα big data και με τι patterns, και κάπως στην λογική τι θεωρούν και ελευθερία, τι θεωρούν ως «φυσιολογικό» άνθρωπο κλπ κλπ.
Όντως ενδιαφέρουσα αναζήτηση.
-
To μέγιστο έργο που θα απέδιδα στην τεχνητή νοημοσύνη (ΤΝ) θα ήταν να υποβάλει τις “βέλτιστες δυνατές εισηγήσεις”, για τις οποίες τελικά θα αποφάσιζαν οι πολίτες. Επειδή πιθανολογώ ισχυρά ότι αυτοί που ελέγχουν τους λογαρίθμους της ΤΝ είναι οι ίδιοι που ελέγχουν τις κυβερνήσεις μας, θα συζητούσα την υποκατάσταση της νομοθετικής εξουσίας από την ΤΝ, αν αυτό μας απάλλασε από το κόστος του πολιτικού μας προσωπικού. Τότε βέβαια θα απολαμβάναμε τους πολιτικούς να μας κηρύττουν περί της μοναδικότητας του ανθρώπινου πνεύματος κλπ.
-
Καλησπέρα σε όλους,
Ενδιαφέρον το θέμα. Εχει πολλές πτυχές το ζήτημα, όπως όλες οι πολύπλοκες καταστάσεις. Δεν υπάρχει μία αντικειμενική θεώρηση επομένως που περιμένει να την ανακαλύψουμε, παρά μόνο στοιχεία (facts) που μπορούν να αιτιολογήσουν σκοπούς ανάλογα με τις κοσμοθεωρίες του καθενός.
Κάποια στοιχεία κατά την άποψη μου είναι ..
1. τα εμπειρικά δεδομένα πάνω στα οποία η ΑΙ φτιάχνει προβλέψεις προς τα παρόν τα είσαγουν στην πρωτογενή μροφή κατά κύριο λόγο άνρθωποι ή συστήματα που έφτιαξαν άνθρωποι. Προς το παρόν δηλαδή δεν δύναται να συλλέξει δεδομένα εμπειρικά από μόνη της. Της λείπει η διασύνσεση δηλ. για να αντιληφθεί τη πραγματικότητα τουλάχιστο όπως μπορεί να την αντιληφθεί ο άνθρωπος.
2. Η εκπαίδευση της ΑΙ γίνεται πάνω σε δείγματα εμπειρικών δεδομένων, που τα συνθέτουν άνθρωποι και επομένως μπορεί να ενσωματώνουν σκόπιμα ή μη μεροληψία και μάλλιστα σοβαρή.
3. Υπάρχουν ηθικά ζητήματα όπως κάποιοι αναφέρουν παραπάνω. Τι είναι κακό ή καλό σε μία δεδομένη συνθήκη, δεν είναι πάντα εύκολη απόφαση. Να θυσιάσει πχ. 10 για να σωθούν 100? ποιός θα εκπαιδεύσει έτσι ένα σύστημα ΑΙ και με τι εξουσιόδοτηση?Προς το παρόν η ΑΙ είναι ένα εξαιρετικό εργαλείο βοηθός που θα φέρει όμως μεγάλη αναστάτωση στα τεχνο-κοινωνικά συστήματα. Δεν είναι η ίδια η τεχνολογία που είναι το πρόβλημα αλλά η χρήση της. Και δεδομένου ότι ο καπιταλισμός οδηγεί τη καινοτομία (ως αποτέλεσμα έρευνας) μπορούμε να πούμε ότι δύσκολα να μπει φρόνιμο φρένο. Ακόμη και αυτό θα μπει αφού πρώτα δούμε τα αποτελέσματα αφού εκ των προτέρων περιορισμοί θεωρούνται ότι φρενάρουν τη καινοτομία. Προσπαθούν σιγά σιγά από όσο γνωρίζω να βάλουν όρια (νομοθεσίες χρήσης) σε ΕΕ και ΗΠΑ.. εκεί που ΔΕΝ θα μπει σίγουρα είναι οι στρατιωτικές εφαρμογές .. κυρίως από φόβο τι θα κάνει ο αντίπαλος.
Σε θέματα διακυβέρνησης κατά την άποψη μου πρέπει να περιοριστεί απλά στο ρόλο του βοηθού. Του expert ή του συμβούλου. Αλλά όχι του μοναδικού.
-
-
