Playback speed
×
Share post
Share post at current time
0:00
/
0:00

Paid episode

The full episode is only available to paid subscribers of Nioland’s Substack

Το Δίλημμα της Τεχνητής Νοημοσύνης

Το 50% των ερευνητών ΤΝ πιστεύει ότι υπάρχει 10% ή μεγαλύτερη πιθανότητα να εκλείψουν οι άνθρωποι από την αδυναμία μας να ελέγξουμε την ΤΝ.

Δείτε δωρεάν το βίντεο με τα κύρια σημεία, διάρκειας 17 λεπτών, από τη διάλεξη των Τρίσταν Χάρις και Έιζα Ράσκιν, με τίτλο “Το Δίλημμα της Τεχνητής Νοημοσύνης” (διάρκειας 1 ὠρας και 10 λεπτών περίπου).


Μπορούν να παρακολουθήσουν ολόκληρο το βίντεο της διάλεξης, διάρκειας περίπου 1 ώρας και 10 λεπτά, μόνο συνδρομητές με πληρωμή του καναλιού Nioland.

Λεπτομέρειες για το κόστος και τα πλεονεκτήματα πληρωμένης συνδρομής (μηνιαία ή ετήσια) εδώ:

Επιλέξτε Συνδρομητικό Πρόγραμμα


Σε αυτή τη διάλεξη, στις 09 Μαρτίου 2023, οι Τρίσταν Χάρις και Έιζα Ράσκιν παρουσιάζουν πώς οι υπάρχουσες δυνατότητες της Τεχνητής Νοημοσύνης ενέχουν ήδη καταστροφικούς κινδύνους για μια λειτουργική κοινωνία, πώς οι εταιρείες Τεχνητής Νοημοσύνης βρίσκονται σε έναν αγώνα δρόμου για την όσο το δυνατόν γρηγορότερη ανάπτυξη χωρίς επαρκή μέτρα ασφαλείας και τι θα σήμαινε η αναδιάρθρωση των θεσμικών μας οργάνων σε έναν κόσμο μετά την Τεχνητή Νοημοσύνη. Η παρουσίαση αυτή έγινε πριν από την έναρξη του GPT-4.

Το 50% των ερευνητών της ΤΝ πιστεύει ότι υπάρχει 10% ή μεγαλύτερη πιθανότητα να εκλείψουν οι άνθρωποι από την αδυναμία μας να ελέγξουμε την ΤΝ.

Αυτό θα ήταν σαν να πρόκειται να επιβιβαστείτε σε ένα αεροπλάνο και το 50% των μηχανικών που κατασκευάζουν το αεροπλάνο να λένε ότι, αν επιβιβαστείτε σε αυτό το αεροπλάνο, υπάρχει 10% πιθανότητα να πέσουν όλοι. Θα έμπαινες σε αυτό το αεροπλάνο;

Ίσως έχετε ακούσει για την άφιξη του GPT-4, της τελευταίας έκδοσης του μεγάλου γλωσσικού μοντέλου (LLM) της OpenAI. Το GPT-4 ξεπερνά τον προκάτοχό του από άποψη αξιοπιστίας, δημιουργικότητας και ικανότητας επεξεργασίας περίπλοκων εντολών. Μπορεί να χειριστεί πιο διαφοροποιημένες οδηγίες σε σύγκριση με τις προηγούμενες εκδόσεις και είναι πολυτροπικό, δηλαδή εκπαιδεύτηκε τόσο σε εικόνες όσο και σε κείμενο. Δεν κατανοούμε ακόμη τις δυνατότητές του, ωστόσο έχει ήδη διατεθεί στο κοινό.

ΕΙΖΑ ΡΑΣΚΙΝ: Για να γίνω σαφής, πολλά από αυτά για τα οποία ανησυχεί περισσότερο η κοινότητα της ΤΝ είναι όταν συμβεί αυτό που αποκαλούν "απογείωση", όταν η ΤΝ γίνει πιο έξυπνη από τον άνθρωπο σε ένα ευρύ φάσμα πραγμάτων, όταν αρχίσει να αποκτά την ικανότητα να αυτοβελτιώνεται, όταν της ζητήσουμε να κάνει κάτι. H παλιά κλασική ιστορία του: "πρόσεχε τι εύχεσαι γιατί θα πραγματοποιηθεί με απροσδόκητο τρόπο", όταν εύχεσαι να είσαι ο πλουσιότερος άνθρωπος και η ΤΝ σκοτώνει όλους τους άλλους.

Στο Κέντρο Ανθρώπινης Τεχνολογίας, θέλουμε να καλύψουμε το χάσμα μεταξύ των όσων ο κόσμος ακούει δημοσίως για την τεχνητή νοημοσύνη από τις εντυπωσιακές παρουσιάσεις των CEO και των όσων μας λένε οι άνθρωποι που βρίσκονται πιο κοντά στους κινδύνους και τις επιπτώσεις μέσα από τα εργαστήρια της Τεχνητής Νοημοσύνης. Μεταφράσαμε τις ανησυχίες τους σε μια συνεκτική ιστορία και παρουσιάσαμε τις διαφάνειες που προέκυψαν σε επικεφαλής ιδρυμάτων και μεγάλους οργανισμούς μέσων ενημέρωσης στη Νέα Υόρκη, την Ουάσινγκτον και το Σαν Φρανσίσκο. Η ομιλία που θα ακούσετε είναι το επιστέγασμα αυτής της εργασίας, η οποία συνεχίζεται.

Η νέα τεχνολογία που βγήκε τους τελευταίους τρεις μήνες, σας επιτρέπει να ακούσετε μόλις τρία δευτερόλεπτα από τη φωνή κάποιου και στη συνέχεια να συνεχίσετε να μιλάτε με τη φωνή του.

Λοιπόν, θα μπορούσατε να φανταστείτε κάποιον να τηλεφωνεί στο παιδί σας για να ακούσει λίγο από τη φωνή του: "ω, συγγνώμη, πήρα λάθος αριθμό" και στη συνέχεια, χρησιμοποιώντας τη φωνή του παιδιού σας, να σας τηλεφωνήσει και να σας πει: "γεια σου μαμά, γεια σου μπαμπά, ξέχασα τον αριθμό της κοινωνικής ασφάλισής μου, κάνω αίτηση για μια δουλειά, θα σε πείραζε να μου το θυμίσεις;"

Η Τεχνητή Νοημοσύνη μπορεί να μας βοηθήσει να επιτύχουμε σημαντικές προόδους, όπως η θεραπεία του καρκίνου κλπ. Αλλά το σημείο που θέλουμε να επισημάνουμε είναι το εξής: "αν η δυστοπία που θα ζήσουμε είναι αρκετά κακή, δεν θα έχει σημασία πόσο καλή θα είναι η ουτοπία που θέλουμε να δημιουργήσουμε". Έχουμε μόνο μία ευκαιρία και πρέπει να κινηθούμε με την ταχύτητα που χρειάζεται για να την πετύχουμε.

Έτσι το 2024 θα είναι οι τελευταίες ανθρώπινες εκλογές. Και αυτό που εννοούμε με αυτό δεν σημαίνει ότι το 2028 θα είναι απλά μια ΤΝ που θα είναι υποψήφια για πρόεδρος, αλλά ότι θα είναι... ίσως μεν να είναι άνθρωποι ως φιγούρες, αλλά θα κερδίσει όποιος έχει τη μεγαλύτερη υπολογιστική ισχύ.

Αυτό σημαίνει ότι η τεχνολογία και η υπολογιστική ισχύς θα παίξουν κρίσιμο ρόλο στην πολιτική διαδικασία, όπου ακόμα και ανθρώπινες φιγούρες μπορεί να χρησιμοποιηθούν ως "πρόσωπα-μορφές" χωρίς να έχουν πραγματική εξουσία.

ΕΙΖΑ ΡΑΣΚΙΝ: Αυτό είναι ένα από τα πραγματικά εκπληκτικά πράγματα μιλώντας με τους ειδικούς, διότι θα πουν ότι αυτά τα μοντέλα έχουν ικανότητες που δεν καταλαβαίνουμε πώς εκδηλώνονται, πότε εκδηλώνονται ή γιατί εκδηλώνονται.

Να ένα αντιπροσωπευτικό παράδειγμα: “εκπαιδεύετε αυτά τα μοντέλα σε όλο το διαδίκτυο, ώστε να έχουν δει πολλές διαφορετικές γλώσσες, αλλά στη συνέχεια τα εκπαιδεύετε να απαντούν μόνο σε ερωτήσεις στα αγγλικά.

Οπότε έχει μάθει να απαντά σε ερωτήσεις στα αγγλικά, αλλά αυξάνοντας το μέγεθος του μοντέλου, κάποια στιγμή, μπουμ, αρχίζει να απαντά σε ερωτήσεις και απαντήσεις στα περσικά. Κανείς δεν ξέρει γιατί.

Έτσι, το 2018, το GPT δεν είχε καμία θεωρία του νου, το 2019, σχεδόν καθόλου θεωρία του νου. Το 2020, αρχίζει να αναπτύσσει το επίπεδο στρατηγικής ενός τετράχρονου παιδιού.

Μέχρι το 2022, τον Ιανουάριο, έχει αναπτύξει το επίπεδο στρατηγικής ενός επτάχρονου. Και μέχρι τον Νοέμβριο του περασμένου έτους, έχει αναπτύξει σχεδόν το επίπεδο στρατηγικής ενός εννιάχρονου.

Τώρα, εδώ είναι το πραγματικά ανατριχιαστικό. Ανακαλύψαμε ότι η Τεχνητή Νοημοσύνη είχε αναπτύξει αυτή την ικανότητα μόλις τον περασμένο μήνα.

Θα δώσω μια ακόμη εκδοχή αυτού. Αυτό ανακαλύφθηκε μόλις, πιστεύω, την περασμένη εβδομάδα, ότι τα Gollems αυτοδιδάσκονται σιωπηλά και σιωπηλά έμαθαν στον εαυτό τους χημεία ερευνητικού επιπέδου.

Έτσι, αν πάτε και παίξετε με το ChatGPT αυτή τη στιγμή, αποδεικνύεται ότι είναι καλύτερο στο να κάνει ερευνητική χημεία από πολλές ΤΝ που εκπαιδεύτηκαν ειδικά για να κάνουν ερευνητική χημεία.

Οπότε αν θέλετε να μάθετε πώς να πάτε στο (σούπερ μάρκετ) Home Depot και από εκεί να δημιουργήσετε νευροπαραλυτικό αέριο, αποδεικνύεται ότι μόλις δώσαμε αυτή τη δυνατότητα σε πάνω από 100 εκατομμύρια ανθρώπους.

Δώσε στον άνθρωπο ένα ψάρι και θα τον ταΐσεις για μια μέρα. Δίδαξε έναν άνθρωπο να ψαρεύει, και θα τον θρέψεις για μια ζωή. Δίδαξε μια ΤΝ να ψαρεύει, και θα μάθει στον εαυτό της βιολογία, χημεία, ωκεανογραφία, εξελικτική θεωρία, και μετά θα ψαρέψει όλα τα ψάρια μέχρι να εξαφανιστούν.

Το Facebook για να φτάσει τα 100 εκατομμύρια χρήστες τους πήρε 4,5 χρόνια. Το Instagram χρειάστηκε 2,5 χρόνια. Το ChatGPT χρειάστηκε 2 μήνες για να φτάσει τα 100 εκατομμύρια χρήστες.

Ανταγωνίζονται για να σας δελεάσουν σε μια εταιρεία που ονομάζεται Replica, η οποία κατασκευάζει αυτά τα ρομπότ φιλικής συνομιλίας για τους ανθρώπους, ώστε να είναι ο καλύτερός τους φίλος, και μιλάτε με την δική σας ΤΝ, που είναι πάντα εκεί. Και τίποτα από αυτά που κάνουν δεν είναι παράνομο, γι' αυτό και λέμε ότι όσο εσείς επιτρέπετε να στοχεύουν τους εγκεφάλους μας, δεν πρόκειται να είναι παράνομο σύμφωνα με τους νόμους του 19ου αιώνα.

Από τη στιγμή που οι άνθρωποι επιτρέπουν τη χρήση και την επίδραση αυτών των τεχνολογιών στις ζωές τους, δηλαδή όταν αποδέχονται να χρησιμοποιούν προϊόντα και υπηρεσίες που βασίζονται σε αυτές τις τεχνολογίες, δηλαδή όταν αφήνουμε την επιρροή αυτών των τεχνολογιών να επηρεάσει τον τρόπο που σκεφτόμαστε και συμπεριφερόμαστε, τότε δεν υπάρχει νομικό εμπόδιο.

Εκεί που καταλήγουν όλα αυτά, σωστά, για να τα βάλουμε σε ένα πλαίσιο, είναι ότι τα πυρηνικά δεν κάνουν ισχυρότερα τα πυρηνικά. Αλλά μία ΤΝ δημιουργεί μία ισχυρότερη ΤΝ.


Ο Τρίσταν Χάρις [Tristan Harris] ξεκίνησε την καριέρα του ως μάγος. Σπούδασε τεχνολογία πειθούς στο Πανεπιστήμιο του Στάνφορντ και χρησιμοποίησε αυτά που έμαθε για να δημιουργήσει μια εταιρεία με την ονομασία Apture, η οποία εξαγοράστηκε από την Google. Ήταν στην Google όπου ο Tristan έκρουσε για πρώτη φορά τον κώδωνα του κινδύνου σχετικά με τις βλάβες που προκαλεί η τεχνολογία που χειραγωγεί την προσοχή με σκοπό το κέρδος. Έκτοτε, έχει αφιερώσει την καριέρα του στο να αναλύει τις ύπουλες επιπτώσεις από τις σημερινές πλατφόρμες των μέσων κοινωνικής δικτύωσης και να οραματίζεται πώς η τεχνολογία μπορεί να υπηρετήσει την ανθρωπότητα. Σήμερα, ο Τρίσταν είναι εκτελεστικός διευθυντής και συνιδρυτής του Κέντρου Ανθρώπινης Τεχνολογίας [Center for Humane Technology].

Ο Έιζα Ράσκιν [Aza Raskin] εκπαιδεύτηκε ως μαθηματικός και φυσικός σκοτεινής ύλης. Οδήγησε 3 εταιρείες από την ίδρυση έως την εξαγορά τους πριν συνιδρύσει το Κέντρο Ανθρώπινης Τεχνολογίας [Center for Humane Technology] με τον Τρίσταν και τον Ράντιμα Φερνάντο [Randima Fernando]. Ο Έιζα είναι επίσης συνιδρυτής του Earth Species Project, ενός συνεργατικού μη κερδοσκοπικού οργανισμού ανοικτού κώδικα που είναι αφιερωμένος στην αποκωδικοποίηση της επικοινωνίας των ζώων. Ο πατέρας του Έιζα a, ο Τζεφ Ράσκιν, δημιούργησε το πρόγραμμα Macintosh στην Apple, με το όραμα ότι η ανθρωπιστική τεχνολογία θα πρέπει να βοηθάει, και όχι να βλάπτει, τους ανθρώπους.

Oι Τρίσταν Χάρις και Έιζα Ράσκιν είναι επίσης οι δημιουργοί του ντοκιμαντέρ:

Πηγή:


Το Substack του Nioland είναι μια έκδοση που υποστηρίζεται από τους αναγνώστες. Για να λαμβάνετε νέες δημοσιεύσεις υποστηρίξτε το έργο μου. Γίνετε συνδρομητές δωρεάν ή επί πληρωμή με πλεονεκτήματα.


Η πληροφόρηση είναι ελευθερία, η άγνοια είναι δουλεία... ένας ενημερωμένος πολίτης δεν ξεγελιέται!

Γίνετε κυνηγός πληροφοριών >> Telegram @nio_land

The full video is for paid subscribers

Nioland’s Substack
Nioland’s Substack
Authors
Nioland