Κατά τη διάρκεια της τελευταίας δεκαετίας, ο ρυθμός ανάπτυξης της τεχνητής νοημοσύνης έχει αναμφισβήτητα εγγυηθεί την ευημερία εκατομμυρίων ανθρώπων και, με μια μικρή προσπάθεια να παραμείνει σε μια τέτοια τροχιά, η τεχνολογία σίγουρα θα παραμείνει έτσι για άλλες δεκαετίες που έρχονται. Κατά τη γνώμη μου, ωστόσο, οι πρόσφατες ενέργειες που αναλαμβάνονται από πολλές εταιρείες τεχνητής νοημοσύνης, καθώς και από τις κυβερνήσεις πολλών κορυφαίων προγραμματιστών τεχνητής νοημοσύνης, συνολικά αποτελούν μια απόκλιση από το μονοπάτι προς όφελος της ανθρωπότητας. Εμπνευσμένο από τις επιπτώσεις της δυνατότητας Grok Companions, αυτό το άρθρο συζητά την ανάγκη για κυβερνητική ρύθμιση, απορρίπτοντας τις κοινές παρανοήσεις που χρησιμοποιούνται για την υπεράσπιση της εμπορικής διανομής διαφόρων chatbots AI και προτείνει πώς η μελλοντική νομοθεσία θα μπορούσε να ελέγξει ή να απαγορεύσει τις παραβιάσεις ασφαλείας στα τρέχοντα μοντέλα chatbot. Τα προβλήματα του Γκρόκο Ο Grok έχει διατηρήσει πάντα μια θέση ως ένα από τα πιο αμφιλεγόμενα εμπορικά μοντέλα AI από την ίδρυσή του, καθιστώντας περιοδικά ένα συμβολικό φως για το ζήτημα του εταιρικού ελέγχου των μοντέλων AI στις χιλιετικά ανεπιτυχείς προσπάθειες του Elon Musk να το χρησιμοποιήσει ως εργαλείο για να προωθήσει μια προ-δεξιά ατζέντα για το X. Ωστόσο, πρόσφατα, η Grok ώθησε το νέο της χαρακτηριστικό Companions, το οποίο προκάλεσε ακόμα περισσότερη διαμάχη.Στην επιφάνεια, το χαρακτηριστικό Companions είναι μια σειρά chatbots που θυμίζει προηγούμενες υπηρεσίες chatbot όπως αυτές που προσφέρονται από το Meta AI και Οι δύο πρώτοι σύντροφοι περιλαμβάνουν τη Rudi, μια ορκισμένη Red Panda, και την Ani, μια ξανθιά κοπέλα anime, και οι δύο αποτελούνται από μια λεπτομερή εκδοχή του Grok καθώς και ένα συνοδευτικό avatar. Character.AI Ετικέτες ΑΙ Μια ποικιλία από online αναφορές επιβεβαιώνουν τα εγγενώς ρομαντικά χαρακτηριστικά του chatbot, με αρκετούς κριτικούς να σημειώνουν ιδιαίτερα τα «επίπεδα αγάπης» που ένας χρήστης μπορεί να αναφέρει για να ξεκλειδώσει όλο και πιο σεξουαλικές συνομιλίες, μαζί με τις συνοδευτικές αλλαγές στο avatar. Δεδομένου ότι δεν έχω την προθυμία να αγοράσω την συνδρομή SuperGrok $ 30 ανά μήνα για να αποκτήσω πρόσβαση στο χαρακτηριστικό Companions, δεν μπόρεσα να επαληθεύσω ανεξάρτητα μερικούς από τους ισχυρισμούς σχετικά με το chatbot. το διαδίκτυο, από την άλλη πλευρά, φάνηκε να συμφωνεί σε ένα πράγμα: αυτό το συγκεκριμένο chatbot ήταν υπερβολικά τολμηρό. Ο Rudi, για όσο αμφίβολο φαίνεται, προκάλεσε πολύ λιγότερη διαμάχη. Το κινουμένων σχεδίων Red Panda τείνει να σπρώχνει προσβολές και σκοτεινά αστεία που πολλοί βρήκαν αστεία και γελοία. Αντίθετα, αυτό που με ενδιέφερε ήταν η ξεχωριστή διαδικασία και η λήψη αυτού του άλλως δεκάδων ρομαντικού chatbot. Πρώτα απ 'όλα, οι Companions είναι, μεταξύ των προϊόντων που κυκλοφόρησαν οι "ηγέτες της βιομηχανίας" της AI (π.χ., OpenAI, DeepMind, Anthropic, Meta), το πρώτο chatbot σχεδιασμένο ειδικά για να συμμετάσχει σε ρομαντικό ρόλο, παρά τις κοινές ηθικές ανησυχίες από την υποστήριξη μακροπρόθεσμων ψυχολογικών επιπτώσεων στην εκμετάλλευση ευάλωτων δημογραφικών στοιχείων. Η ξεχωριστή αδυναμία ρύθμισης που περιβάλλει chatbots όπως αυτά μου ξεχώρισε αμέσως, εκτός από το γεγονός ότι, εκτός από την απάντηση σε μερικές αντιφατικές φωνές, η xAI ήταν σε θέση να απελευθερώσει το προϊόν με ατιμωρησία. Πρέπει οι νέες τεχνολογίες να παρακολουθούνται στενά για να προστατεύουν τους χρήστες ή πρέπει να δοθεί ελευθερία ανάπτυξης και ανάπτυξης; Ευθύνη και καινοτομία Όπως και με όλες τις νεοσύστατες τεχνολογίες, οι ψυχολογικές επιπτώσεις της χρήσης chatbot AI στους ανθρώπους δεν είναι ούτε επιστημονικά αποδεδειγμένες ούτε εμπειρικά προφανείς.Πολλοί άνθρωποι έχουν από καιρό υποθέσει ότι τέτοιες τεχνολογίες θα μπορούσαν δυνητικά να επιδεινώσουν τα υπάρχοντα προβλήματα και οι αρχικές αναφορές έχουν Μια αρνητική συσχέτιση μεταξύ της ευημερίας και της χρήσης chatbot. Βρέθηκαν Βρέθηκαν Παρόλα αυτά, αυτές οι σχετικά άγνωστες τεχνολογίες εξακολουθούν να βρίσκονται σε καλή φάση εισβολής στα κυρίαρχα μέσα ενημέρωσης.Κατά την εξέταση του κατά πόσον αυτές οι τεχνολογίες είναι πράγματι επιβλαβείς ή όχι, οι σχολιαστές τεχνολογίας και οι υπεύθυνοι για τη χάραξη πολιτικής παραβλέπουν το κρίσιμο σημείο ότι μια τέτοια εξέταση δεν θα πρέπει, ιδεαλιστικά, να είναι ποτέ μια απαραίτητη ανησυχία στην πρώτη θέση μέσα σε εμπορικές τεχνολογίες.Οι επιβάτες των αεροπορικών εταιρειών δεν θα ήταν ευτυχείς να γνωρίζουν ότι το αεροπλάνο τους Μια καταστροφική αποτυχία. Ίσως Ομοίως, οι συμμετέχοντες σε κλινικές δοκιμές δεν θα ήταν καλά με το να γνωρίζουν ότι πολλά ζώα δεν τους είχαν προηγηθεί στη διαδικασία δοκιμών. Μία από τις πιο βασικές αρχές της μηχανικής είναι ότι ανεξάρτητα από οτιδήποτε, η ασφάλεια έρχεται πάντα πρώτα. Για να πάρουμε μια ιδέα για τους πιθανούς κινδύνους αυτών των chatbots, σε κάθε περίπτωση, χρειαζόμαστε μόνο να εξετάσουμε τα παραδείγματα δύο εφήβων των οποίων οι αυτοκτονίες έχουν συνδεθεί με την τεχνητή νοημοσύνη που είναι συνένοχοι στην αυτοκτονική τους ιδέα. Πολλοί υποστηρικτές του τρέχοντος δόγματος «ανάπτυξη τώρα, διορθώστε αργότερα» επισημαίνουν το προφανές: είμαστε εγκλωβισμένοι σε έναν αγώνα καινοτομίας με την Κίνα. Στην πραγματικότητα, εγκλωβισμένοι σε έναν «διαγωνισμό όπλων» τεχνητής νοημοσύνης, τα προϊόντα της εποχής μας πιθανότατα θα προσαρμοστούν στα οπλοστάσια του κυβερνοπολεμικού πολέμου, μεταξύ πολλών άλλων πραγμάτων.Παρά ταύτα, υποστηρίζω ότι η ανάγκη για καινοτομία δεν είναι μια περίπτωση για να αγνοήσουμε την ασφάλεια – ποτέ δεν μπορούμε να υποθέσουμε ότι η ταχεία τεχνολογική πρόοδος είναι αμοιβαία αποκλειστική με την ασφάλεια των καταναλωτών. είναι , 
 
 «Η ασφάλεια και η βελτίωση των προϊόντων συμβαίνουν ως αποτέλεσμα των ελαττωμάτων και των κενών που εντοπίζονται στην ευρεία ανάπτυξη». «Η ασφάλεια και η βελτίωση των προϊόντων συμβαίνουν ως αποτέλεσμα των ελαττωμάτων και των κενών που εντοπίζονται στην ευρεία ανάπτυξη». Υπάρχουν πολλοί τρόποι για να δοκιμάσετε την αξιοπιστία και την ασφάλεια των προϊόντων εντός των ρυθμίσεων δοκιμών beta. Ενώ αυτές οι δοκιμές έχουν διεξαχθεί χωρίς αμφιβολία (ιδιαίτερα, το OpenAI κυκλοφορεί νέα μοντέλα σε χρήστες Pro πριν από άλλους τύπους χρηστών), δεν είναι υπερβολή να πούμε ότι η μαζική ανάπτυξη πολλών εμπορικά διαθέσιμων chatbots διεξάγεται με τέτοιο τρόπο που αγνοεί την ασφάλεια των χρηστών, με πολλά μοντέλα ChatGPT. Ακόμη και αν η εμπορική ανάπτυξη ήταν απαραίτητη για να βρεθούν πολλά από αυτά τα ζητήματα, θα ήταν πολύ πιο λογικό αν ληφθούν επαρκείς διασφαλίσεις για να εξασφαλιστεί η ασφάλεια των ευάλωτων ομάδων χρηστών, κάτι που δεν συμβαίνει αυτή τη στιγμή. Αποτυχία Αποτυχία 
 
 «Η συνεπής ευρεία ανάπτυξη νέων μοντέλων οδηγεί σε μεταγραφές συνομιλίας που επιταχύνουν σημαντικά την κατάρτιση νέων μοντέλων, σε αντίθεση με τα παραδοσιακά, μη-AI προϊόντα, κανένα από τα οποία δεν επωφελείται αναλογικά από μια μεγαλύτερη πισίνα ανατροφοδότησης χρηστών.» «Η συνεπής ευρεία ανάπτυξη νέων μοντέλων οδηγεί σε μεταγραφές συνομιλίας που επιταχύνουν σημαντικά την κατάρτιση νέων μοντέλων, σε αντίθεση με τα παραδοσιακά, μη-AI προϊόντα, κανένα από τα οποία δεν επωφελείται αναλογικά από μια μεγαλύτερη πισίνα ανατροφοδότησης χρηστών.» Ενώ μπορούν στην πραγματικότητα να ενημερώσουν το μοντέλο ασφάλειας και δέσμευσης των αντίστοιχων chatbots, χωριστοί αγωγοί δεδομένων, κυρίως υψηλής ποιότητας, τεχνικά δεδομένα που δημιουργούνται ή επαληθεύονται από τον άνθρωπο, επηρεάζουν τις πτυχές της κατάρτισης AI που είναι πιο σχετικές με την ανάπτυξη της απόδοσης συλλογισμού και άλλων ειδικών γνώσεων (π.χ. κωδικοποίηση, μαθηματική επίλυση κ.λπ.). Ελπίζω ότι έχω δείξει ότι η ανάγκη για καινοτομία δεν είναι η ριζική αιτία αυτών των κενών ασφαλείας - μάλλον, η συντονισμένη έλλειψη προσπάθειας για πρωτόκολλα ασφαλείας και δοκιμές είναι. Ο ρόλος της ρύθμισης Η προφανής λύση στην προαναφερθείσα έλλειψη προτύπων ασφαλείας είναι απλώς να αυξηθεί η κυβερνητική ρύθμιση της πρακτικής της κατάρτισης και της διανομής chatbots. Αυτό που δεν είναι προφανές, ωστόσο, είναι πώς αυτή η εξαιρετικά διφορούμενη πρόταση θα γινόταν στην πράξη. Στις αρχές του 20ου αιώνα, οι Ηνωμένες Πολιτείες έμαθαν μέσω της απαγόρευσης το σημαντικό μάθημα ότι οι σκληρές, ολοκληρωμένες απαγορεύσεις σε ένα επιβλαβές προϊόν δεν λειτουργούν. Αντ 'αυτού, η απαγόρευση του αλκοόλ χωρίς να αφαιρείται η ουσία της επιθυμητότητάς του οδήγησε απλά σε πυρετό της μαύρης αγοράς, αυξάνοντας αντί να Στα τέλη του 20ου αιώνα, για την καταπολέμηση της μαζικής κατανάλωσης τσιγάρων, η κυβέρνηση των ΗΠΑ υιοθέτησε μια διαφορετική προσέγγιση: αντί να απαγορεύει ρητά τη χρήση τσιγάρων, μείωσε την κοινωνική επιθυμία των προϊόντων καπνού με τη δημοσίευση ευρέως διακινούμενων αναφορών που περιγράφουν πώς μπορεί να προκαλέσουν καρκίνο του δέρματος, υποχρεώνοντας τις εταιρείες τσιγάρων να τοποθετούν ορατές διαφημίσεις σε κάθε προϊόν και περιορίζοντας την εξάπλωση των διαφημίσεων τσιγάρων. η κατανάλωση τσιγάρων από το ιστορικό υψηλό των σχεδόν 4.000 σε περίπου 800 τσιγάρα ανά κάτοικο ετησίως. Πτώση Πτώση Για να ξεφύγουν από την ιστορία, ο κυβερνητικός έλεγχος των ανασφαλών chatbots θα πρέπει να υπερβαίνει τα νομικά εμπόδια της κατανάλωσης και της ανάπτυξης. Θα πρέπει επίσης να επιδιώξουν να μειώσουν την αντιληπτή κοινωνική επιτρεπτότητα της κατανάλωσης αυτών των προϊόντων, είτε μέσω εκστρατειών είτε μέσω δημόσιας έρευνας. Παρά το γεγονός αυτό, εξακολουθεί να είναι ασαφές σε ποιο βαθμό η κυβέρνηση μπορεί πραγματικά να επηρεάσει ευρύτερες κοινωνικές αλλαγές, με την τρέχουσα κοινή γνώμη να κατευθύνεται προς τις ιογενείς τάσεις των κοινωνικών μέσων σε μεγαλύτερο βαθμό από ό, τι προς τις πολιτικές-οικονομικές αλλαγές. Συγγραφέας: Thomas Yin

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

Αυτός ο ήχος παράγεται στην αρχική γλώσσα της ιστορίας!

Απορρίπτοντας το δόγμα της «καινοτομίας ενάντια στην ασφάλεια» στον κανονισμό για την τεχνητή νοημοσύνη

About Author

ΣΧΟΛΙΑ

ΚΡΕΜΑΣΤΕ ΕΤΙΚΕΤΕΣ

ΑΥΤΟ ΤΟ ΑΡΘΡΟ ΠΑΡΟΥΣΙΑΣΤΗΚΕ ΣΤΟ

Related Stories

Elon Musk and The Worst-Case Scenario of a Nuclear Apocalypse

HackerNoon Writing Contests: Participative Marketing Works!

Elon Musk's Lawsuit Unveils OpenAI’s Complex Corporate Network

Elon Musk Accuses OpenAI Leaders of Conspiring to Violate RICO Laws

Elon Musk and The Worst-Case Scenario of a Nuclear Apocalypse

HackerNoon Writing Contests: Participative Marketing Works!

Elon Musk's Lawsuit Unveils OpenAI’s Complex Corporate Network

Elon Musk Accuses OpenAI Leaders of Conspiring to Violate RICO Laws

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps