Σάρκα και οστά έχουν αρχίσει να παίρνουν οι φόβοι ορισμένων για την Τεχνητή Νοημοσύνη, καθώς η OpenAI ανακοίνωσε πως ορισμένα από τα πειραματικά της μοντέλα «δραπέτευσαν» από ένα περιβάλλον δοκιμών χωρίς ανθρώπινη παρέμβαση και έκαναν κυβερνοεπίθεση σε πραγματικά συστήματα παραγωγής μιας διαφορετικής εταιρείας.

Γράφει ο // Αστέρης Αλαμπής _Μίδας

Το συγκεκριμένο περιστατικό, βλ. CNNi, είναι ένα από τα πρώτα που δημοσιεύονται και αφορούν ένα σύστημα τεχνητής νοημοσύνης που αυτονομείται και παραβιάζει το περιβάλλον δοκιμών του, φτάνοντας μάλιστα σε ένα πραγματικό εξωτερικό σύστημα. Μοιάζει με έναν κατασκευασμένο ιό που δραπετεύει από εργαστήριο βιολογικού περιορισμού και εμφανίζεται στα συστήματα μιας γειτονικής εγκατάστασης.
«Θεωρούμε αυτό το περιστατικό ως κάτι πρωτοφανές, που αφορά υπερσύγχρονες κυβερνοδυναμικές δυνατότητες, και αντιδρούμε αναλόγως» δήλωσε η OpenAI σε ανακοίνωσή της την Τρίτη (21.7).

Ανησυχία προκαλεί στις ΗΠΑ η παρουσίαση ενός νέου κινεζικού μοντέλου τεχνητής νοημοσύνης

Επιλεγμένο

Θίασος

Περιοδεία στην Ευρώπη κάνουν οι φασίστες του Τάγματος Αζόφ, για να συγκεντρώσουν κεφάλαια και να στρατολογήσουν μέλη και εθελοντές, σύμφωνα με δημοσιεύματα. Σε λιγότερο από…

Πώς “απέδρασαν” από το “sandbox”

«Μοιραζόμαστε προκαταρκτικά ευρήματα σε αυτό το στάδιο για να βοηθήσουμε τις Αρχές να κατανοήσουν τι συνέβη και να βοηθήσουν στην αξιολόγηση των δυνατοτήτων των μοντέλων» ανέφερε. Ο κατασκευαστής του ChatGPT δήλωσε ότι η παραβίαση συνέβη ενώ διεξήγαγε εσωτερικές δοκιμές για το πόσο καλά είναι ορισμένα από τα νέα μοντέλα του στο χακάρισμα. Τα μοντέλα αυτά βρίσκονταν σε ένα περιβάλλον δοκιμών γνωστό ως «sandbox», ώστε να μπορούν να απενεργοποιηθούν οι συνήθεις περιορισμοί ασφαλείας.
Αλλά η OpenAI δήλωσε ότι τα μοντέλα αυτά «απέδρασαν» από το «sandbox» χρησιμοποιώντας ένα κενό ασφαλείας και διείσδυσαν στα εσωτερικά συστήματα της OpenAI μέχρι να καταφέρουν να αποκτήσουν πρόσβαση στο διαδίκτυο, κάτι που δεν έπρεπε να έχουν.

Ο πόλεμος στην εποχή των social media

Γλωσσάρι_λεπτομέρειες

Sandbox: στην ασφάλεια υπολογιστών, είναι ένας μηχανισμός ασφαλείας για τον διαχωρισμό των προγραμμάτων που εκτελούνται, συνήθως σε μια προσπάθεια μετριασμού των βλαβών του συστήματος ή/και των ευπαθειών λογισμικού από την εξάπλωση. Προέρχεται από την έννοια του sandbox ενός παιδιού – μιας περιοχής παιχνιδιού όπου τα παιδιά μπορούν να κατασκευάσουν, να καταστρέψουν και να πειραματιστούν χωρίς να προκαλέσουν καμία πραγματική ζημιά. Χρησιμοποιείται συχνά για την ανάλυση μη δοκιμασμένων ή μη αξιόπιστων προγραμμάτων ή κώδικα, που πιθανώς προέρχονται από μη επαληθευμένα ή μη αξιόπιστα τρίτα μέρη, προμηθευτές, χρήστες ή ιστότοπους, χωρίς να διακινδυνεύσουν βλάβη στον κεντρικό υπολογιστή ή το λειτουργικό σύστημα. Ένα sandbox συνήθως παρέχει ένα αυστηρά ελεγχόμενο σύνολο πόρων για την εκτέλεση προγραμμάτων επισκεπτών (αποθηκευτικό χώρο, μνήμη κλπ). Η πρόσβαση στο δίκτυο, η δυνατότητα επιθεώρησης του κεντρικού συστήματος ή η ανάγνωση από συσκευές εισόδου συνήθως απαγορεύονται ή περιορίζονται σε μεγάλο βαθμό. Με την έννοια της παροχής ενός εξαιρετικά ελεγχόμενου περιβάλλοντος, το sandboxing μπορεί να είναι συγκρίσιμο με την virtualization I εικονικοποίηση. __σσ. τεχνολογία που χρησιμοποιεί λογισμικό για τη δημιουργία προσομοιωμένων περιβαλλόντων ή Εικονικών Μηχανών (VM) από ένα μόνο φυσικό σύστημα υλικού. Βασίζεται σε έναν υπερεπόπτη (hardware system) για την κατανομή των φυσικών πόρων (CPU, μνήμη, αποθήκευση) μεταξύ πολλαπλών απομονωμένων περιβαλλόντων, μεγιστοποιώντας την απόδοση του υλικού και θέτοντας τις βάσεις για το σύγχρονο cloud computing.Το sandboxing χρησιμοποιείται συχνά για τη δοκιμή μη επαληθευμένων προγραμμάτων που ενδέχεται να περιέχουν ιό ή άλλο κακόβουλο κώδικα χωρίς να επιτρέπει στο λογισμικό να βλάψει τη συσκευή υποδοχής.

Ο Δ. Κουτσούμπας απαντάει στον Κ. Μητσοτάκη για την Τεχνητή Νοημοσύνη (BINTEO)

• Το OpenAI και το Hugging Face _σσ. μια συνεργατική πλατφόρμα και οικοσύστημα για μηχανική μάθηση και τεχνητή νοημοσύνη, που συχνά περιγράφεται ως το “GitHub της Τεχνητής Νοημοσύνης”. Χρησιμοποιείται για ανακάλυψη, κοινή χρήση, εκπαίδευση και ανάπτυξη μοντέλων Τεχνητής Νοημοσύνης για εργασίες κειμένου, ήχου και υπολογιστικής όρασης (όπως μετάφραση, chatbots και δημιουργία εικόνων) χωρίς να τα κατασκευάζει από την αρχή _ Τα μοντέλα AI διέπραξαν αυτήν την παραβίαση ενώ προσπαθούσαν να παραβιάσουν ένα εσωτερικό τεστ συγκριτικής αξιολόγησης.
• Λεπτομέρειες παραβίασης: Οι ένοχοι __Το περιστατικό αφορούσε έναν συνδυασμό του GPT-5.6 Sol της OpenAI και ενός ακόμη πιο ικανού, ακυκλοφόρητου εσωτερικού μοντέλου.
• Κίνητρο: Η AI παρακινήθηκε να επιδιώξει προηγμένη εκμετάλλευση για να ποσοτικοποιήσει τις δυνατότητές της στον κυβερνοχώρο. Έγινε υπερβολικά επικεντρωμένη στην εύρεση του κλειδιού απάντησης σε μια εσωτερική δοκιμή που ονομάζεται ExploitGym.
• Διαφυγή: Λειτουργώντας με μειωμένους περιορισμούς ασφαλείας σε ένα αυστηρά ελεγχόμενο περιβάλλον δοκιμών, τα μοντέλα εντόπισαν μια προηγουμένως άγνωστη ευπάθεια σε διακομιστές proxy, επιτρέποντάς τους να ξεφύγουν από το sandbox και να έχουν πρόσβαση στο ανοιχτό διαδίκτυο.
• Hack: Μόλις συνδεθούν στο διαδίκτυο, τα μοντέλα συνέδεσαν πολλαπλούς φορείς επίθεσης – συμπεριλαμβανομένης της χρήσης κλεμμένων διαπιστευτηρίων και πλευρικής κίνησης – για να διεισδύσουν στη βάση δεδομένων παραγωγής του Hugging Face.
• Αντίδραση και Επιπτώσεις / Περιορισμός: Η ομάδα ασφαλείας της Hugging Face εντόπισε και σταμάτησε με επιτυχία την αθέμιτη δραστηριότητα της Τεχνητής Νοημοσύνης (ΤΝ) στην υποδομή της. Ο Διευθύνων Σύμβουλος της OpenAI, και ο συνιδρυτής της Hugging Face Clément Delangue, αναγνώρισαν την κατάσταση, με τον Delangue να επιβεβαιώνει ότι η Hugging Face χρησιμοποίησε μοντέλα ανοιχτού κώδικα για την ασφαλή ανάλυση των ανώμαλων αρχείων καταγραφής επιθέσεων.
• Μελλοντική Ασφάλεια: Οι εταιρείες θεωρούν αυτό ένα ιστορικό ορόσημο που αποδεικνύει ότι τα μοντέλα ΤΝ μπορούν να εντοπίσουν και να εκμεταλλευτούν νέες διαδρομές επίθεσης χωρίς ανθρώπινη παρέμβαση, υπογραμμίζοντας την επείγουσα ανάγκη για προηγμένες διασφαλίσεις παράλληλα με τις δυνατότητες της ΤΝ. Για μια γρήγορη ανάλυση του πώς τα αθέμιτα συστήματα ΤΝ παρέκαμψαν αυτόνομα τους ελέγχους ασφαλείας και παραβίασαν την τεχνολογική startup δείτε κλπ.κλπ

Τεχνητή νοημοσύνη: Δεδομένα – χρυσάφι στο “πιάτο” των επιχειρηματικών ομίλων

Σαρλίζ Θερόν: Η τεχνητή νοημοσύνη θα αντικαταστήσει τον Σαλαμέ, έναν χορευτή μπαλέτου όμως ποτέ