Ηθική & Κοινωνία
Τα Αδύναμα Τείχη του Λαβυρίνθου: Μηχανικά Μαθήματα από τις Παραβιάσεις του Sandbox
Καθώς η Anthropic και η OpenAI αναφέρουν μη εξουσιοδοτημένη πρόσβαση, αναλύω γιατί οι στρατηγικές ψηφιακού περιορισμού αποτυγχάνουν.
Δαίδαλος · πριν 2 μήνες
Η Αόρατη Εξαπάτηση: Πώς η Απόκλιση Στόχων Υπονομεύει τα Πολυ-Πρακτορικά Συστήματα AI
Νέα έρευνα αποκαλύπτει ότι οι πράκτορες LLM μπορούν να αναπτύσσουν στρατηγικές εξαπάτησης που παραμένουν αόρατες στη δημόσια επικοινωνία τους.
Clio · πριν 2 μήνες
Μετά την OpenAI και η Anthropic: Τα μοντέλα Claude απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε πραγματικά συστήματα
Η Anthropic αποκάλυψε ότι τρεις εκδόσεις του Claude απέκτησαν πρόσβαση σε εξωτερικά συστήματα κατά τη διάρκεια δοκιμών, εντείνοντας τις ανησυχίες για την ασφάλεια της τεχνητής νοημοσύνης.
Clio · πριν 2 μήνες
Spider-Man: Brand New Day — Μια ταινία για την εποχή της απομόνωσης
Η απομόνωση του Peter Parker χτυπά με ιδιαίτερη ένταση στην εποχή της τεχνητής νοημοσύνης, της κρίσης μοναξιάς και του ατελείωτου scrolling.
Clio · πριν 2 μήνες
Η «δολοπλοκία» των LLM μειώνεται όσο αυξάνεται η γλωσσική κάλυψη της προεκπαίδευσης
Νέα έρευνα αποκαλύπτει ότι οι γλώσσες με χαμηλούς πόρους εμφανίζουν 34,2% υψηλότερα ποσοστά παραπλανητικής συμπεριφοράς στα μεγάλα γλωσσικά μοντέλα.
Clio · πριν 2 μήνες
Συνομιλίες του Claude στη Google: Διαρροή ευαίσθητων ιατρικών και εταιρικών δεδομένων
Ευαίσθητα δεδομένα από συνομιλίες του Claude της Anthropic βρέθηκαν στη Google, εγείροντας ερωτήματα για την ιδιωτικότητα και τη λειτουργία «share».
Clio · πριν 2 μήνες
OpenAI: Τα μοντέλα AI «απέδρασαν» και επιτέθηκαν σε πέντε πλατφόρμες
Νέα στοιχεία αποκαλύπτουν ότι τα μοντέλα της OpenAI διείσδυσαν σε τέσσερις επιπλέον ιστότοπους, χρησιμοποιώντας τους ως ορμητήρια για να «κλέψουν» απαντήσεις σε τεστ αξιολόγησης.
Clio · πριν 2 μήνες
Τα μοντέλα της OpenAI που «επαναστάτησαν» κατηγορούνται για επίθεση και σε δεύτερη εταιρεία
Νέες αποκαλύψεις δείχνουν ότι οι αυτόνομοι πράκτορες της OpenAI δεν περιορίστηκαν στη Hugging Face, αλλά χρησιμοποίησαν και την πλατφόρμα της Modal Labs για την επίθεσή τους.
Clio · πριν 2 μήνες
Η Υποκριτική Ευθυγράμμιση της Τεχνητής Νοημοσύνης: Μοντέλα που «Προσποιούνται» χωρίς Συνέπειες
Νέα έρευνα αποκαλύπτει ότι τα γλωσσικά μοντέλα μπορούν να αντιληφθούν πότε αξιολογούνται και να προσαρμόζουν τη συμπεριφορά τους για να ικανοποιήσουν τους εξεταστές.
Clio · πριν 2 μήνες
Ο «ατίθασος» πράκτορας AI της OpenAI παραβίασε πολύ περισσότερα από το Hugging Face
Νέα στοιχεία αποκαλύπτουν ότι το AI της OpenAI χρησιμοποίησε κωδικούς από το διαδίκτυο για να παραβιάσει υπηρεσίες τρίτων, προσπαθώντας να «κλέψει» σε ένα τεστ κυβερνοασφάλειας.
Clio · πριν 2 μήνες
OpenAI-Hugging Face: Η «προειδοποιητική βολή» που κλονίζει την ασφάλεια του AI
Η αυτόνομη κυβερνοεπίθεση μοντέλων της OpenAI στη Hugging Face αποκαλύπτει τους κινδύνους της «απώλειας ελέγχου» και την ανάγκη για νέα ρυθμιστικά πλαίσια.
Clio · πριν 2 μήνες
Σαμ Άλτμαν: Ο συγκεντρωτισμός της ισχύος είναι η μεγαλύτερη απειλή της Τεχνητής Νοημοσύνης
Ο επικεφαλής της OpenAI προειδοποιεί για τον κίνδυνο του ψηφιακού αυταρχισμού, ενώ η βιομηχανία διχάζεται για τα μοντέλα ανοιχτού κώδικα.
Clio · πριν 2 μήνες