Η Anthropic ανακοίνωσε τη διάθεση μιας νέας υπηρεσίας με την ονομασία OSS Scanner, η οποία στοχεύει στον εντοπισμό κενών ασφαλείας σε έργα ανοιχτού κώδικα. Η υπηρεσία προσφέρεται δωρεάν για τα έργα που θα επιλέξουν να συμμετάσχουν, παρέχοντας περιοδικούς και διεξοδικούς ελέγχους ασφαλείας.
Η ισχύς των μοντέλων και η έλλειψη ανθρώπινης επίβλεψης
Οι έλεγχοι θα πραγματοποιούνται από τα πλέον εξελιγμένα μοντέλα της εταιρείας, συμπεριλαμβανομένου του Claude Mythos, με στόχο να προσφέρουν το μέγιστο δυνατό αμυντικό πλεονέκτημα στην κοινότητα του ανοιχτού κώδικα. Ωστόσο, η Anthropic διευκρινίζει ότι τα αποτελέσματα του OSS Scanner θα παράγονται εξ ολοκλήρου από την τεχνητή νοημοσύνη, χωρίς ανθρώπινη αξιολόγηση ή ιεράρχηση.
Αυτή η προσέγγιση επιτρέπει ταχύτερους και συχνότερους ελέγχους, αλλά ενέχει τον κίνδυνο παραγωγής λανθασμένων ή άκυρων αναφορών. Η εταιρεία σημειώνει ότι οι αναφορές αυτές θα είναι «πλήρως παραγόμενες από μοντέλα», γεγονός που σημαίνει ότι οι προγραμματιστές θα πρέπει να τις αξιολογούν οι ίδιοι.
Η πρόκληση για τους συντηρητές λογισμικού
Η χρήση της AI στο κυνήγι σφαλμάτων (bug hunting) δεν είναι κάτι νέο, καθώς τέτοια εργαλεία βοήθησαν πρόσφατα στον εντοπισμό σημαντικών προβλημάτων, όπως το σφάλμα «Copy Fail» που επηρέασε τις διανομές Linux τον περασμένο Μάιο. Παρόλα αυτά, η αυξανόμενη ροή αναφορών που δημιουργούνται από AI αποτελεί πρόκληση για ορισμένους οργανισμούς και προσωπικότητες του χώρου. Ο Linus Torvalds, αλλά και η Google, έχουν εκφράσει προβληματισμούς για τη δυσκολία διαχείρισης αυτού του όγκου δεδομένων από τους συντηρητές των έργων.
