Σε μια κίνηση που υπογραμμίζει την αυξανόμενη ένταση μεταξύ της ταχείας τεχνολογικής προόδου και της θεσμικής ευθύνης, ο Kamar Samuels, Πρώτος Αναπληρωτής Καγκελάριος των Δημοσίων Σχολείων της Νέας Υόρκης, απέστειλε σαφές μήνυμα προς τους διευθυντές και τους επιθεωρητές της πόλης: Σταματήστε τις αγορές λογισμικού Τεχνητής Νοημοσύνης (AI). Η οδηγία αυτή, που αποκαλύφθηκε μέσω του Chalkbeat, δεν αποτελεί μια κίνηση τεχνοφοβίας, αλλά μια προσπάθεια επιβολής τάξης σε αυτό που πολλοί περιγράφουν ως την «Άγρια Δύση» της εκπαιδευτικής τεχνολογίας (EdTech).
Η ανάγκη για ένα ενιαίο ρυθμιστικό πλαίσιο
Η Νέα Υόρκη διαχειρίζεται το μεγαλύτερο σχολικό σύστημα στις Ηνωμένες Πολιτείες, με πάνω από ένα εκατομμύριο μαθητές. Η ευθύνη για την προστασία των προσωπικών δεδομένων αυτών των ανηλίκων είναι τεράστια. Ο Samuels υποστήριξε ότι η τρέχουσα πλημμύρα εργαλείων AI στην αγορά ενέχει κινδύνους που το Υπουργείο Παιδείας (DOE) δεν είναι ακόμη έτοιμο να διαχειριστεί πλήρως σε αποκεντρωμένο επίπεδο. «Πρέπει να διασφαλίσουμε ότι κάθε εργαλείο που εισέρχεται στις τάξεις μας δεν είναι μόνο παιδαγωγικά άρτιο, αλλά και ηθικά ασφαλές», ανέφερε η εγκύκλιος.
Το πάγωμα των αγορών αφορά κυρίως νέα συμβόλαια και συνδρομές σε πλατφόρμες που χρησιμοποιούν παραγωγική τεχνητή νοημοσύνη (Generative AI). Το DOE εργάζεται πυρετωδώς για την οριστικοποίηση ενός ολοκληρωμένου οδηγού χρήσης, ο οποίος θα καθορίζει ποια μοντέλα AI επιτρέπονται, πώς πρέπει να χρησιμοποιούνται από τους εκπαιδευτικούς και ποιες εγγυήσεις πρέπει να παρέχουν οι εταιρείες λογισμικού για την αποφυγή αλγοριθμικών μεροληψιών.
Προστασία δεδομένων και το φάντασμα της ανισότητας
Ένας από τους κύριους λόγους για την παρέμβαση του Samuels είναι η προστασία της ιδιωτικότητας. Πολλά εργαλεία AI «εκπαιδεύονται» πάνω στα δεδομένα που τους παρέχουν οι χρήστες. Στο περιβάλλον ενός σχολείου, αυτό σημαίνει ότι εργασίες μαθητών, προσωπικές σημειώσεις εκπαιδευτικών ή ακόμη και ευαίσθητα δεδομένα αξιολόγησης θα μπορούσαν να καταλήξουν στις βάσεις δεδομένων μεγάλων τεχνολογικών κολοσσών χωρίς σαφή έλεγχο. Η Νέα Υόρκη επιδιώκει να αποφύγει νομικές περιπέτειες που σχετίζονται με την παραβίαση ομοσπονδιακών νόμων, όπως ο COPPA και ο FERPA.
Επιπλέον, υπάρχει ο κίνδυνος της ψηφιακής ανισότητας. Εάν κάθε σχολείο αφεθεί ελεύθερο να αγοράζει το δικό του λογισμικό, τα εύπορα σχολεία με ισχυρούς συλλόγους γονέων θα μπορούσαν να αποκτήσουν προηγμένα εργαλεία AI, ενώ τα σχολεία σε υποβαθμισμένες περιοχές θα έμεναν πίσω. Η κεντρική διαχείριση που προτείνει ο Samuels στοχεύει στην ισότιμη πρόσβαση, διασφαλίζοντας ότι οι πόροι κατανέμονται δίκαια και ότι το λογισμικό που επιλέγεται είναι προσβάσιμο σε όλους τους μαθητές, ανεξαρτήτως του υπόβαθρου τους.
Μαθήματα από το παρελθόν: Η περίπτωση του ChatGPT
Η στάση της Νέας Υόρκης απέναντι στην AI έχει περάσει από σαράντα κύματα. Στις αρχές του 2023, το DOE είχε απαγορεύσει το ChatGPT λόγω ανησυχιών για λογοκλοπή και ασφάλεια. Ωστόσο, λίγους μήνες αργότερα, η απαγόρευση ήρθη, με τον Καγκελάριο David Banks να παραδέχεται ότι η τεχνολογία αυτή είναι αναπόφευκτη και ότι τα σχολεία πρέπει να μάθουν να την αξιοποιούν αντί να την φοβούνται. Η τρέχουσα κίνηση του Samuels θεωρείται η «ώριμη» φάση αυτής της εξέλιξης: από την απόλυτη απαγόρευση, στην ελεγχόμενη και στρατηγική ενσωμάτωση.
Οι εκπαιδευτικοί, από την πλευρά τους, εκφράζουν ανάμικτα συναισθήματα. Ενώ πολλοί επικροτούν την ανάγκη για ασφάλεια, άλλοι φοβούνται ότι η γραφειοκρατία θα καθυστερήσει την υιοθέτηση εργαλείων που θα μπορούσαν να μειώσουν τον φόρτο εργασίας τους, όπως οι αυτοματοποιημένοι βοηθοί για τον σχεδιασμό μαθημάτων. Το στοίχημα για τη Νέα Υόρκη είναι να βρει τη χρυσή τομή ανάμεσα στην ταχύτητα και την ασφάλεια, δημιουργώντας ένα πρότυπο που πιθανότατα θα ακολουθήσουν και άλλα σχολικά συστήματα σε όλο τον κόσμο.
Ο αντίκτυπος στην αγορά EdTech
Η απόφαση αυτή στέλνει επίσης ένα ισχυρό μήνυμα στις εταιρείες τεχνολογίας. Η εποχή που οι πωλητές μπορούσαν να προωθούν αμφίβολης ποιότητας εργαλεία απευθείας σε μεμονωμένους διευθυντές σχολείων φαίνεται να τελειώνει. Οι εταιρείες θα πρέπει πλέον να συμμορφώνονται με αυστηρά κριτήρια που θέτει το DOE, εστιάζοντας στη διαφάνεια των αλγορίθμων και στην ηθική χρήση των δεδομένων. Για πολλούς αναλυτές, αυτή η «παύση» είναι μια αναγκαία διόρθωση που θα οδηγήσει σε πιο ποιοτικά και αξιόπιστα εκπαιδευτικά προϊόντα στο μέλλον.
