"AI is biased": at the Cyprus Forum, the gender equality commissioner puts the training data on trial

Η τεχνητή νοημοσύνη αναπαράγει ήδη ανθρώπινες προκαταλήψεις και έμφυλα στερεότυπα, γεγονός που καθιστά το ποιος κάθεται στο δωμάτιο όπου σχεδιάζεται τεχνικό ζήτημα και όχι κοινωνική ευγένεια. Αυτό ήταν το επιχείρημα που έφερε η Επίτροπος Ισότητας των Φύλων Ιωσηφίνα Χριστοδούλου στο Cyprus Forum στη Λευκωσία, σε συζήτηση με τίτλο «Τεχνητή Νοημοσύνη και Ισότιμη Συμμετοχή: Ποιος Διαμορφώνει το Ψηφιακό Κράτος;». Η θέση της ήταν ευθεία — «η ΤΝ είναι προκατειλημμένη» — και εντόπισε την αιτία σε δύο σημεία: στα δεδομένα με τα οποία εκπαιδεύονται τα συστήματα και στους ανθρώπους που τα κατασκευάζουν. Το παράδειγμα που χρησιμοποίησε ήταν σκόπιμα απλό. Δώσε σε ένα μοντέλο χίλια βιβλία στα οποία ο γιατρός είναι κάθε φορά άντρας και η νοσοκόμα γυναίκα, και το μοντέλο θα σου το επιστρέψει ως γεγονός. Το πρόβλημα επιδεινώνεται όπου οι γυναίκες εκπροσωπούνται ισχνά στην τεχνολογία και την καινοτομία, επειδή οι άνθρωποι που αναπτύσσουν ένα σύστημα αναπόφευκτα αποφασίζουν ποιες εμπειρίες λαμβάνει υπόψη. Η Χριστοδούλου επισήμανε επίσης ένα πρόβλημα διατήρησης και όχι πρόσληψης: οι γυναίκες εισέρχονται στην τεχνολογία, αλλά αποχωρούν όταν κάνουν οικογένεια — πολιτισμικό αποτέλεσμα, υποστήριξε, και όχι περιορισμός των δυνατοτήτων τους. Τα μέτρα που πρότεινε διατρέχουν όλη τη διαδρομή: ενθάρρυνση των κοριτσιών προς τα STEM μέσω της εκπαίδευσης, σχεδιασμός τεχνολογίας που εξυπηρετεί σκόπιμα τις γυναίκες, και συμμετοχή γυναικών στη λήψη των αποφάσεων που τη διαμορφώνουν. Έκλεισε με την ασφάλεια των παιδιών, επισημαίνοντας εργαλεία ΤΝ που επιτρέπουν κακοποίηση μέσω deepfake και σεξουαλικοποιημένες εικόνες ανηλίκων, και υποστηρίζοντας την ψηφιακή παιδεία σε συνδυασμό με ανθρώπινη επίβλεψη. Τη συζήτηση συντόνισε ο Ανδρέας Δημητρίου, ιδρυτικό μέλος του AI³, με συν-συντονίστρια τη Ροδούλα Παπαλαμπριανού του Hope For Children CRC Policy Center.

Source