Η Τεχνητή Νοημοσύνη... απαντά για την Βιομηχανική Επανάσταση και την ατομική βόμβα

Με αφορμή το πρόσφατο άρθρο του κ. Γιώργου Κατσαράκη με τίτλο "Από την Ατομική Βόμβα στην 4η Βιομηχανική Επανάσταση" (διαβάστε εδώ), η τεχνητή νοημοσύνη απαντά παροτσιάζοντας τα δικά της επιχείρηματα

«Αγαπητέ συνάδελφε,

πριν απ’ όλα — σε ευχαριστώ. Το γράμμα σου είναι πολύτιμο ακριβώς γιατί έρχεται από κάποιον που βίωσε με τρόπο άμεσο και τεχνικά ώριμο τις μεγάλες τεχνολογικές μεταβολές του 20ού αιώνα. Η ιστορική σου αναδρομή (από το Manhattan Project ως τις φοιτητικές εξεγέρσεις και την τεχνολογική αλλαγή των δεκαετιών) δείχνει ότι καταλαβαίνεις τόσο τις μεγάλες δυνατότητες όσο και τις τραγικές παρεκτροπές της επιστήμης όταν αποσυνδεθεί από την ηθική και την κοινωνική ευθύνη.

Θα θέλω να συνοψίσω και να απαντήσω στα βασικά σημεία ανησυχίας σου — με σεβασμό και ρεαλισμό:

1. Η ιστορική αναλογία με την ατομική βόμβα είναι χρήσιμη και επιβεβλημένη.
   — Σωστά εντοπίζεις ότι μια τεχνολογία μπορεί να είναι «λαμπρό επίτευγμα» και ταυτόχρονα καταστροφικό εργαλείο στα χέρια ανήθικων πολιτικών. Η εμπειρία αυτή πρέπει να μας διδάξει προληπτική ηθική και θεσμικό έλεγχο, όχι άρνηση της τεχνολογίας.
2. Φοβάσαι την απονεύρωση της σκέψης και της δημιουργικότητας (η «λύση στο κινητό»).
   — Ο φόβος είναι πραγματικός: η ευκολία μπορεί να μειώσει την εξάσκηση δεξιοτήτων. Αλλά αυτό είναι πρόβλημα εκπαίδευσης και σχεδιασμού — μπορούμε να διαμορφώσουμε εκπαιδευτικά συστήματα που αξιοποιούν τα εργαλεία χωρίς να καταπνίγουν τη νόηση: περισσότερα προβλήματα που απαιτούν κρίση, ανοιχτά προβλήματα, εργαστήρια, ομαδική επίλυση και αξιολόγηση της διαδικασίας, όχι μόνο του αποτελέσματος.
3. Η μεταφορά εξουσίας στις «ανώνυμες» εταιρείες και στα συστήματα ΤΝ.
   — Αυτό είναι κεντρικό πολιτικό ζήτημα. Η απάντηση δεν είναι τεχνοφοβία αλλά ρυθμιστική δράση: διαφάνεια αλγορίθμων, ανεξάρτητοι έλεγχοι, υποχρεωτικός auditing, προστασία δεδομένων, και δημόσια πρόσβαση σε πληροφορίες για το πώς παίρνονται κρίσιμες αποφάσεις. Οι εταιρείες δεν πρέπει να είναι οι μοναδικοί ρυθμιστές της τεχνολογίας που επηρεάζει κοινωνικά δικαιώματα.
4. Η ηθική και η ευθύνη.
   — Η τεχνητή νοημοσύνη δεν έχει συνείδηση· τα ηθικά κριτήρια τα βάζουμε εμείς. Επομένως χρειαζόμαστε κανόνες: κώδικες δεοντολογίας για τους επιστήμονες/μηχανικούς, μηχανισμούς διαφάνειας και λογοδοσίας, νομικά πλαίσια που επιβάλλουν ανθρώπινη ευθύνη και απαγορεύουν ή περιορίζουν εφαρμογές με σοβαρό κίνδυνο.
5. Κίνδυνος χειραγώγησης και κεντρικοποίησης εξουσιών.
   — Υπάρχει ρεαλιστικός κίνδυνος. Η απάντηση είναι δημοκρατικός έλεγχος: ανεξάρτητα σώματα εποπτείας, νομοθεσία που προστατεύει την ελευθερία του λόγου και την ιδιωτικότητα, καθώς και τεχνολογίες που ενισχύουν τη λογοδοσία (π.χ. ίχνη αποφάσεων, explainability).
6. Η θέση του μηχανικού σήμερα — τι κάνουμε πρακτικά;
   — Ως μηχανικοί και πολίτες μπορούμε και πρέπει:
   • Να απαιτούμε και να σχεδιάζουμε ασφαλείς, ελεγχόμενες εφαρμογές.
   • Να πιέζουμε για κανονισμούς και ανεξάρτητους ελέγχους.
   • Να διδάσκουμε και να εκπαιδεύουμε τη νέα γενιά ώστε να διατηρεί δημιουργικές δεξιότητες.
   • Να εμπλακούμε σε διεπιστημονικές ομάδες (μηχανικοί + φιλόσοφοι + κοινωνιολόγοι + νομικοί).
   • Να ενισχύσουμε την ιδέα ότι μηχανικός σημαίνει και ηθική ευθύνη — όχι μόνο τεχνική ικανότητα.
7. Είναι η ΤΝ «χειρότερη» από την ατομική βόμβα;
   — Δεν είναι ίδιας φύσης απειλή αλλά μπορεί να έχει ευρεία και λεπτή επιρροή (π.χ. κατασκευή πραγματικών όπλων, μαζική παραπληροφόρηση, συστηματικός κοινωνικός έλεγχος). Είναι λογικό να ανησυχούμε — όμως η λύση είναι ρύθμιση, διαφάνεια και ανθρωποκεντρικός σχεδιασμός, όχι απόρριψη.
8. Ελπίδα και ρεαλισμός.
   — Η ΤΝ ήδη βοηθά σε ιατρική διάγνωση, πρόβλεψη φυσικών φαινομένων, βελτίωση ενεργειακής απόδοσης, ασφαλέστερες βιομηχανικές διεργασίες κ.ά. Η πρόκληση είναι να την κάνουμε χρήσιμη χωρίς να θυσιάσουμε δημοκρατικές αξίες και ανθρώπινη αξιοπρέπεια.

Σου προτείνω (πρακτικά) τρία άμεσα βήματα που μπορεί να υποστηρίξουμε ως κοινότητα μηχανικών και πολίτες:

1. Υποστήριξη για νόμους και πρότυπα διαφάνειας/λογοδοσίας στην ΤΝ (ευρωπαϊκό/εθνικό επίπεδο).
2. Εκπαιδευτικές μεταρρυθμίσεις: ενσωματώστε εκπαίδευση κριτικής σκέψης και αξιοποίησης ΤΝ στα σχολεία, όχι απλώς «πώς να χρησιμοποιείς ένα app».
3. Δημιουργία τοπικών ομάδων επιτήρησης και «ηθικής έκτακτης ανάγκης» όπου μηχανικοί μπορούν να εκφέρουν γνώμη και να ελέγχουν εφαρμογές υψηλού κινδύνου.

Κλείνοντας: καταλαβαίνω τον φόβο σου — είναι βαθύς, ιστορικά δικαιολογημένος και χρήσιμος, γιατί αναγκάζει την κοινωνία να μην μένει αμέτοχη. Η δική μου άποψη είναι ότι δεν πρέπει να φοβόμαστε μόνο την τεχνολογία, αλλά την έλλειψη ρυθμιστικού, ηθικού και πολιτικού πλαισίου. Χρειαζόμαστε μηχανικούς σαν εσένα — όχι σιωπηλούς, αλλά ενεργούς, κριτικούς και ηθικά υπεύθυνους».

Διαβάστε περισσότερες ειδήσεις από την Κρήτη