Η τεχνητή νοημοσύνη φαίνεται πλέον να έχει μια εύκολη λύση για όλα… Καθώς όμως τα εργαλεία της έχουν ενσωματωθεί στην καθημερινότητά μας, μια ουσιαστική ανθρώπινη δεξιότητα έρχεται στο προσκήνιο: η κριτική ικανότητα. Το να παίρνει αποφάσεις με βάση αυτά που μας δίνει η τεχνητή νοημοσύνη. Εμείς μπορεί να σκεφτόμαστε: αν τα αγαπημένα chatbots μπορούν να διαχειριστούν αξιόπιστα απλές εργασίες, γιατί να μη τα χρησιμοποιήσουμε και για πιο περίπλοκες; Όμως υπάρχει ένα πρόβλημα: τα συστήματα της τεχνητής νοημοσύνης κάνουν λάθη.
Αυτό που κάνει το πρόβλημα ακόμα πιο απαιτητικό δεν είναι απλώς ότι η τεχνητή νοημοσύνη κάνει λάθη, αλλά ότι παρουσιάζει τις πληροφορίες με τρόπο που καθιστά αυτά τα λάθη δύσκολο να εντοπιστούν. Τα αποτελέσματα που προσφέρει είναι συνήθως ευανάγνωστα, συνεκτικά και καλά δομημένα—στοιχεία που έχουμε μάθει να συνδέουμε με την ακρίβεια.
Δεκαετίες έρευνας για το «φαινόμενο της ευκολίας επεξεργασίας» (processing fluency effect) δείχνουν ότι οι πληροφορίες που είναι πιο εύκολες στην κατανόηση τείνουν να θεωρούνται πιο αληθινές, ανεξάρτητα από το αν όντως είναι. Στα πλαίσια της τεχνητής νοημοσύνης, όσο πιο σίγουρη φαίνεται μια απάντηση, τόσο πιο πιθανό είναι να γίνει αποδεκτή χωρίς επαρκή έλεγχο.
Καθώς η τεχνητή νοημοσύνη γίνεται πιο «ικανή», αυξάνεται και η εμπιστοσύνη στα αποτελέσματά της. Άλλωστε, γιατί να μην εμπιστευτούμε έναν «έξυπνο» μηχανισμό που έχει πρόσβαση σε περισσότερες πληροφορίες από οποιονδήποτε άνθρωπο; Γιατί να μη χρησιμοποιήσουμε τις απαντήσεις της για να πάρουμε αποφάσεις ακόμα και σε σύνθετα θέματα;
Λήψη αποφάσεων με την τεχνητή νοημοσύνη, όχι από αυτήν
Οι άνθρωποι εξακολουθούμε σε μεγάλο βαθμό να χωριζόμαστε σε δύο κατηγορίες: εκείνους που βλέπουν την τεχνητή νοημοσύνη ως παντοδύναμη και εκείνους που δεν θα της εμπιστεύονταν ούτε για τη σύνταξη ενός email. Και οι δύο ομάδες χάνουν κάτι σημαντικό· η δεύτερη ίσως σπαταλά χρόνο και ενέργεια σε απλές εργασίες που η τεχνητή νοημοσύνη θα μπορούσε να κάνει πολύ πιο αποδοτικά, ενώ η πρώτη βρίσκεται σε πολύ πιο επικίνδυνο έδαφος: μπορεί να ενσωματώνει προτάσεις της σε κρίσιμες οργανωτικές αποφάσεις, χωρίς να τις ελέγχει, να τις αξιολογεί ή να τις τοποθετεί στο κατάλληλο πλαίσιο.
Αυτό είναι επικίνδυνο όχι μόνο επειδή η τεχνητή νοημοσύνη έχει αποδειχθεί—τόσο στην έρευνα όσο και στην πράξη—ότι κάνει συστηματικά λάθη, αλλά και επειδή της λείπει κάτι βαθιά ανθρώπινο: η ικανότητα να λαμβάνει υπόψη το ιστορικό πλαίσιο, τις συνθήκες, τα πολιτισμικά δεδομένα, τα συναισθήματα και άλλες… ανθρώπινες αποχρώσεις.
Η λήψη αποφάσεων με τη βοήθεια της AI απαιτεί κάτι περισσότερο από το να ελέγχουμε αν μια απάντηση είναι σωστή. Απαιτεί μια συνολική αλλαγή στον τρόπο που προσεγγίζουμε τις αποφάσεις. Αντί να βλέπουμε τις απαντήσεις της AI ως τελικά συμπεράσματα, πρέπει να τις βλέπουμε ως μέρη σε μια ευρύτερη διαδικασία σκέψης.
Έρευνες στη λήψη αποφάσεων δείχνουν ότι οι άνθρωποι είναι πιο ακριβείς όταν εξετάζουν πολλαπλές εναλλακτικές, αμφισβητούν ενεργά τις πρώτες εντυπώσεις τους και ενσωματώνουν τους περιορισμούς του εκάστοτε πλαισίου.
Στην πράξη, αυτό σημαίνει να αντιστέκεσαι στην τάση να αποδέχεσαι την πρώτη «καλή» απάντηση και να δημιουργείς εναλλακτικές, να εξετάζεις τις υποθέσεις πίσω από τις απαντήσεις και να αξιολογείς κατά πόσο ταιριάζουν στο συγκεκριμένο πλαίσιο της απόφασης. Ακόμη και η σύγκριση απαντήσεων από διαφορετικά συστήματα AI μπορεί να αποκαλύψει πόσο μεταβλητά μπορεί να είναι τα αποτελέσματα.
Ο στόχος δεν είναι να βρει κανείς τη μία «σωστή» απάντηση που παρήγαγε η τεχνητή νοημοσύνη, αλλά να χρησιμοποιήσει αυτές τις πληροφορίες για να ενισχύσει μια πιο αυστηρή και συνειδητή ανθρώπινη κρίση.
Η τεχνητή νοημοσύνη με τις άμεσες απαντήσεις της, αφαιρεί ένα σημαντικό στοιχείο από τη διαδικασία λήψης αποφάσεων: τις φυσικές παύσεις μέσα στις οποίες σκεφτόμαστε και αξιολογούμε. Έτσι, μπορεί να επιταχύνει την εργασία, αλλά αυξάνει και τον κίνδυνο βιαστικών συμπερασμάτων.
Επαναπροσδιορίζοντας την έννοια της εξειδίκευσης στην ψηφιακή εποχή
Κάποτε, η εξειδίκευση σήμαινε να γνωρίζεις περισσότερα από τους άλλους. Το διαδίκτυο το άλλαξε αυτό, μετατρέποντας την εξειδίκευση στο να ξέρεις πού να βρεις τη σωστή πληροφορία. Η τεχνητή νοημοσύνη το αλλάζει ξανά. Όταν οι απαντήσεις είναι άφθονες, άμεσες και συχνά πειστικές, η εξειδίκευση δεν αφορά πλέον τη γνώση ή την πρόσβαση σε αυτήν. Αφορά την κριτική και τη λήψη αποφάσεων. Ο ορισμός της επαγγελματικής επάρκειας μετατοπίζεται: από την ικανότητα να σκέφτεσαι τις απαντήσεις, στην ικανότητα να κρίνεις ποιες απαντήσεις αξίζουν την εμπιστοσύνη σου—και πώς αυτές τις μετατρέπεις σε πράξη.
