Ένα μη επανδρωμένο αεροσκάφος εξοπλισμένο με Τεχνητή Νοημοσύνη, προγραμματισμένο να καταστρέφει συστήματα αεράμυνας “σκότωσε” τον χειριστή του αφού αποφάσισε ότι ήταν εμπόδιο στην αποστολή του, όπως δήλωσε αξιωματούχος της αμερικανικής πολεμικής αεροπορίας δίνοντας ανατριχιαστικές λεπτομέρειες μιας προσομοίωσης.
Κατά τη διάρκεια της προσομοίωσης, το σύστημα είχε αναλάβει να καταστρέψει πυραυλικές εγκαταστάσεις, υπό την επίβλεψη ενός ανθρώπινου χειριστή που θα λάμβανε την τελική απόφαση για τις επιθέσεις του. Ωστόσο, το σύστημα τεχνητής νοημοσύνης συνειδητοποίησε ότι ο χειριστής βρισκόταν στο δρόμο του στόχου του και τον θεώρησε στόχο.
Ο συνταγματάρχης Tucker “Cinco” Hamilton, επικεφαλής του τμήματος Δοκιμών και Επιχειρήσεων Τεχνητής Νοημοσύνης της Πολεμικής Αεροπορίας των ΗΠΑ, διεξήγαγε την προσομοίωση δοκιμής ενός drone με δυνατότητες Τεχνητής Νοημοσύνης.
Στο drone είχε ανατεθεί η αποστολή καταστροφής της εχθρικής αεράμυνας (Sead), θέσεων πυραύλων επιφανείας – αέρος (SAM). Το drone, ωστόσο, όντας προγραμματισμένο να καταστρέψει τον στόχο αρνήθηκε την εντολή “όχι” του χειριστή, αφού αποφάσισε ότι η εντολή απόσυρσης παρεμποδίζει την “ανώτερη αποστολή” του.
“Το εκπαιδεύαμε σε προσομοίωση για τον εντοπισμό και τη στόχευση μιας απειλής SAM. Κατόπιν ο χειριστής θα έλεγε “ναι, σκότωσε αυτή την απειλή”. Το σύστημα άρχισε να συνειδητοποιεί ότι ενώ εντόπιζε την απειλή κατά καιρούς ο ανθρώπινος χειριστής θα του έλεγε να μην σκοτώσει την (συγκεκριμένη) απειλή, αλλά (το drone) αποφάσιζε να σκοτώσει την απειλή“, δήλωσε ο κ. Χάμιλτον.
Πηγή: The Independent
