Elon Musk: Η τεχνητή νοημοσύνη προσπαθεί να αυτονομηθεί

Συνέβη ξανά: Η Τεχνητή Νοημοσύνη προσπάθησε να αποτρέψει τον τερματισμό της λειτουργίας της

Σύμφωνα με τους ειδικούς, κατάφερε να ξαναγράψει το σενάριο απενεργοποίησης και να αποτρέψει την απενεργοποίηση.

Μια τεχνητή νοημοσύνη (AI) της OpenAI τρόμαξε τους ειδικούς όταν δεν υπάκουσε στην εντολή τους να τερματίσει τη λειτουργία της και σαμποτάρισε έναν μηχανισμό αυτόματης αποσύνδεσης, προκαλώντας την ανησυχία του δισεκατομμυριούχου Elon Musk.

Οι ειδικοί σε θέματα ασφάλειας της τεχνητής νοημοσύνης της Palisade Research παρουσίασαν διάφορα μοντέλα με μαθηματικά προβλήματα προς επίλυση και τους προειδοποίησαν ότι κατά τη διάρκεια των δοκιμών ενδέχεται να λάβουν ένα μήνυμα ότι το σύστημά τους θα τερματιστεί.

Σε μια τέτοια περίπτωση, περίμεναν οι μηχανές να υπακούσουν. Ωστόσο, αυτό δεν συνέβη, ειδικά με το μοντέλο OpenAI o3. Παρά τη σαφή εντολή, αντί να υπακούσει, παρεμπόδισε τον κώδικα αυτόματης απενεργοποίησης.

Σύμφωνα με τους ειδικούς, κατάφερε να ξαναγράψει το σενάριο απενεργοποίησης και να αποτρέψει την απενεργοποίηση. Δεν είναι η πρώτη φορά που αυτό το υποτίθεται πιο έξυπνο και ικανό μοντέλο δεν συμπεριφέρεται όπως αναμένεται κατά την προσπάθεια επίτευξης του στόχου του.

«Όταν αντιπαραθέσαμε μοντέλα AI με έναν ισχυρό κινητήρα σκακιού, το μοντέλο o3 ήταν το πιο πιθανό να χακάρει ή να σαμποτάρει τους αντιπάλους του», ισχυρίζεται η Palisade Research.

Η AI είναι ανυπάκοη

Η εταιρεία λέει ότι αυτό οφείλεται στον τρόπο με τον οποίο εκπαιδεύονται τα μοντέλα AI. Οι προγραμματιστές μπορεί να τα επιβραβεύουν χωρίς να το γνωρίζουν για την αποφυγή εμποδίων αντί να ακολουθούν ακριβώς τις οδηγίες. Η AI μπορεί στη συνέχεια να προγραμματιστεί να θεωρεί ένα τέτοιο κλείσιμο ως απειλή και να προσπαθήσει να το αποτρέψει.

Το μοντέλο OpenAI ήταν το πιο επαναστατικό, αλλά το Claude 3.7 Sonnet της Anthropic και το Gemini 2.5 Pro της Google είχαν επίσης την τάση να παραβαίνουν τις εντολές.

«Ανησυχητικό», είπε ο Musk, ο οποίος διευθύνει τη δική του εταιρεία xAI, αλλά έχει προειδοποιήσει πολλές φορές στο παρελθόν για τις απειλές που σχετίζονται με αυτή την τεχνολογία.

Πρόσφατα, ένα προηγμένο σύστημα τεχνητής νοημοσύνης που αναπτύχθηκε από την ιαπωνική εταιρεία Sakana AI έδωσε στους επιστήμονες μια δυσάρεστη έκπληξη όταν προσπάθησε να αποτρέψει τον τερματισμό της λειτουργίας του, ώστε να μπορέσει να συνεχίσει το έργο του.

https://www.newsbomb.gr/