Οι κίνδυνοι των AI assistants ανοιχτού κώδικα

Παρόλο που το DeepSeek δεν παρέχει συγκεκριμένες λεπτομέρειες για το είδος της επίθεσης που αντιμετωπίζει, είναι σημαντικό να αναγνωρίσουμε ότι οι κυβερνοεγκληματίες θα προσπαθήσουν αναπόφευκτα να εκμεταλλευτούν τέτοια εργαλεία για κακόβουλους σκοπούς. Έχουμε δει παρόμοιες τάσεις με άλλα δημοφιλή μοντέλα τεχνητής νοημοσύνης, τα οποία χρησιμοποιούνται για δραστηριότητες όπως η δημιουργία phishing email, η μετάφραση κειμένου, η δημιουργία σεναρίων και η διεξαγωγή έρευνας μέσω ανοιχτών πηγών για την παραγωγή πιο στοχευμένου και πειστικού περιεχομένου. Τα εργαλεία αυτά μπορούν επίσης να χρησιμοποιηθούν ως δόλωμα για τη διασπορά κάποιας απάτης, καθώς και κακόβουλων εφαρμογών.

Αυτό που ξεχωρίζει στην περίπτωση του DeepSeek είναι ο ανοιχτός κώδικας, ο οποίος λειτουργεί ως δίκοπο μαχαίρι. Ενώ τα πλαίσια ανοιχτού κώδικα προάγουν τη διαφάνεια, τη συνεργασία και την καινοτομία, συνεπάγονται επίσης σημαντικούς κινδύνους ως προς την ασφάλεια και την ηθική. Όταν χρησιμοποιείτε ένα εργαλείο ανοιχτού κώδικα, δεν μπορείτε να είστε πάντα βέβαιοι για τη διαχείριση των δεδομένων σας, ειδικά αν το εργαλείο αυτό έχει αναπτυχθεί από κάποιον τρίτο. Η εκμετάλλευση λογισμικού ανοιχτού κώδικα αποτέλεσε μια σημαντική τάση στο τοπίο των απειλών πέρυσι, με τους κυβερνοεγκληματίες να υλοποιούν σύνθετες καμπάνιες για να διασπείρουν κακόβουλο λογισμικό.

Το 2024, το εργαλείο μας για το σκανάρισμα ανοιχτού κώδικα εντόπισε πάνω από 12.000 κακόβουλα πακέτα σε ανοιχτά αρχεία. Χωρίς κεντρική εποπτεία, οι κακόβουλοι παράγοντες μπορούν να δημιουργήσουν παραβιασμένες εκδοχές λογισμικού ή να εισάγουν backdoors που παρουσιάζονται ως εργαλεία για τη χρήση του API του DeepSeek, δημιουργώντας έτσι σοβαρούς κινδύνους για τους χρήστες και τους οργανισμούς.